徐兢祖上原籍建州瓯宁（今福建建瓯），曾祖徐爽迁居和州历阳（今安徽和县），并落户于此。
徐兢出身官宦世家，自曾祖起，徐家代代为官。父亲徐闳中，官至朝请大夫、直秘阁。
宋哲宗元祐六年（1091年）五月八日，徐兢生于鄂州江夏（今湖北武汉江夏区），当时鄂州水漫城郭，时任州法曹的徐闳中将全家安置在黄鹤楼，当日夜里，徐兢降生于楼内。
徐兢自幼喜好书画，颖异不群，受人器重。十八岁时，进入太学，虽然学业出众，但每参加解试，成绩却不理想。
宋徽宗政和四年（1114年），以父荫补将仕郎，授通州（今江苏南通）司刑曹事。尚书郎徐禋（yīn）措置东南九路铜事，辟举徐兢为干办公事，当时桂州有个叫黄麟的，自称可使大理国入贡，徐禋命徐兢前去查证，徐兢到后诘问大理山川故实，黄麟不能应对，于是辨明其诈。
后为开封府雍丘（现河南杞县）县令。当时，有兄弟“长年诉讼，久拖不决”，徐兢就让手下设一席案，让兄弟俩每天坐卧在一起，吃饭也在一个锅里。没几天，兄弟二人就感悟了，抱头痛哭说：“这是长官教化我们，我们愿意改过自新。”徐兢因此在雍丘树立威望，全邑治安由此大好。
京西转运使召集两百逃兵为自己修筑府邸，这些人为害县中，侵扰百姓，徐兢将其全部收押。转运使闻听此事，亲自带人闯进牢狱，要放出他们。徐兢说：“地位不论高低，都应遵从法律，否则就犯了欺君之罪，欺瞒君主而取悦他人，我不忍心这么做。”于是带人堵住牢狱的出路，历数他们的罪行，没有一个人得以逃脱，因此声誉大增，远近闻名。
后为郑州原武（今河南原阳县原武镇）县令，前任县令贪虐病民，徐兢到任后则关怀备至，深受民众爱戴。燕国公郑居中感慨道：“如果县令都像徐兢那样，天下怎能不大治呢？”后丁母忧，服除，监元丰库。
宣和四年（1122年），高丽睿宗王俣去世，徽宗特派给事中路允迪、中书舍人傅墨卿等人前去吊唁，以加强与高丽的联系。当时，高丽请求“愿得能书者至国中”，希望书画能人到高丽交流，擅长书画的徐兢就被选中成为随使。
宣和五年（1123年）二月，徐兢以国信使提辖官，随使高丽，启程前，他们特地前往同文馆学习出使高丽的注意事项，以及当地的风俗习惯。宋徽宗还专门安排人为这个使团建造了两艘“神舟”，用以“震慑夷狄”，这艘大船到达高丽后，引得高丽人“倾国耸观，欢呼嘉叹”。三月十八日，一切就绪，宋朝使团由明州（今浙江宁波）起航，经过黑山岛，到达礼成港（今韩国仁川），六月抵达高丽国首都开京（今朝鲜开城）。沿路之中，徐兢处处留心各地的山川形胜、风俗习惯等。
使成回国后，于宣和六年（1124年）六月著成《宣和奉使高丽图经》一书，进于宋徽宗，其序自述“汉张骞使月氏，十有三年而后归，仅能言其所历之国地形物产而已。臣在高丽月余，馆有兵卫，出才五六。至于驰驱车马之间，献酬尊俎之上，耳目所及，非若十三岁之久，而其建国立政之体，风俗事物之宜，绘画纪次殆无遗者，非敢矜博洽饰浮剽，以尘上听，盖摭其实，庶几报器使之万一。”徽宗览后大悦，召徐兢问对于便殿，赐同进士出身，知大宗正丞事，兼掌书学，后迁刑部员外郎。
宣和七年（1125年）四月，蔡京被罢免，徐兢因其父与蔡京相善，被贬知池州（今安徽池州）永丰监。后丁父忧，起为沿江制置司参谋、主南京（今河南商丘）鸿庆宫事，后落职奉祠于台州崇道观。
晚年于信州弋阳（今江西弋阳）治圃数十亩，名曰洗砚池，幽静闻名江南，自号自信居士，奉祠二十余年，安于退隐，无可动心之事。
宋高宗绍兴二十三年（1153年），徐兢回历阳祭祖，归途中病故于苏州吴县（江苏苏州），年六十三。
工诸体书法，尤擅篆书。亦善山水人物画。
人物评价工诸体书法，尤擅篆书。亦善山水人物画。
