徐州三中校址原为1938年日本人建立供旅徐日侨子弟读书的一所日本国民小学。抗战胜利后,颠沛辗转的江苏省立江苏学院曾先后于1946年和1948年两度迁至徐州此处办学。江苏省立江苏学院初建学院理事会,顾祝同为院长。全国人大副委员长费孝通,著名教授马寅初、周谷城、施蛰存,国际法专家周楠,著名社会学家王艮仲,合肥工业大学校长蔡秉人等曾在江苏学院任教、讲学。
1949年2月27日,经山东省人民政府批准,徐州市军营会文教部决定建立徐州市第三中学,由原来的“树德”、“建国”、“鼎铭”、“子扬”、“正德”等私立中学联合成立“山东省徐州市第三中学”,校址在原江苏学院旧址,张再铮任副校长并主持工作,实行初中、高中各三年的学制。同年4月,由临时合并的原建国中学和树德中学迁至现址,并隆重地补行了第一次开学典礼。
1950年5月,成立“三中党支部”,高华任支部书记,相继建立“三中团支部”和“三中工会”。
1953年,徐州归属江苏后,省主席谭震林任命肖德模为徐州市第三中学副校长。学校由原17个班、756人增至26个班、1410人。教师由原38人增至52人,兴建两幢学生宿舍楼。
1961年被评为江苏省重点中学。
1999年9月,依托三中建立的民办初中--树人中学开始招生。
2000年,初中部停止招生,成为完全高级中学。
2001年建成12000平方米的教学楼。
2002年建成8000平方米的实验办公综合楼。
2003年建成全省教育系统一流的具备灯光和2200座体育看台的标准运动场。
2004年被评为江苏省四星级学校。
2005年4月我校购买市百货站仓库,经过两个月的改造,建成具有26口多媒体教室、6口办公室、两个能容纳400余人的报告厅、一个容纳200人的餐厅及教师休息室的三中西校区。高三年级师生8月18日迁入本校区。
2011年9月,徐州三中、徐州市新盛建设发展投资有限公司联合举办的民办学校——“徐州市树人初级中学”成立。原徐州市树人中学的初中部被划入树人初级中学。
2013年5月,徐州市第十中学由徐州三中托管,成立托管理事会。6月,“徐州三中实验学校”挂牌并开始招生。