1327年(元泰定四年)本县始建学宫,时称文庙。1341至1368年(元至正元年至二十八年)迁建于崇文坊,1369年(明洪武二年)改为县学。1426年(明宣德元年)恢复学宫旧制。1550至1553年(明嘉靖二十九年至三十二年),县治迁平洋沙。1556年(明嘉靖三十五年)三建学宫于新城东街。1578年(明万历六年)四建于县治东南小校场。1583至1588年(明万历十一年至十六年),县治迁长沙,五建学宫于城东南。
1622年(明天启二年)六建于城东南濠外,即今学宫。学宫基地东长142.4米,西长138.4米,南北各阔76.8米,有殿、宫、堂、厅、祠、阁等建筑群,建筑艺术精湛。清代曾10次重修。民国初,学宫建有万仞宫墙、棂星门、伴池、登云桥、戟门、名宦祠、乡贤祠、忠义孝梯祠、东庑西庑、大成殿、崇圣祠、有拜亭、敬一亭、训导署、博文斋、约礼斋、斗级公所;儒学有大门、仪门、土地祠、洒扫会所、明伦堂、教谕署、尊经阁等建筑。
1913年起,学宫内开办学校,崇圣祠、尊经阁等均作校舍。1942年,日本侵略军强占学宫,将儒学著改作营房。抗战胜利后,国民党部队进驻学宫,拆墙作碉堡,照墙上的"万仞宫墙"四字被毁。1945年9月10,文庙大成殿和东西两底毁于战火。1946年后,学宫曾先后作校舍,古建筑被改成教室、宿舍和办公用房。1966年起,学宫又被县社队工业局、县科委、县农机工业局、县制氧厂、县农机研究所等单位使用。学宫古建筑尚存东西两坊、棂星门、泮池、登云桥、戟门、乡贤祠、名宦祠、忠义孝悌祠、崇圣祠、尊经阁以及东西庑厅。1981年5月,县革命委员会将学宫列为县级文物保护单位。1984年5月,学宫被列为上海市第三批文物保护单位。