上海拥有10所211工程重点建设高校，其中4所为985工程高校。全市现有100多所科研机构，10万科研人员，及100多所专业技术培训机构。

宋元祐年间，华亭县首建县学。淳祐四年(1244年)，崇明建立今有记载的上海地区最早书院天赐书堂。元至元九年(1272年)，上海地区最早的义塾璜溪义塾设立，为贫寒子弟授学。至元十五年，松江府立，华亭县学升为府学。至元二十三年始设社学。元代，元廷诏立书院，上海地区设有书院5所。明洪武八年(1375年)三月，松江府令府州县每50家设社学一所，社学迅速发展。清承前制，遍设县学、社学、义学和书院等。顺治九年(1652年)，清廷明诏每乡置社学一所。康熙二十五年(1686年)，以社学多滥为由整饬，社学衰败，广设义学，以便贫寒子弟就读。至光绪年间，先后设义学125所。清代，上海地区约建书院46所。道光后，众多书院开设算术、常识等新式课程。

1978～1990年，全市教育经过拨乱反正，得到迅速发展。提出总体发展规划，增加教育投入，加强依法治教，改革办学体制，完善学位和研究生教育制度。到70年代末，市区普及初中教育，市郊学龄儿童也全部入学。1981年，市政府总结推广四教一齐抓(学前教育、中小学教育、职业教育、成人教育)的经验，进一步推动市郊普及初等教育。1983年，全市普及初等教育。

为适应全国和上海经济、社会发展的需要，1981年、1982年中共上海市委、市政府提出解决潜在的人才危机是发展上海经济和社会事业的首要问题。1986年，又提出上海教育坚持方向，深化改革，增加投入，提高质量，注重效益，适度发展，社会参与，横向协调的总体发展战略。

改革招生毕业生就业制度。1995年起，17所高校实行自主招生，市属高校除师范、农村院校及部分特殊专业外，全部实行缴费上学制度。中央部委属在沪院校大多也实行招生并轨。90年代初，高校毕业生由国家计划分配，逐步改为双向选择、择优录用的就业制度，并开始进入人才市场。继续推进课程教材改革。1995年，全市小学1～3年级和高中一年级施行新的课程教材。

推进社区教育。1985年4月《中共中央关于教育体制改革的决定》公布后，上海开始探索教育与社会结合。1985年，出现工厂社会支教基金会。1990年，全市市区141个街道(镇)和12个区都建立相应的社区教育委员会。1993年2月后，社区教育组织得到进一步巩固和发展。到1993年，14个市区和所有街道、镇建立社区教育组织，市郊6县乡镇社区教育组织也有所发展。1995年4月，上海交通大学与徐汇区政府共建青少年教育基地，首创高校参与社区精神文明建设。

1994年9月，上海市普及九年义务教育和基本扫除青壮年文盲工作通过国家教委评估验收。1995年，高中阶段入学率达83%;高等学校入学率占同龄人口20%;每年有200万人次接受各类成人教育，新增劳动力的受教育年限超过12年，达到中等发达国家水平。是年，全市有高校45所、在校学生14.4万人，中学756所、在校学生72.39万人，小学1807所、在校学生109.78万人，幼儿园3115所、在园幼儿30.77万人，中等专业学校100所、在校学生10.95万人，技工学校154所、在校学生4.57万人，职业中学76所、在校学生8.64万人，特殊教育学校39所、在校学生0.57万人，工读学校15所、在校学生0.24万人，各类成人教育学校974所、在校学生27.89万人。