1960年3月，在中共上海市委领导下，以华东师范大学为主，复旦大学、华东化工学院、市教育局、团市委、上海人民广播电台等单位密切协作，成立上海电视大学。华东师范大学党委书记、副校长常溪萍兼任校长，复旦大学副校长苏步青、华东化工学院院长张江树、市总工会副主席沈涵和市教育局副局长马飞海兼任副校长。4月6日，上海电视大学在上海电视台举行开学典礼。
1979年2月，为加强对电大工作的领导，市革委会副主任杨恺兼任上海电视大学校长，市教育局局长杭苇、市广播事业局局长郑英年、市总工会副主席张伟强、市高教局副局长韩中岳兼任副校长，陆文才任专职副校长。
1981年6月，经市人民政府批准，上海电视大学成为上海地区首批试办高等教育自学考试的七所高校之一。同年11月，上海市高等教育自学考试委员会印发的《上海市高等教育自学考试暂行办法实施意见》又指出：“上海电视大学按中央广播电视大学课程和进度举办的机械、电子专业基础课与专业课的自学收看考试（学历按专科），也属自学考试性质”。
1993年2月，在上海电视大学复办15周年之际，中共中央政治局委员、上海市委书记吴邦国和全国政协副主席苏步青为学校题词。吴邦国的题词是：“现代化城市需要现代化教育。”2000年，上海电视大学40周年校庆时，中共中央政治局委员、上海市委书记黄菊发来贺信，教育部部长陈至立、上海市市长徐匡迪、市人大主任陈铁迪、市委副书记龚学平、教育部副部长韦钰、市政协副主席谢丽娟等题词勉励。
1995年5月，经上级主管部门批准，上海电视大学与澳大利亚哥伦比亚学院联合创办 “上海电视大学悉尼分校”。这是上海电视大学在海外建立的唯一分校。全国人大前副委员长王光英赞扬说：“这是中澳教育史上的创举。”上海电视大学悉尼分校现在又是上海远程教育集团、上海电视大学的悉尼培训中心，成为上海远程集团、上海电视大学境外培训的重要基地。
1999年10月，在北京举行的亚洲开放大学协会第13届年会上，联合国亚太经社理事会向上海电视大学颁发“1998年人力资源开发银奖”。2009年1月，联合国教科文组织在法国巴黎总部授予上海电视大学“哈马德国王奖”；2009年6月，上海电视大学又获得国际远程教育理事会颁发的“2008年度ICDE团体卓越奖”。
2013年7月24日，上海电视大学正式更名为上海开放大学，设置本科专业、授予学员学士学位，并将承办上海市终身教育学分银行。上海开放大学首批设立的三个本科专业为城市公共安全管理(食品安全方向和社区安全方向)、机械电子工程学和软件工程(信息服务方向)。