青岛大学的前身是私立青岛大学，创办于1924年。著名教育家杨振声、赵太侔，著名学者闻一多、沈从文、梁实秋等曾在这里治学执教，著名诗人臧克家、开国元勋罗荣桓曾在这里求学。
原青岛大学原青岛大学合并之初称为青岛大学文理学院。1984年5月，全国人大六届二次会议上，原国立山大教授、中科院院士曾呈奎、青岛市市委书记王今吾等代表提出“关于创办新型的综合性青岛大学”的议案。同年8月，青岛市人民政府向山东省人民政府呈报“关于建立青岛大学的请示”。1985年9月13日，举行开学典礼。首任校长是来自南开大学的何炳林院士。建校之初青岛市领导和有关部门、企事业单位对学校给予了多方面的支援，有全市六百万人民每人拿出一元钱帮助学校建设之说。1993年，时任青岛市委书记俞正声任青岛大学管委会第一任主任。
原青岛医学院青岛医学院的前身是1939年4月日本商人和日本海军联合在市立医院内创办的学制五年的青岛医科大学，也是国务院首批批准有硕士学位授予权的高等医学院校之一。1958年以前隶属于卫生部，后划归山东省卫生厅。
1940年5月，青岛医科大学改成同仁会青岛东亚医科学院，1944年，改制为4年制的青岛医学专门学校（又称“东亚医专”）。1945年11月，医专被青岛市政法派员接收，并于1946年1月，医专划给国立山东大学筹建医学院，校舍归还市立医院。
妇产科专家李士伟教授被任命为医学院首任院长。1949年6月青岛解放，曾任延安中央医院院长的医学专家魏一斋担任医学院院长。学院集中了一批国内知名的专家、教授，如徐佐夏、潘作新、穆瑞五、沈福彭等。
1956年8月，在全国院系调整中山东大学医学院独立建院，称青岛医学院，校址由鱼山路5号（国立山大校址）迁至黄台路10号和松山路16号。山东大学医学院附设医院亦改称青岛医学院附属医院。
青岛纺织学院青岛大学工商学院合并之初称为山东纺织工学院。山东纺织工学院于1978年4月经国务院批准建立，是省属普通全日制工科高等本科学校，也是山东惟一的纺织高校，直属于山东省纺织工业厅。在国务院学位办进行的评定中在纺织院校中排名第四。
1978年4月，经国务院批准，升格为山东纺织工学院，并于恢复高考的同年开始大学本科招生，1982年起开始招收硕士研究生。1993年被国务院学位委员会批准为硕士学位授予单位，纺织工程学科获得硕士学位授予权。
原青岛师院青岛师范学院是青岛市唯一的普通高等师范院校。前身是1958年开办的青岛师专。1959年山东省高教局正式批准青岛师专筹建计划，次年开始参加全国统一招生。