易卜生说：“你的最大责任是把你这块材料铸造成器。”学问便是铸器的工具。抛弃了学问便是毁了你们自己。
——胡适，1929年中国公学十八级毕业赠言
胡适一生当过两次校长。第一次是在他的母校——上海中国公学，第二次则是在被他视为母校的北京大学。有意思的是，两次当校长的经历都因政治原因而被迫终结，但他所坚持的办学模式、教育理念、思想原则、文化追求，却似一笔丰厚的财富被传承了下来。
1928年春天，胡适出任中国公学校长，1930年5月5日胡适离任。两年任期中，痛感“我们今日还不曾真正有教育”的胡适，率领全校师生协力改革，锐意进取，开创了中国公学历史上的“黄金时代”。[6]
胡适上任后，发现学校连一本正式校规都没有，便首先召开校务会议，通过“校务会议组织大纲”“教务会议组织大纲”和“学校章程起草委员会”等议案。他说：“我想从组织与法律两方入手，不知有效否？”[7]
有了规章制度以后，胡适对学校事务便采取无为而治的态度。所谓“无为”，并不是什么也不干。胡适上任时，全校共有三百多名学生，分散于4个学院17个系，致使学校经费异常困难。为此，他大刀阔斧地裁掉工学院、法学院和经济系，只设文理学院、社会科学院以及中国文学系、哲学系、数理学系等6个系。为了沟通文理，他亲自兼任文理学院院长，让有志于数理的人学点文史知识，有志于文史的人学点自然科学。
为了提高教学质量，胡适邀请一大批著名学者前来任教，其中有人们熟悉的高一涵、张慰慈、杨亮功、罗隆基、梁实秋、郑振铎、陆侃如、冯沅君、全增嘏、叶公超、饶孟侃、黄白薇等。这里特别要指出的是，胡适用人不仅看学历，更注重学力。
破格聘请沈从文来中国公学任教，就生动地体现了胡适伯乐式的眼光。经徐志摩介绍，胡适同意聘用只有高小学历但已显露才华的沈从文，安排他主讲大学部一年级现代文学选修课。沈从文上一堂课只有六块钱报酬，却花八块钱租一辆车来到学校。由于紧张过度，沈从文站在讲台上十多分钟说不出话，在“我见你们人多，要哭了”这句奇特的开场白后，倒也流利地讲述了一番中国文坛的概况。然而，预定一个小时的授课内容，没等下课就讲完了，沈从文再次陷入窘迫之中。胡适课后闻知，笑了笑说：“上课讲不出话来，学生不轰他，这就是成功。”[8]这种及时“庇护”给了沈从文改进教学并在公学站稳脚跟的机会。后来的实践证明，沈从文是能胜任大学教席的，他最终凭借专深的知识和全新的教法赢得了学生的拥护。
在胡适的努力下，中国公学很快改变了过去的形象，学生人数猛增。后来，一位名叫刘宇的学生在写给胡适的信中说：“中国公学我不敢说它好，但我可以说它奇特，为什么呢？思想自由，教职员同心协力，有向上的精神，没腐化的趋势，就凭这点，在全中国可说是找不到的。”他还说，“我的进步应该感谢您和陆先生（侃如）、沈先生（从文）的思想言论”。
事务再繁忙，胡适也从不耽误向学生教授学业。他每星期四上午十时至十二时，在中国公学大礼堂讲“中国文化史”课，还在暑期班开讲“中国最近三百年来的几个思想家”一课。他虽是学界名人，备课却极认真，“每次上一小时的课，必须有四小时至八小时的准备”。他讲课内容凝练生动，观念不落俗套，分析探颐索隐，新意交迭而出。每次上课，学生们皆聚精会神，屏息静听。他在课堂上时常教导学生“为学要如金字塔，要能广大要能高”，鼓励学生写作、讲演，并现场指导，提高了他们的思维与表达能力。
天道酬勤，在胡适校长任内的学生大多数是合格的，成大器者也不乏其人。比如中国的“居里夫人”吴健雄当年是数理学系的学生，却肯在文科方面下很大工夫。有一次她还在胡适指导的作文课上获得了100分。后来她留学美国，胡适仍经常对她关心指导。最终她成为名满天下的物理学家，胡适常常以有这样的学生而自豪。吴健雄也对胡适的教导终生不忘。1985年，吴健雄应邀回国参加母校南京大学校庆纪念，对青年后生谈治学经验时，犹说到胡适先生对她的教导和关心，是她后来积极进取的动力。
1929年7月，中国公学十八级学生毕业，胡适还语重心长地对毕业同学作了演讲，寄语同学们任何时候都“不要抛弃学问”。
