在谈到蔡元培与蒋介石集团的关系时，有人把1928年8月17日蔡元培辞职一事，描述为关键性“转折”：说蔡元培从此出都门而定居沪上，极少来南京，进而与最高当局决裂，成为“反蒋派”代表人物云云。
其实，实际情况要复杂的多。
就在蔡元培宣布辞职的同一天，由他提名为清华大学校长的罗家伦获得国民政府的正式任命。这应该不是巧合。
关于蔡的辞职，上海各报纷纷揣测原因，《时事新报》称：“据知其底细者言，蔡氏辞职实有二因：一系职务纷繁，劳苦太甚；一系趁五次会后，政府改组将有变更，可以及时引退。至有谓蔡因反对大学区制而辞职者，并非事实。”
此一报道，显然意在平息和淡化外间对此事的关注。
约半个月后，蒋介石在上海西摩路宋宅宴请留沪各中央委员，蔡元培与胡汉民、戴季陶、李石曾、李宗仁、宋子文等八人出席。席间议及中.央政.治.会.议改组、五院院长人选等事项。就是在此前后，蔡元培被内定为五院之一的监察院院长。
9月11日，蔡元培致函胡汉民、蒋介石、谭延闓，申明：“监察院院长决不担任，大学院院长决不复职”，同时又郑重表示：“此后愿以中央监察委员资格尽力于党务，以政.治.会.议委员之资格尽力于政务（弟曾辞政.治.会.议委员，然近经谭先生及孔庸之先生转示会中同人意见，弟遵，当取消辞意），以中央研究院院长之资格尽力于教育学术。余生几何，能力有限！果能如此尽力，自问以告无罪。若再苛求，必多贻误。自知甚明，决难迁就。沥诚奉恳，务请玉成。”
关于大学院院长，是南京国民政府那个时期的教育行政首长。1927年7月南京国民政府公布《中华民国大学院组织法》，规定中国民国大学院为全国最高学术教育机关，承国民政府之命管理全国学术及教育行政事宜，不隶属于国民政府；设大学院院长一人，综理全院事务，兼任大学院大学委员会委员长，并为国民政府委员。
首任大学院院长即是蔡元培。
对于蔡元培请辞大学院长，国民党高层曾指派宋子文、孔祥熙等“躬亲赴沪，恳切挽留”。蔡仍坚辞，并“荐贤自代”，起初传闻蔡推荐的人选是易培基（属李石曾的中法系），而后来接替蔡氏职务的则是蒋梦麟。至于监察院长一职，蔡推却不过，只得应允暂居名义，具体院务由副院长陈果夫署理，此种状况延续近一年之久方告结束。
9月下旬，蔡元培与李石曾等同车由沪到宁，同寓张静江宅邸，蔡曾往“总司令部看蒋先生，其时胡展堂等亦在座”。其后，蔡元培由宁返沪，以私人资格力劝同样提出“辞去本兼各职”的于佑任“勿即辞职”。此后，蔡元培来往于沪宁之间，从事政务，其行踪载于当时“京沪各报报端”。
1929年间，蔡元培的国务活动也颇为频繁，他与蒋介石等高层人士的相互往来也时有所见。大体说来，至1930年以后，蔡到南京的次数才逐渐减少。其实，上海一直是除南京之外的一个极重要的政治舞台，一些“党国大老”聚居于此，国民党及国民政府的一些幕后活动常常在此酝酿生成，蔡元培作为国民党政治集团中的资深要员参与其间，其在宁在沪，好像很难成为判断其政治姿态的标识。
在蔡元培的“从政高峰”期间，他的一个重要使命，便是平息学.潮、弥合党内派系纷争。由于他在政界、学界的崇高威望，几乎总是充当“救火者”或“和事佬”的角色。
北京大学师生为反对北平大学区发生风潮，蔡责无旁贷地出面平息，并一度兼任北大校长，使北大安然渡过“多事之秋”。
交通大学出现校长危机，蔡亦暂时兼领，以求平稳过渡。
国民政府的“首都大学”中央大学连续发生学.潮，拒绝和殴伤校长，政府强令解散该大学。其后成立“中央大学整理委员会”，蔡再次救急，出任该委员会的委员长，亲到南京，与学校师生代表沟通。
而对于国民党内层出不穷的派系之争，蔡以元老身份尽力排解，力求化干戈为玉帛，维系政治统一，此种努力在“九一八”事变后国难深重关头，尤具特别意义。
不过，蔡元培也曾经历过风险。这一年12月15日，北平各校南下示威学生与南京本地学生数百人在中央党部门前示威请愿，一时间群情激奋。蔡元培与陈铭枢被委派出来接见学生，蔡未及数语，即被学生拖下殴打，陈则被学生用木棍猛击头部，当场昏厥。
据报载：“蔡年事已高，右臂为学生所强执，推行半里，头部亦受击颇重”，后被解救送往医院，所幸无大碍。这就是后来被有些新闻记者所渲染的“蔡元培遭绑架”事件。蔡元培事后对新闻界发表谈话说，他理解学生忧患国难的情绪，但对“学风沦替”也深感忧虑。
可是，从事党政活动的“超然”姿态，并不意味着内心深处全无评判，更不等于对现存秩序的麻木迁就。蔡元培本来即是一个是非心极强的知识分子，置身政治舞台，对于自己周围的“党内同志”也自有一番观察和评判，只不过此种“自由议论”不轻易向外界道及而已。
1931年“九一八”事变，东北大片国土沦丧，不久，“一•二八”事变爆发，日本侵略军在上海狂轰滥炸，形势危急。此刻，蔡元培忧心如焚，郁积胸中的不满终于在1932年2月初中央研究院的一次活动中倾泄出来。
他在一次在作时局报告时，先说明他前次留在南京维持危局的苦衷，后来又表示对国民党前途的悲观。他第一个指斥的是宋子文，他说当美国劝阻日军进占锦州时，日军暂按兵不动，那时宋子文便邀拉西曼氏纵酒狂欢，庆祝胜利，谁知不久，日军便进占锦州了。这些地方便表现出宋子文是怎样的幼稚。“宋少不更事，固不足论。最可怪的要算所谓党国的领袖第一，胡展堂那位先生，在和会（即宁粤和谈）以前满口承诺合作，对于既往概不追究，而在和会时，他便首先作梗；在和会以后，他又负气不到南京，自己在广州组织起三个委员会来”。
讲到蒋介石，蔡元培言道：“他的专横独裁，实为古今中外罕有，只要看他的政府，一切措施无不出自私心，财政部长辞职时，他可以将一切事务官完全引跑了，他们的薪水非但分文不欠，并且他们临走的时候，还每人发干薪两月，而其他各部人员的薪水都欠几个月，教育（部）竟积欠几百万。蒋临走的时候，还请了三位军人做省政府主席，他的合作精神及和平诚意，已可见一般。”
在报告中，蔡忧心重重，深感“时局艰难，政治尤一无办法”，言下不胜唏嘘。
这一通牢骚和议论，可谓如梗在喉，不吐不快，其中涉及的对日外交内幕、宁粤和谈经过、蒋氏二次下野前的部署等细节，非局内之人难以道及。
蔡元培以党国元老和国民党中央监察委员的身份，在一系列事件中，处处与国民党的政治举措唱对台戏，让南京国民党当局一部分主政者极为恼火，遂对蔡元培发出警告以至于恐吓和威胁。
1932年11月，国民党南京市党部对蔡元培、杨杏佛营救陈独秀的做法提出书面警告，指其“为清议所不值”“徇于私情，曲加保护，为反动张目”。又于次年2月10日要求解散民权保障同盟，并对蔡元培、宋庆龄提出警告，指责“蔡元培、宋庆龄等擅组民权保障同盟，发表宣言，保障反革命及共.党要犯，实破坏本党威信，逾越中委职权”。
1933年6月18日，民权保障同盟总干事、中国人权运动先驱杨杏佛带着儿子驾车外出，至上海亚尔培路时，设伏的“蓝衣社”几名特务突然从路边冲出，将杨杏佛乱枪杀害。
蔡元培闻讯后即驱车前往现场查看，随后到医院瞻仰杨杏佛遗体，集结同仁商讨善后事宜。同日，他以中研院长的身份致电汪精卫、林森，要求立即“饬属缉凶，以维法纪”。
参加杨杏佛公祭的鲁迅说：“今天蔡先生是去的，他很悲哀。……打死杨杏佛，原是对于孙夫人和蔡先生的警告，但他们两人是坚决的。”
杨杏佛的事直接导致了民权保障同盟在无形中解散，但这没有阻挡住蔡元培人权事业的脚步。
1933年10月，著名新闻人邹韬奋主编的《生活周刊》因为宣扬民主、抗日而被国民党当局查封，蔡元培连发两电要求解禁。
1934年2月，共产党员、国民党的老同志何香凝之婿李少石被抓，蔡元培参与营救，与张静江等设法将其保释。
同年9月，著名史学家范文澜在北平被国民党宪兵逮捕，蔡元培即致信给汪精卫，促请其下令释放。
1935年2月，共.产党的重要领导人瞿秋白被国民党捕获，蔡元培知道国民党对付共产党人的手段，他即在国民党中央干部会议上力为辩护，他说像瞿秋白这样的天才在中国不可多得，绝不能杀。
总之，抗战全面爆发的前几年，为保护进步人士，蔡元培不避凶险，付出了巨大的努力。