袁世凯出身行伍,喜欢强调自己没学问但是善于实干。他曾经向德国公使吹嘘说:“张中堂(张之洞,是探花出身) 是讲学问的;我是不讲学问的,我是讲办事的。”袁世凯的幕僚将这件事得意地告诉辜鸿铭。辜鸿铭不假思索地回答:“老妈子倒马桶,固用不着学问;除倒马桶外,我不知天下有何事是无学问的人可以办得好。”后袁世凯死,全国举哀三天,辜鸿铭却特意请来一个戏班,在家大开堂会,热闹了三天。
辜鸿铭在北京大学任教,人称“辜疯子”。他总是梳着辫子,走进教室,学生们一片哄堂大笑,辜平静地说:“我头上的辫子是有形的,你们心中的辫子却是无形的。”闻听此言,北大学生一片静默。辜鸿铭曾一度是坚决的保皇派,即使民国时期在北京大学讲课,仍然留着大辫子,带着书童。他辩称“我许多外国朋友嘲笑我对清室的愚忠,但我之效忠于清室,非仅效忠于吾父及列祖列宗世代生活于其仁政之下的清室,也是经由对清室的效忠而效忠于中国之宗教,效忠于中华民族之文明事业。”