梁漱溟自己也明白他的政治主张不会有什么结果，便又重新回到了文化问题上。因改造文化必须由教育入手，于是1922年秋，他在上海《中华新报》宣布，今后将致力于教育问题。
梁漱溟对于教育问题的思考由来已久，在过去的文章和演讲中多次提到，只是缺乏系统的表述。他认为中国的传统教育方式偏于意向，讲的多是君子之道，而西方则注重知识的传授。因此中国必须吸收西方教育的长处。但知识只是教人以方法，授人以工具，对生活起一种辅助作用，做人却是教育的根本。反观当时国内的教育现状，他认为教育改革走得太过，只是刻意模仿西方，忽略了心理和生理各方面协调。他主张教育应着眼于一个人的全面生活而领着他去走人生之路。为此，作为教育者，必须和受教育者结成亲密的朋友关系而去影响、指导受教育者。
基于这一教育思想，梁漱溟在1921年赴山东演讲时就提议在曲阜创办一所新式大学，并着手于筹备工作。在他的努力和朋友的帮助下，筹备工作进行得比较顺利，先后募集了公私捐款数万元，并在曲阜东南二里选定了校址。
但这些对于办一所大学无异于杯水车薪，梁漱溟面临着两大难题，一是经费，一是师资，同时，生源和办学经验也困扰着他。无奈之下，梁决定先办一所中学和一个学会，然后再实现创办大学的目标。
经过与政府的协商和朋友的多方努力，梁漱溟选定山东第六中学即曹州中学试办高中部。现在办曹州中学的同仁将作为日后办曲阜大学的同志，而曹州高中自然成为未来曲阜大学的预科。
1924年夏，曹州高中正式成立，第一届招收两个班共80人。梁漱溟根据有教无类的办学思想，并不规定收费标准，学生家长有钱的多出，没钱的少出，希望由此替教育界开出一条新路。
在开办曹州中学的同时，梁漱溟还在曹州开设了重华书院，培养各类专门人才，为将来创办曲阜大学作准备。
