大约在孔子30岁的时候，他创办了私学，招收来自天南海北的弟子，开始了教学活动。以后孔子终生乐此不疲，成为春秋末期成就最大的教育家，他创立的儒家学派也成为中国历史上与教育联系最密切的一个学派。
在中国，从夏朝、商朝、西周到春秋长达1500年左右的奴隶社会里，实行的是“学在王官”的教育制度。国家设立贵族和平民两类学校。贵族学校分小学、大学两级，是专为各级贵族子弟开设的。学习的主要科目是礼、乐、射、御、书、数等课程，由国家任命的教师任教。平民学校为一般平民子弟开设，级别较低，仅学习一般文化知识和从事军事训练。这种教育制度在长期的奴隶社会里培养了奴隶主贵族专政所需要的各类人才，传播了文化科学知识，对社会的发展起了促进作用。然而，这种教育制度的弊病也是十分明显的。它具有鲜明的等级性，规定只有贵族子弟享有充分受教育的权利，平民子弟享有受初级教育的权利，完全剥夺了广大奴隶受教育的权利。同时它传授的知识也仅仅局限于贵族管理国家和统治百姓的方法、手段与经验。随着历史的发展，这种封闭的、由少数人垄断的教育制度越来越不适应社会各阶层日益增长的文化需要，也不利于劳动者素质的提高。到春秋后期，随着王室衰微和地方诸侯国力量的增强，特别是农业、手工业、商业的发展和各地经济文化交流的日趋频繁，社会对各级各类人才的需求大量增加，再加上王室的礼乐官员流散民间，打破原有教育制度的条件成熟了。
在周王室衰微，特别是平王东迁以后，首先是王室的专职文化官员流落四方。他们辗转来到诸侯国或蛮夷戎狄，使过去周王室控制的文化下移到地方乃至边远地区。《论语·微子》一篇就记载了平王时期一批王室乐师的去向：太师挚去了齐国，二饭乐师干去了楚国，三饭乐师缭去了蔡国，四饭乐师缺去了秦国，击鼓的方叔到了黄河之滨，摇小鼓的武到了汉水流域，少师阳和击罄的褒到海边定居。
人才从周室的外流，对于打破周王室对文化的垄断是有益的，有利于文化的传播。其次，随着民间对文化教育需求的增加，一些灭亡或衰落的诸侯国文化教育官员也走向民间。他们创办私学，招收弟子。郑析、少正卯、詹何、王骀等人，就是中国历史上创办私学的先行者。不过，他们办学的规模和影响远远不及孔子。
孔子创办私学虽然不是最早的，但是，由于他办的私学规模大，持续的时间长，培养了一大批有才干的学生。特别是因为他在办学方针、教学内容和教学方法等方面大胆创新，在中国教育史上作出了开拓性的贡献，因而影响深远，被视为中国古代教育事业的祖师。
孔子办学的基本方针是“有教无类”，即招生对象不分贫富贵贱和民族国别，这个方针适应了春秋时期文化下移的潮流，突破了以前的贵族教育体制在出身、国别、族别等诸多方面的限制，迎合了广大富裕平民和被解放的奴隶渴求教育的愿望，因而受到普遍的欢迎。孔子说，不管什么人，只要交上“束脩”（即学费）10条干肉，我就收他做弟子。这就明确地把教师作为一种谋生的职业了。
孔子最早设立的学校在鲁国国都的阙里，也就是今日的孔子故居中。后来，因为入学者十分踊跃，原有的地方难以适应，就在今日孔庙的杏坛一带建筑了新的教学场所。孔子一生从事教育达40多年之久，学生众多。据史料记载有弟子3000人，其中才华出众、品德优良者72人。他的学生遍布当时的许多国家，计有鲁国、卫国、齐国、秦国、陈国、宋国、晋国、吴国、蔡国、燕国等。另外还有不少人不明国籍。真是长城内外，大江南北，黄河上下，都有学生不远千里，登门求教，孔子可谓是桃李遍天下。过去贵族学校对学生国别的限制被彻底打破了。
就学生的出身看，文献记载明确标明出身的弟子共约20人左右，其中除孟懿子、南宫敬叔、司马耕3人出身贵族，澹台灭明出身士阶层，子贡出身商人外，其余大都出身于平民家庭，甚至不乏冉伯牛、冉雍、冉求之类的“贱人”、子张之类的“鄙家”和子路之类的“卞之野人”，他们很有可能是获得解放不久的奴隶。这一切说明，孔子的教育实践是完全遵循了“有教无类”的办学方针的。
在孔子众多的弟子中，子路进入孔子门下特别具有戏剧性。子路姓仲名由，子路是他的字。生于公元前542年，比孔子小9岁。他家住鲁国卞邑（今山东泗水泉林镇），出身微贱。为了奉养贫寒的父母，他从事各种劳作，但仍不得温饱。可能由于长期生活在社会下层，他养成了粗野、豪爽、直率、好勇斗狠和疾恶如仇的性格。他初见孔子时，头插公鸡毛，身佩公猪形饰物，腰挎长剑，态度粗鲁，几乎与孔子弟子发生格斗。但孔子丝毫不嫌弃他，而是对他进行耐心的教育和开导，使他正视自己的缺点和不足，认识学习文化知识对自己成长的重要性，终于心悦诚服地拜孔子为师。他认真读书学习，刻苦磨炼品性，自觉加强道德修养，后来成为孔门弟子中在政事方面具有卓越才能的人物。
孔子办私学，特别注意在教学内容方面进行大胆改革和开拓创新，除贵族和平民学校传授的礼、乐、射、御、书、数等六艺的内容继续传授外，还增加了不少新内容。孔子将这些内容概括为文、行、忠、信等四个方面。
文指文化课。孔子初期办学开设的主要课程是《诗》《书》《礼》《乐》等，加上晚年增开的《易》和《春秋》等课程，他的文化课教学的内容已发展为以后汉朝人概括的新六艺，即《诗》《书》《礼》《易》《乐》和《春秋》了。
孔子特别提高《诗》在各科课程中的地位。有一次，他对学生全面论述诗的功能说：“学诗，可以激发志气，可以提高观察力，可以养成合群的性情，可以抒发心中的怨恨；运用诗中的道理，近可以侍奉父母，远可以侍奉君主；从诗中还可以多知道一些草木鸟兽的名称。”诗歌是一种文学课，孔子第一次比较全面地论述了它的社会功能。
《书》又称《尚书》，分《夏书》《商书》《周书》等，是春秋以前的政治文献和历史传说。这些文献虽然在孔子之前的官学中已在传授，但仅仅是作为文字课。孔子首次将这些散乱的文字合成一部书，把它作为系统的历史教材向学生传授，要求他们通过对以往历史的学习和研究，鉴古知今，总结社会经验，汲取思想营养，提高自己的政治智慧和从政能力。
礼和乐虽然是孔子以前学校教育的传统课程，但是，以前对礼、乐的传授，重视的是典礼仪规和与诗结合在一起的具体乐曲。孔子承袭礼、乐作为教学内容，除了继续重视其固定的有形内容外，更着力开拓和丰富礼乐的内涵。他挖掘蕴藏在礼中的亲亲、尊尊以及人与人之间互敬互让的伦理道德内容，弘扬音乐陶冶性情的审美作用，从而把礼乐教育大大提高了一个层次。
以上《诗》《书》《礼》《乐》为主要内容的文化知识教学，内容广泛，涉及政治、历史、伦理、美学、音乐、文艺以及文献学和相礼技艺等基本技能，实际上总括了夏商以来到春秋时期的全部优秀文化成果。这些文化知识的传授，不仅满足了当时人们日益增长的文化需要，也使古代的优秀文化遗产在传播中得以保存和发展。
孔子的教学内容还有行、忠、信，三者同属行为教育的内容。行就是用所学的理论、原则指导自己的行动。孔子经常说“听其言而观其行”，他对行动与理论相背离的行为是深恶痛绝的。孔子的忠、信具有十分丰富的内涵，是他伦理思想的重要范畴。不过，作为行为教育，它们主要是指对所学理论原则的坚定信念和在实践中持之以恒的执著精神，包含着丰富的德育内容。
除了符合时代需要、内容新颖的教学内容外，孔子在自己的教学活动中还逐渐总结出一套符合认识规律、行之有效的教学原则。作为一个伟大的教育家，孔子终生“学而不厌，诲人不倦”，即努力学习不知满足、教诲别人不知疲倦，平等热情地对待所有的学生，对他们的学习品德甚至个人生活都采取热情关怀和认真负责的态度。在学术问题上，他虚怀若谷，鼓励自由讨论，要求学生敢于坚持自己正确的意见，“当仁不让于师”。他从不将自己的意见强加于人。在他的学校里充满平等、和谐和活跃的空气，孔子与自己的学生水乳交融地融为一体。对学生，他既是师长，又是慈父，更像无话不谈、推心置腹的朋友，师生之间充满信任、友谊和亲情。正因为如此，孔子所办的学校才对青年学子产生了强大的向心力和凝聚力，即使在孔子周游列国、颠沛流离的年代，他的不少弟子也始终追随左右，矢志不移，患难相持，休戚与共，留下了许多令后人为之动容的故事。
孔子特别提倡和实行“因材施教”的原则。在孔子那里，“因材施教”有两方面的意义，第一，是根据学生的资质、爱好搞好定向培养。孔子了解自己每个弟子的秉性和特长，他说子路办事果断，端木赐通达事理，冉求“多才多艺”，所以应该使他们扬长避短，充分发展自己的特长。有一次，孟武伯问孔子对几个学生的看法，孔子说，子路这个人，千乘之国，可以让他掌管军务；冉求这个人，千室之邑，百乘之家，可以让他当总管；公西华这个人，可以让他身着朝服，做接待宾客的工作。正因为孔子根据每个弟子的特长加意培养，因而他的学生中出现了许多各具特色的人才。如在德行方面有颜渊、闵子骞、冉伯牛、仲弓；在语言方面有宰我、子贡；在政事方面有冉有、子路；在文学方面有子游、子夏等。
第二，根据学生的不同特点和接受知识的能力使用不同的教学方法。有这样一件事：有一天，子路问孔子：“听到了应该做的事情，立即就去做吗？”孔子回答：“有父亲和兄长，怎么不商量就去做呢？”子路退出后，冉有进来，请教孔子：“听到了应该做的事情，马上就去做吗？”孔子回答说：“对！应该这样。”孔子与二人的对话，被在场的公西华全都听到了。冉有走后，他大惑不解地问孔子：“仲由问听到应该做的事马上就做吗？您说要请教父兄。冉有问同一个问题，您又说应该马上做。本来是同样的问题，您为什么有两种不同的回答呢？”孔子说：“冉有这个人遇事犹豫不决，畏缩不前，所以我要鼓励他果敢。仲由平时好胜过人，所以我要他冷静，遇事三思而后行。”这个故事说明，孔子在教学活动中，总是根据学生的实际情况，循循善诱地引导学生发挥所长，弥补不足。
颜渊曾充满感情地颂扬自己的老师说：“仰望老师的道德学问，越看越觉得高，越深入钻研越觉得深奥。看看好似已在眼前，忽然又感到却在后面。老师循循善诱，以文献来丰富我的知识，用礼节来约束我的行为，使我想停止前进也不可能，直到竭尽我的才能。好像有一个高大的东西立在前面，尽管想攀登上去，却怎么也找不到路径。”颜渊的这段话，说明“因材施教”的原则充分调动了学生们的积极性，使他们的才能得到最大限度的发挥。
孔子在教学实践中还注重运用启发式的教学方法，因为不论讲授的内容是什么，启发式的教学效果肯定优于注入式。孔子说：“教育学生，不到他苦思冥想而仍然想不通的时候，不要去启发开导他。比如一间房子，如果告诉他一个角落的样子，而他不能由此推知其他三个角落的样子，我就不再教他了。”在教学活动中，孔子总是随时随地启发弟子们自己动脑筋，独立思考，同时又倡导师生之间、学生之间互相诘难、互相启发，以达到教学相长的目的。《论语》记述了一段孔子师生各言自己志向的故事：
一天，子路、曾晳、冉有、公西华等陪孔子坐着。孔子说：“你们平时好说：‘没有人知道我呀！’假如有人知道你们，信任你们，那么你们打算做些什么事情呢？”子路不假思索答道：“一个拥有兵车千乘的国家，夹在大国之间，外有军队侵犯，内有自然灾害，让我去治理，不出三年光景，可以使人民勇敢善战，并且遵守礼义。”孔子听后笑了笑问冉有：“你怎么样呢？”冉有答道：“一个方圆六七十里或五六十里的小国，让我去治理，等到三年，就可以使人民丰衣足食。至于这个国家的礼乐，只有等待君子来实行。”孔子又问：“公西华，你怎么样呢？”公西华回答说：“我不敢说我能够做到，但是，我愿意学习，在举行宗庙祭祀或者诸侯会盟时，我愿意穿着礼服，戴着礼帽，做个小傧。”孔子又转向曾晳，问：“你怎么样呢？”这时，曾晳正弹奏着瑟，乐曲已接近尾声，只听“铿”的一声乐曲结束了。他放下瑟，起身回答说：“我的志向和他们三位不一样。”孔子说：“这有什么关系呢？只不过各人谈谈自己的志向罢了。”曾晳说：“暮春时节，穿上春服，我和五六位成年人，六七位童子，去沂水中洗沐，再去舞雩台上吹吹风，然后一路唱着歌儿回来。”孔子长叹一声，说：“我赞同曾晳的想法！”
这个故事是孔子启发式教学的生动例证，展示了孔子师生之间的融洽关系和生动活泼的学习场景，使人如见其形，如闻其声。
因为孔子的不少教学方法反映了人类认识的一般规律，所以具有普遍意义，对后来中国教育事业的发展起了积极作用和深远的影响。
孔子30岁创办私学，因为教学内容丰富适用，教学方法新颖灵活，吸引了四面八方的学子慕名前来就学。经他教育的学生在学业和品德上进步很快，终于引起了鲁国贵族的注意。三桓之一的孟僖子曾在陪同鲁昭公出使郑国、楚国时连连失礼，因而对孔子的礼乐教育备感兴趣，认为孔子的学问对鲁国贵族是有用的。他临终前，特意对管家留下遗言，一是承认孔子的贵族家世，二是将自己的两个儿子孟懿子（仲孙何忌）与南宫敬叔（仲孙阅）送到孔子那里学礼。孟僖子死后，他的两个儿子都遵嘱到孔子门下学习，成为孔门中最早入学的两位贵族公子。这一年，孔子34岁。从17岁参加士宴被阳货无理拒绝，到34岁时受到鲁国贵族的瞩目，孔子17年的奋斗终于使上流社会承认了他的价值。特别是贵族子弟自动登门就学，显示了他的私学比贵族学校更有优越性、生命力和无量的前程。
孔子创办的私学在中国教育史和学术史上都具有划时代的意义。他的办学原则、教学内容和教学方法给此后两千多年的中国古代教育打上了不可磨灭的印记。他创立的儒家学派不仅对战国时代诸子百家争鸣局面的形成，起了“金鸡一鸣天下晓”的启迪作用，而且深深地影响了中国古代社会的政治、经济和思想文化的发展，起到了其他任何思想流派不可替代的作用。
