而当时安徽在政局上有三个最重要的人物，其中之一是吕贤基，另外两个则是巡抚李嘉端和帮办团练的兵部侍郎周天爵。
李鸿章高涨的政治热情在现实面前终于冷静了下来，他把自己为国家出力的焦灼的心情逐渐变为具体的行动，于是，他首先在周天爵处入幕。入幕是清朝青年学子获得进入官场高层资格的通行证，李鸿章与周天爵有着独特的关系。当时，太平军正忙于南京的外围阵地，势力并未进一步深入安徽腹地。而安徽境内的农民武装捻军却乘势而起，他们杀富济贫，来无影、去无踪，成为了安徽政府的巨大隐患。于是，在周天爵的领导下，消灭捻军成了李鸿章的主要任务。捻军原本只是在经济上与政府进行斗争，并未涉及政治，但是由于受到太平军的影响，捻军的队伍也逐渐壮大，他们也成了清政府的“眼中钉”，必须将其予以铲除。
李鸿章与周天爵一起参加了两次规模较大的消灭捻军的战役：一次是镇压定远陆遐龄起义，另一次是镇压活跃于颍州、蒙城、亳州交界处的陈学曾、纪黑壮起义。
由于镇压捻党有功，不久之后，安徽巡抚李嘉端就开始让李鸿章独立地指挥军事活动。
1853年6月，李鸿章手下已经拥有一千多名兵勇，他们都是由李鸿章在各个地方团练部队征集而来。同年8月，李鸿章的这支千余人的军队首次战胜了一小股太平军，李鸿章也因此小有名气。为了给自己脸上贴金，安徽巡抚李嘉端还专门上奏清政府给予李鸿章“六品顶戴、蓝翎”的奖励。清政府同意了这一请求。但是咸丰皇帝的奖励并未让清军的士气有所提升，在面对太平军大将石达开的进攻之下，清军的防御战线不堪一击。
李鸿章就处于这种尴尬的境地，不仅对军事一窍不通，还要勉力支撑，最终却因为石达开部的打击而让他无家可归，异常狼狈。
4.遭遇事变，苦苦征战，落魄男儿始伤悲
1853年，太平军开始了北征和西征，李鸿章和李嘉端已经无法回避太平军的锋芒。对付土匪他们绰绰有余，但是对付正规军，他们就显得束手无策了。
石达开已经率部占领安庆，主持太平军的西征事宜，石达开大军所到之处，所向披靡，清军溃不成军，望风而逃。不久，石达开大军先后占领集贤关、桐城，其中吕贤基镇守的舒城也危在旦夕。李鸿章在短时间内拼凑了几百名兵勇赶去救援，但是吕贤基所属团练已经被歼殆尽，吕贤基也跳水自杀，就连随后赶来的新巡抚江忠源也被困孤城，选择了自杀。面临这些变故，李鸿章的心在悸动着，内心的自责和遗憾久久地萦绕心头，不能离去。
庐州被太平军占领，咸丰帝急忙命令福济为新任安徽巡抚，他是道光年间进士，满洲镶白旗人，字符修，同时也是李鸿章考进士时的副考官。李鸿章在石达开部攻打庐州之时，已经匆忙逃回了安徽老家。由于福济也不懂军事，所以一到安徽，他马上邀请李鸿章入幕。李鸿章得到了福济的重用，他们经常一起商量军事大计。由于太平军实力雄厚，清军根本无法与之对抗，因此福济采取“静观其变”的策略来应对太平军，他想要等到太平军弹尽粮绝、失去外援的时候再进行攻打。
李鸿章的父亲李文安也受命于国家危难之际，奉朝廷命令回到安徽，在临淮附近组织团练，两父子各自为拯救家乡在不同的地方作战。
1855年2月，李鸿章带兵向含山进发，最终消灭太平军千余人，占领含山，因此得到了清政府的赏赐。李文安也率军与儿子相互配合，再加上恩师曾国藩的湘军在湖南、湖北等地遥相呼应，因此李鸿章对太平军的几次进攻卓有成效。1855年7月，正当李鸿章和太平军在庐州打得难解难分之时，李鸿章接到了父亲李文安去世的消息。李文安为了镇压太平军，日夜操劳，积劳成疾，病逝于团练公所，享年54岁。
得知父亲去世的消息，李鸿章内心悲痛万分，对太平军更是充满了仇恨，他恨不得马上夺取巢县，并杀死石达开。但是，父亲的丧事还是最重要的，他不得不暂离军旅，急忙赶回老家为父亲奔丧。就在李鸿章回家奔丧之时，巢县的太平军对清军发动了猛烈进攻，副都统忠泰战死沙场，全军覆没，而李鸿章由于不在军中幸免于难。
李文安在临终之前，曾给李鸿章兄弟留下这样的话：“贼势猖獗，民不聊生……此贼不灭，何以家为，汝辈努力以成吾志。”父亲的死，给李鸿章带来了巨大的心灵冲击，在李鸿章的心目中，父亲是伟大的，而且我们可以从李鸿章的众多诗文中看到他对父亲的深深思念和深切的悼念。父亲的遗训一直在他心头萦绕，一刻也未曾懈怠。此时李鸿章是“身在曹营心在汉”，虽然在老家为父亲“丁忧”，但是他依旧时时关注清军与太平军对战的消息。
不久，前线失利的消息传到李鸿章耳中，福济要求李鸿章返回的命令也已传达。李鸿章站在祠堂里，面对死去的父亲，他想起父亲的遗言，最终决定要与太平军势不两立，一定要收复庐州，将太平军一网打尽。于是，他不顾舟车劳顿，日夜兼程，直奔军中，参加了收复庐州的战役。
1855年11月，李鸿章和福济一起带兵攻陷庐州。由于从战有功，李鸿章得到了嘉奖。不久之后，清军兵分两路，向太平军进攻，除了舒城取得小胜之外，其他如三河、庐江、巢县、东关等地皆是一败涂地。而李鸿章参与的东南战事，也是屡受打击，一路溃败。官场之中的互相倾轧、嫉妒成风等都让李鸿章有苦难言，而他只能借助诗来表达自己郁郁不得志的内心隐痛：
四年牛马走风尘，浩劫茫茫剩此身。
杯酒藉浇胸磊块，枕戈试放胆轮铮。
巢湖看尽又洪湖，乐土东南此一隅。
我是无家失群雁，谁能有屋稳栖乌。
咸丰六年（1856年）4月到6月，太平军席卷安徽全境之时，年轻气盛的李鸿章还想主动出击、转败为胜。于是提督郑仕魁以激将法让他立下军令状带兵出击，却没想到最后与敌人的对抗依然是一败涂地、溃不成军。从这件事中，李鸿章逐渐学会了冷静，他明白了军事绝不是好大喜功，而要从一点一滴做起持之以恒的道理。
1856年9月，太平天国领导人之间发生内讧。李鸿章也由此得到了一次升迁的机会。福济、和春等乘太平军元气大伤之时趁机打通庐州东南和西南通路。李鸿章也直接参与了巢县、和州、东关等战役，因有功而加按察使衔。
1857年2月，在太平军青年将领陈玉成和李秀成的领导下，桐城、舒城等地又被太平军攻克。李鸿章的部队不敌太平军，他只得带着母亲仓皇北逃。虽然李鸿章心中的悲愤与郁闷时时绕上心头，可是此时的他依旧无可奈何。
1857年秋，李鸿章向清政府请求其为亡父李文安守孝。由于李鸿章镇压太平军有功，因此这个请求被批准。就这样，李鸿章结束了他五年的团练生涯。
1858年8月，陈玉成再度攻克庐州，并把李鸿章家的祖坟、宅院等焚毁一空。李鸿章得知后痛苦万分，气急败坏之下只能赋诗聊以自慰。李鸿章此时既无复仇的实力，又无复仇的方法，因此他只能带着一颗落魄的心逃到江苏镇江，等待时机以报仇雪恨。此时的李鸿章无家可归，面对太平军的肆虐，他只能望洋兴叹。
李鸿章在安徽操办团练的五年时间里，既有困惑，又有探索和积累。虽然李鸿章的团练以失败而告终，但是在这五年时间里，经过摸爬滚打，他也逐渐明白了一个道理：为将之道，在于洞察先机，真正做到知己知彼才能百战不殆。李鸿章溃败的经历在他的心中留下了不小的阴影，绝不会因为朝廷的几次嘉奖而变得平静。正所谓是“好事多磨”，想要成功，有些挫折和磨砺是必不可少的。
李鸿章在家乡操办团练时，曾国藩曾多次写信给李鸿章叫他效仿湘军模式，但是此时的李鸿章年轻气盛，并未将老师的话放在心中。为父亲守制丁忧即将结束，李鸿章一直思考着新的出路。但是，官场上复杂的人际关系，让他觉得不寒而栗。几年的官场生涯，让李鸿章明白，找到真正的靠山才是最现实的，于是他想到了自己的老师——曾国藩。李鸿章立即给老师写信，表达了自己的投靠之意。当时李鸿章的大哥李瀚章也在曾国藩手下做事，于是，曾国藩写信邀请李鸿章前来。李鸿章如同抓住了一根救命稻草，随即赶往江西南昌，于1859年1月投到曾国藩的门下做了一名幕僚，从此开始了他的新的人生历程。
5.无家可归进曾府，壮志难酬心抑郁
李鸿章的老家已经被太平军占领，宅院、祖坟等都被焚烧捣毁，作为一个落魄之人，李鸿章无家可归。怀着悲凉心情，日日叹息“书剑飘零旧酒徒”的李鸿章终于投入其老师曾国藩幕下，开始了他的新的宦海生涯。
李鸿章收拾好行李就携带家人一路出逃，历经艰辛方才辗转来到江西南昌，见到了自己的母亲李氏。而后，在哥哥李瀚章的帮助下，李鸿章开始进入曾府帮助曾国藩出谋划策。
此时曾国藩的处境也并不好，太平军的实力正是最强大的时候，他正面临着三河惨败的局势。表面上看，湘军兵多将广，而实际上可以利用的人才很少，曾国藩面临太平军的犀利攻势，也是成日愁眉不展。因此，他需要一个得力的助手，一个能够在军事上独当一面的人才。在李瀚章的安排下，曾国藩见到了自己昔日的学生——李鸿章。他与李鸿章交谈，发现在军旅中生活了几年的李鸿章已经不再是京城翰林中的那个文弱的书生，无论是谈吐还是胆识，李鸿章都表现出了年轻人的那股朝气和力量。因此，在这次会面之后，曾国藩就更加坚定了将李鸿章留在身旁的决心。李鸿章就此成为曾国藩的幕僚，和自己的恩师一起征战沙场、探讨学问等，长达数十年。
1853年，曾国藩回到湖南，决定组编一支新式武装来维护清朝的统治。次年2月，曾国藩组编湘军水陆两军，在他的带领下由湘江北上与太平军直接抗衡。湘军与清朝常备军有所区别，它属于汉族地主武装。在战略上，他采取“以上制下”的方针，先镇压两湖的太平军稳固清廷的后方，然后才向江西、安徽进发。1858年，曾国藩率军与太平军的大将石达开征战，以湘军主力围困太平军。面临这种局势，陈玉成、李秀成两支主力太平军联合作战，首先解除天京北面的威胁，摧毁曾部江北大营，不久又在安徽三河全歼湘军主力六千多人，其中包括李续宾和曾国藩胞弟曾国华在内的文武官员四百余人。在安徽安庆陷入苦战的湘军见状，个个如惊弓之鸟，四处逃窜，曾国藩对太平军的安庆之围就此瓦解。这种局势让曾国藩惊恐不已，他于1858年12月奉命移师援皖。
李鸿章就是在老师曾国藩面临这种局势的情形下来到江西的。曾国藩与李鸿章亦师亦友，两人都相互看重，并且在太平军的打击下有着共同的追求。曾国藩希望在李鸿章的帮助下成就大业，李鸿章想要在曾国藩的援引下求取功名。
李鸿章刚到曾国藩幕府之时，曾国藩只是给他安排一些简单的批示公文、起草奏稿的小事情。对于李鸿章来说，这些事情自然是得心应手、一蹴而就。但是，对于李鸿章的才气和傲气曾国藩早已知晓，因此他有意让李鸿章为难，准备打击一下他的傲气，让他更加成熟内敛。曾国藩最负盛名的参折——《参翁同书片》就出于李鸿章之手。
曾国藩是一个在生活上很有规律之人，每天早上他很早就会起床查营，然后就会在黎明时分与幕僚共进早餐。一向懒散的李鸿章刚开始来曾府时根本适应不了这种富有规律的生活，因此，他深以为苦。有天早晨，李鸿章偷懒想多睡一会儿，于是告诉曾国藩自己头痛。但是精明的曾国藩知道李鸿章装病偷懒，于是几次派人去请李鸿章一起吃饭，并说李鸿章不起来，幕僚们就都不吃早餐。在这种情况下，李鸿章不得不匆忙地起床，披着衣服赶到吃早餐的地方。曾国藩吃饭时一言不发，饭后才将李鸿章狠狠地批评了一顿。大意是做人要诚实，绝不能溜须撒谎。说完之后就拂袖而去，留下李鸿章傻傻地待在原地。李鸿章的品性曾国藩很早就清楚，因此在各个方面对他都相当严格，他尽力地培养李鸿章，陶冶他的性情。李鸿章在老师曾国藩那里学到了很多实用的东西，很多年后他跟别人谈起曾国藩时还会这样说道：“在营中时，我老师总要等我辈大家同时吃饭；饭罢后，即围坐谈论，证经论史，娓娓不倦，都是于学问经济有益实用的话。吃一顿饭，胜过上一回课。”
