由于吸引了曾国藩这位著名的学者和军人的注意力，李鸿章被委派为清军的指挥官，镇压中部地区的太平军。当时的李鸿章是安徽的一位不太出名、但十分优秀的官员，这是他第一次接触军事指挥的工作。这个工作最终把他和查尔斯·戈登将军联系到了一起，并建立了友好和信任的关系（至少是在李鸿章这一方）。虽然李鸿章当时已经三十五岁，心中依然充满了青年时期的热情，他在1855年对曾国藩进行了以下描述：
“听说曾国藩大人已经决定让我在他手下工作，帮助他消灭长毛党，这是我人生中得到的最高荣誉，也是对我以前工作的肯定。虽然我还不知道这份工作的具体职责是什么，但不管是什么，我都会尽最大努力恰如其分地将其处理好。我会战斗，战斗，不停地战斗，因为我鄙视这些像强盗一样横行全国的叛贼。因为他们可能会摧毁整个政府，还会进军北京，掀翻神圣的帝位。但我们必须彻底地消灭他们，把他们赶到海里，或者是拿他们的尸体去喂狗。”
“我的父亲，曾三次拜会过曾国藩大人，他说中国近几百年里，没有几个学者能与曾国藩总督相提并论。这是多高的声誉啊！曾国藩大人对古典佳作有深刻的见解的同时，又是十分睿智的官员和足智多谋的战士，这难道不是妙不可言吗？是的，这就是曾国藩大人--一位博学、睿智、有勇有谋的伟大人物。作为一个这样的人，不管是从最南方还是到最北方，还是从西藏到东海，曾国藩的事迹被人们广泛传诵称赞。而如今，他希望得到我的帮助，完成他的宏图大业。”
“曾国藩的家庭和我的家庭在很多方面有相似之处，虽然我有必要表现得谦逊一些，不把两家的比较进行得太细致具体。安徽和江苏有中国古老家族的两大分支，他就属于其中一个分支。我的一些朋友说曾国藩的祖上是满族血统，正是出于这个原因，他才得到了高官显爵和大量特权。但我知道这个说法是完全错误的，一千一百多年来他的家族都一直安居在安徽、江苏两省。”
“1855年。--昨天晚上，我与书生时期的三个老朋友一起吃饭。他们都带着开我玩笑和打扰我工作的目的来司库办事处找我。他们这样做实在是大错特错，因为即使他们自己没有重要的事情要处理，也不能去妨碍别人处理重大的事件。”
“阿平评论了我的得体官服和大玉扳指。我不喜欢他说现在我父亲肯定比我寒窗苦读追求功名的时候更加慷慨大方。我告诉阿平，我不喜欢他说话的口气，因为我很可能拿不到半点俸禄，或者，我现在所保管的这些钱是不可能属于我的。”
“确实，我父亲和叔父都比六七年前更加慷慨大方了，并且如果我有需要的话，可以从他们那里得到很多钱。但这并不是因为他们对钱的看法转变了，而是他们知道借出去的钱，很快就会带着可观的利润还回来。”
“我从未像现在一样，在这个世界上有如此广大的认识。但我十分确定的是，如果一个人拥有一定量的某物，人们会乐意帮你使之增加；同时，如果你完全没有某物，一个不寻常的人会为你提供所有的东西。对于所有和生活联系在一起的事情也是同样的道理。如果一个学生在考试中失败，那么所有通过考试的人就不能和他一起通宵不眠，听他背书，也就不能帮他解读难题。但如果让他学业优秀，在考试中脱颖而出，那么所有博学的人都会为他提供帮助，使他更上一层楼。如果一个人身无分文，衣衫褴褛沿路乞讨，很可能继续如此，因为除了跟自己一样的乞丐之外他没有别的朋友，当他在寒冷的夜晚想买一碗汤，或是在节日里想买一盘炸蝗虫或蜜蜂的时候，这些人根本帮不了任何忙。这个道理甚至对家庭事务也适用，如果一个男人到一定年龄还没有成亲，那他四邻的女人就会认为，他要么是找不到妻子，要么就是找到了也养不活她。但当这个男人一旦结婚，就会在邻里间获得名望和地位，一些女人就会认为，她们的女儿如果能嫁给他做姨太太也很不错。”
“阿平、阿三和阿坤都是我的好朋友，我不在意他们在我当值的时候对我的事情指指点点。他们过来拜访的时候司库正好不在。要是他在的话，他肯定会立即制止他们对我的嘲笑，并命令他们去干他们自己的事情。然而，他还是听说了他们的来访，并在他从知府那儿回来后向我了解了情况。他问我我是不是把衙门当成了和文人老友重聚的地方。
虽然司库是一个记账的大师，会让那些收税官一刻不得歇息，但他对文学却一窍不通。他在衙门任职期间，除了那些被太平军洗劫一空的地区，只有极少数的税收未缴。在那些被战火蹂躏的地区，曾国藩总督总是十分体谅的免除他们的税收。”
“我的朋友们已经听说我要从军，他们好像永远不会厌倦于拿我以前的理想开玩笑。他们中有一个曾听我说过一次，我说希望自己能写出一部经典佳作，一部能让我在我国文学史上名列前茅的史诗。他们把我的志向四处宣扬，甚至是曾国藩在和我父亲的谈话中都开玩笑问他，到底是笔还是剑能让我成为更好的官员。是的，我父亲知道他只是在开玩笑。因为，总督大人曾经说过，他最初注意到我是因为一位地区治安官上报说我的文学作品水平极高。后来，当我写信给他请求委派任务的时候，他极力赞扬了我的文学风格和书法水平。实际上，我在这方面真的是下了苦功夫。后来，面见他的时候，他说我所有的经历和成绩都对我十分有利，他会把我安排在他的身边，并且，如果我表现好的话，责任更大的官职会随之而来。”
“所有人都知道士兵是受人鄙视的，那根据这个老观念，我就是要放弃最崇高的职业，去做最低贱的事。如果我在军队里军衔很低，只是为了俸禄而战斗，那可能就会受人鄙视。但这次情况并不如此。我不喜欢这个军职，但我要考虑我的未来，人民也需要适合的人拯救他们于水深火热之中。我从来没有也永远不会放弃对文学的追求，但现在是写诗的时候吗？当战火和刀剑席卷大地的时候还有谁会在乎那些浪漫故事。”
“说我放弃了对文学的追求，完全改变了所有的志向是不正确的。曾国藩难道不是中部地区最博学的学者和最威风的全军总指挥吗？”
接下来这些年里，与之前的文学向往相比，李鸿章的写作重心转到了自己在曾国藩总督心中地位的提升和随之而来的一次又一次升官上。他的日记和其他手稿中的大量细节都表明，这位“做好了踏入官场准备”的进士，实际上已经身在官场，孜孜不倦地参与到了政治活动之中。在放弃司库办事处职位的接下来五年里，这位年轻人似乎已经完全忘记“士兵是受鄙视的职业”。在八月份的一篇长篇日记中他写道：
“被挑选为清帝国军队的指挥实在是一种荣耀，而不应该受人鄙视。我所带领的军队受到了曾国藩总指挥的最高嘉许，这也使得他最终挑选我为江苏军队的指挥。这次升官并未在我预料之中，但也没有让我感到十分意外，因为我所带领的军队把长毛党打了个落花流水。”
“以前我从来不认为自己会享受参与战斗大败敌人的感觉。但我想一种新性格已经注入到了我的体内，有时候我会问自己，我是否还会想回到以前那样的和平的工作岗位上。”
“可以肯定的是，这些狂徒想毁坏我们的帝国。他们称自己为拜上帝会，四处讲道，还集结了成千上万个皈依的人。就他们的名号本身来说，就是对朝廷的一种不忠。但他们如果没有武装起来，进军攻打城市的话，我们是不会打击他们的。他们一路烧杀抢掠，对那些老百姓犯下了无数的罪行，还逼迫我们的人民（不管是乡村还是城市），跟随他们崇拜的天父。但在南方各地我们正逐渐消灭这些长毛党，让我非常自豪的是，在我自己的命令下就有成百上千名长毛党被砍头。”
“一些肉商告诉我说，由于这些太平军的四处劫掠，当地已经没有肉类出售，连吃一顿都不够了。他们还问能不能杀一些长毛党犯人取肉吃。我让他们去见看管犯人的首领，并告诉他们这对补充当地的肉品供应不会有害。”
“长毛党把南京控制下来的时候也是这个样子。他们大批涌进南京，肆意毁坏偏僻的城郊，残忍屠杀当地百姓。然后，他们砸开了城墙，这些长毛党像洪水猛兽一样涌进城去，杀人放火，无恶不作。他们最初几千人的军队是来自南起广州，北至长江，西达汉口这个广大地区。现在他们的部队已经达到了数万人，他们四处宣扬着拜上帝会，并将所到之处彻底破坏。”
“虽然他们旗号很响亮，还有很多的仪式，实际上根本就毫无组织。但长毛党的领袖、被称为天王的洪秀全，以及他的军师洪仁玕，在所有实际事情的处理中，都像在宗教上一样，想法野蛮、疯狂。在南京，长毛党很快就发现他们已经成了瓮中之鳖--由于干渴，他们的舌头都长长地伸了出来。他们的腹部已经像被抽空的猪膀胱一样，紧紧贴着后背。”
“长毛党不会出城来，不敢与我们在长江边的城郊决一死战。他们也不会投降，接受伟大的学者和战士曾国藩大人的宽大处理。绝对不会！他们想和大队人马待在南京城里，直到清朝的忠实臣民被杀，直到瘟疫把他们全部消灭，再一船一船地拉走。”
“下属们呈给我的报告中并未一一列举这些来自南方的长毛党的暴行，但我用自己的双眼见证了一些事件的发生。如果我的母亲只是从别人口中听说，或是从书本上读到这些事情，那她肯定不会相信。但她以及我的父亲，也亲眼目睹了长毛党的烧杀抢掠。这群为害百姓的强盗把我们的家，也就是我出生的房子，像烧一堆稻草一样，烧得一干二净。当地的很多房子都被这群强盗烧毁，居民也被残忍杀害。因此，对于这群把活人和死人堆在一起烧死的杀人犯、狂徒来说任何的处罚命令都不会显得严酷。我不可能原谅或是饶恕他们的嗜血屠杀，我感谢让我坐到这个职位上的所有神灵和所有先祖，我因此才能一直追赶驱逐这些恶棍，直到把他们消灭干净，或是赶到海上。”
“1859年12月12日。--今天，有人报告说，我两个学生时代的朋友，阿平和他弟弟在城郊被搜城的士兵杀死。我对他们的死感到很遗憾，阿平似乎已经准备好加入太平军的阵营，他取笑讽刺几位我们的士兵，他们就把阿平和他弟弟的尸体挂在了一座桥上。前来报告的人记下了这几位士兵的名字，于是我下令将这几位士兵立即以同样的方式处死。我也不想失去好士兵，特别是在这个关键时刻，但就这三四个人，应该不会有人注意到吧。”
“1860年4月16日。--夫人今天又生了一个儿子，我非常的高兴。我希望他能成为一代伟人，将来的总督。”
“1860年6月16日。--太平军杀死了我善良高贵的哥哥，太平军各王也想取了我的性命。但我的血管里有丰富的血液供应，我的头脑还能做出很多计划，来打击这些长毛党和他们的首领。”
也是在1860年6月，李鸿章第一次提到了“常胜军”。英国军队的查尔斯·戈登上校后来成为了“常胜军”的总指挥。在戈登的帮助下，李鸿章才得以向朝廷禀报长毛党节节败退，浙江、江苏两省的太平军已经完全被镇压下去，满族王朝在当地的管辖权已完全恢复。同时，李鸿章被擢升浙江、江苏两省帝国军队的总指挥，并暂任总督一职。不久后，在曾国藩总督的极力推荐下，李鸿章还得到了朝廷的全权任命，正式出任两江总督。
李鸿章写道：“我从来都不相信，鼓励外国人干预清帝国的内部事务是合适的。我相信如果我现在拥有最高的权力，或是经历了这些年的长毛党造反，我肯定不会启奏皇上，请求允许英国和法国支援朝廷军队镇压太平军。但曾国藩是一个有大智慧的人，他也是我最坚定的拥护者，因此我不会批评，也不会假装走一条和他认为最合适的那条道路稍有区别的道路。曾国藩说这些外国人至少他们的宗教，应该对当前这个灾难负责。在结束这场灾难的过程中，如果这些洋人损失几千士兵，也是恰当的。这个说法毫无疑问是正确的，但与此同时，我们是否可以认为，这些洋鬼子通常都是这种麻烦后面的麻烦。因为这样他们这样便能以正当的理由踏进我朝国门，索取援助补偿。”
“但我必须要说，这些洋人起了很大的帮助作用，特别是英国人，他们在过去四年里派遣了许多训练有素的士兵来帮助我们。就洋人来说，在头脑清醒的时候，他们是不错的斗士和可敬的人。但酩酊大醉的时候，他们既不喜欢，也不尊重我们的帝国军队。在收复一个城市之后，甚至需要我们的军队花费大量时间，把这些洋人控制在安全范围内。他们吃掉一切能找到的食物，喝掉所有的酒，但他们不欺负我们的妇女，不受到巨大挑衅绝不杀害非战斗人员。”
“我给松江的吴将军一笔钱，让他与积极组织‘常胜军’的美国人华尔一起平分。我还向总督推荐，让华尔当将军。我还未见过华尔本人，但已经听说了很多他的功绩，我相信他是最勤勉、最勇猛的洋人。”
“1861年1月5日。--长毛军大举进军，占领了松江地区。我军要不惜一切代价，立即将其夺回。我已经下令，让吴将军和华尔立即前来，与我商讨此事。‘常胜军’已经闲散数日，也许需要我再次亲自坐镇。长时间的战役之后，我的身体十分不适、疲惫不堪，我并不十分介意再休息几个星期或是数月。但这些士兵休息的时候比战斗的时候吃得更多。在行军或是交战的时候，他们不停地寻找食物和酒，不论如何，他们都会设法找到。但当大量士兵无战可战的时候，他们会变懒，还不受管教，希望有人把食物送到他们手上。单是这一点就需要许多额外的人手来提供服务，食物的消耗也让军队难以承担。而且，闲散下来的时候他们就会考虑报酬，丝毫不会犹豫要求更多银子。我认为最好的解决方法就是让他们一直战斗，这样到了晚上他们会更想睡觉，而不是悄悄行动给自己和他人带来麻烦。”
我们找到了李鸿章于1862年12月写下的日记。“听说虽然有很多人尝试来应聘过，但继任华尔总指挥职位的合适人选并未找到，这让我十分发愁。华尔是一个精力充沛的斗士，如果他还活着，对帝国事业和和他个人荣誉都会大有益处。不管命令他进攻何处，他几乎都能获得胜利，长毛军已经开始害怕听到他的名字。”
“华尔死的时候我就在他身边，在他断气的那一刻，我泪流满面。他死的时候远离家人和朋友，这让他的死亡更加感人。虽然他已经给他所有的部下发放了报酬，作为‘常胜军’的总指挥，他还是有许多薪酬未领，但他死的时候并未提及，我将用这笔钱为他修建一处祠堂来纪念他。”
