正是这场牢狱之灾，让张甲洲遇到了他革命道路上的引路人。第二次入狱时，老狱卒解开他的手铐，把他推进了一个小黑屋，嘴里唠唠叨叨：“进去吧，好好呆着，别瞎折腾了，过两天出去好好念书，让大人省点儿心吧！国家的事你一个娃娃能管得了？遭这份罪。这屋也有个认死理儿的文化人，你就跟他在一块儿吧！要跟那些江洋大盗关在一起，还不把你这细皮嫩肉给撕巴烂了。”他锁上门，一步三摇地走出牢房，身上的大串钥匙发出阴沉的响声。
牢房只有一个巴掌大的小窗，一缕阳光从这里进入，在墙角形成了小片光斑，光明处坐着一个人，中等个，衣衫褴褛，面容清瘦憔悴。他叫冯仲云，是清华大学党支部书记。“是学生吧，学潮进来的？”他看了看张甲洲。
张甲洲没心思理他。
“既来之则安之，想开点儿，没事，学潮进来的用不了几天就能出去。”
“我不是怕坐牢，当局不改变态度，我宁愿把牢底坐穿。”
“很勇敢，你叫什么名字？”
“张甲洲，你呢？”
“你就是张甲洲？”冯仲云激动得站了起来，奔过来拉住他的手，“北大的张甲洲？”
“你是谁？”张甲洲没有抽回手，也没有动。
“我是清华的冯仲云啊！你是为了营救我和其他清华入狱的学生，被敌人投进了监狱，居然还不知道我是谁？”
“我们北大学生非常敬重你们共产党人。”张甲洲激动地握着冯仲云的手，“真是踏破铁鞋无觅处，今天得以见真佛。”
两人聊了三天三夜没合眼。第四天一早，当东方的第一缕阳光再度从窗户照射进来时，冯仲云取出一个烟盒，放在阳光照射的地方，小心翼翼地将其展平，用铅笔头端端正正地在上面画上一面旗帜，又画上镰刀斧头。在冯仲云的注视下，张甲洲举起右拳宣誓：“我自愿加入中国共产党……”
不久，他和冯仲云都被组织营救出狱。一天晚上，冯仲云急约他在未名湖畔见面。那是一个月光如水的夜晚，二人坐在石舫上，钟亭、临湖轩、花神庙、博雅塔，尽收眼底。
冯仲云说：“我的身份已经暴露，组织决定让我和一些暴露身份的党员撤离。我到东北去开展秘密斗争，今夜就要离开北平。党组织决定由你担任市委的宣传部部长、西郊区委书记。为了便于工作，组织要求你设法进入清华。”
两人分别后，张甲洲开始准备进入清华的考试。张甲洲对这次考试格外重视，这是他第一次因为任务而考试。他先找到胡乔木打听清楚清华政治系招生都考什么，然后一头扎进图书室，恶补了一个月，这在他的考试生涯中是绝无仅有的。他又一次以第一名的成绩考入了清华大学。
此时的北平上空阴云密布。李大钊被张作霖残害，党组织遭到严重破坏，主要负责同志因为身份暴露，纷纷撤离，组织几乎成了空壳。张甲洲这位刚刚加入党组织的新党员临危受命，担任北平市委代理书记。
这期间他领导了两次学潮。巴彦县县长翟星凡大肆搜刮民脂民膏，让其小舅子在巴彦设牙税。长牙的不论是牲口还是人，过一次城门就得交一次税，搞得巴彦民怨沸腾。张甲洲暑假回乡探亲时亲眼目睹了翟县长的恶行，组织全县在外读书的大中学生和巴彦县的中学学生，发起了声势浩大的驱翟运动。他带领大中学生到省城游行示威请愿，把传单发到每位高官手里，终于摘掉了这个自命不凡的翟星凡的县长帽子。
这次回乡他还安排自己的几名发小到东北军当兵，嘱咐他们一定要学习好带兵打仗的本领。他说：“在这乱世，咱们得有自己的兵。”后来成为游击队大队长的刘飞，就是这时被他安插在东北军当兵的。
1931年九一八事变的次日，张甲洲就以清华大学学生会主席的名义，联络北平的各大高校的学生会主席，组织街头游行，要求国民政府全面抗日，收复失地。当局不予理会。张甲洲发出号召：全国学生上南京找蒋介石请愿。北平学生首先响应，他大手一挥：“走！”队伍到南京时，他身后已经聚集了全国各地的三万余名大学生。他掸去中山装上的尘土，披戴上绣着“总指挥”的红色绶带，大手又是一挥：“同学们，我们上总统府，找蒋委员长请愿去！”
蒋介石的机枪子弹无情地扫向了请愿队伍，鲜血染红了秦淮河……
面对着敌人的屠杀，他冷静地指挥大家分头撤离，以避免更大的牺牲。当他最后撤离到安全地带时，身边只有几个和他一起从北京来的同乡。他问：“人呢，怎么就你们几个？”于九公（于天放）说：“伤的伤，被抓的抓，其他的都散了，我们几个老乡在等你。”他捶胸顿足：“没有枪就要任人宰割啊！要想抗日救国，蒋介石的国民政府是指不上了，还得靠我们自己。”于九公说：“我们也快走吧，一会儿国军追上来我们就跑不了了。”张甲洲说：“你们赶快回北平吧，我现在要去上海向党中央汇报工作。”
他在上海见到了军委书记周恩来。周恩来听到他要回家乡组织抗日武装起义后很高兴，跟他说：“毛泽东和朱德在井冈山建立了革命根据地。毛泽东有一句话叫‘枪杆子里面出政权’！”他听到这句话，心中斗争的火山被激活了，急切地想回到黑土地的怀抱，投身滚滚洪流，点燃抗日的星星之火。
