开学一个多月后，蒋介石在校长办公室找胡谈话。胡宗南一听，，十分紧张。当他走进校长办公室时，由于心跳得厉害，敬礼时显得很生硬，手指老是贴不到帽沿。蒋介石知道胡很紧张，禁不住笑了，便说：胡宗南，你紧张什么？本校长又不是狼，难道吃了你不成！小伙子，快坐下。胡宗南的神经轻松了一下，但此时已是满头大汗了。蒋介石见状，忙从自己口袋中掏出一条手帕给胡宗南。胡宗南接过手帕，连声说：谢谢！便埋头擦汗。你是什么地方人？只听见蒋漫不经心地问。浙江湖州孝丰人。孝丰？这么说，你与本校长是同乡嘛，不过，听你的口音，好像是我们宁波方向的！校长听力真好。我童年是在宁波镇度过的，七岁时才随家父到孝丰。我是浙江奉化人。从镇海到奉化，只要几小时的路程，我们算是真正的同乡了。俗话说：在家靠父母，出门靠朋友，今后你有什么事尽管来找我。宗南有幸与您相识，今后全靠校长栽培。从此，胡宗南成了蒋校长家的常客。
胡宗南在延安
1926年秋天，国民革命军第一军教导师在江西南昌一带与孙传芳部队作战，经过十几天的恶战，教导师溃败，师长王柏龄受撤职处分。可身为该师第二团团长的胡宗南却在这次战斗中打得比较出色。他率领部队从正面攻打南昌城郊的牛行车站。牛行是南昌的大门，孙传芳派军长李彦春率领两万多人死守。车站四周筑有牢固的碉堡、堑壕和各种防御工事。站外是一片田野，平平坦坦无所遮拦。胡宗南第一次指挥部队硬攻，先是一个营一个营的上，接着全团集体冲锋，攻打了一天一夜，伤亡惨重，仍未攻克。
新任师长刘峙，很认真地对胡宗南说：你真的攻打不下来？是的。但我不服气，他们不过占着有利地势，打仗，靠天时、地利、人和，他们占地利，你难道不能占天时？你是说采用火攻？胡宗南一下子明白了长官的意思。随后，胡宗南用一个营的兵力运送柴草、汽油等，堆放在牛行车站西南方向，浇有汽油的柴草上撤了大量辣椒和生水，点燃后大火和浓烟一下子笼罩了牛行车站。守军受不了烟熏和辣椒刺激，纷纷跳出工事，四处乱窜。胡宗南乘机指挥重机枪扫射，接着指挥部队攻占了车站。一个团打败了孙传芳一个精锐师，俘虏了敌军长李彦春和他手下官兵八千多人。胡宗南因指挥此仗深受蒋介石赏识。1927年3月，东路军克复上海。5月，蒋介石为表彰胡宗南的功绩，晋升他为第一师少将副师长，成为黄埔系学生中第一个跨入将军行列的人。11月，胡宗南正式任第一师中将师长。
