1928年北伐战争结束时 ， 张灵甫已调至有“天下第一师”之称的第1师 ， 担任第2旅第6团第2连上尉连长 。 随之爆发的中原大战中 ， 第1师与阎冯联军激战于谢集 ， 作战中张灵甫带头猛冲 ， 右臂再度负伤 。 中原大战结束后 ， 蒋介石开始对苏区进行“围剿” ， 第1师又担当了急先锋的角色 ， 从1932年至1936年这4年间 ， 张灵甫都在与红军作战 ， 双方互有胜败 ， 他也于1933年晋升为独立旅第1团上校团长 。 1935年松潘之战后 ， 在松潘高原上的胡宗南第1师官兵多因水土不服而病倒 ， 张灵甫也不例外 。 好在他的家乡就离战场不远 ， 而当时他又刚结婚不久 ， 也想带新婚妻子吴海兰回家见见长辈 。 在经代师长李铁军批准后 ， 张灵甫得到一周的休假时期 。

这一周西安出了大新闻——古城团长杀妻案 。 张灵甫用手枪打死了新婚妻子吴海兰 ， 他本人也在妇女协会等多方声讨下沦为阶下囚、死刑犯 。 长期以来较为主流的说法源自吴鸢《我所知道的张灵甫》一文 ， 即张灵甫听闻新婚妻子与别的男人相会 ， 醋劲大发 ， 乘妻子割韭菜时从后面一枪将其打死 。 这种说法有个致命的硬伤 ， 首先是根据其他当事人回忆 ， 案发现场根本不在菜地 ， 其次 ， 冬季的西北也不可能生长韭菜 ， 有悖常理 。 另一种说法来自张灵甫的遗孀王玉龄女士 ， 她回忆说 ， 在与张灵甫结婚后 ， 曾问张灵甫：“要是我在外面乱交男朋友 ， 你回怎么处置我？”张灵甫听后对她说出了当年事情的原委：“是她拿了我的东西 ， 我问她又坚持不开口……” ， 张灵甫怀疑吴海兰在为共产党工作 ， 偷了自己的军事文件 ， 一气之下将其打死 。 而多年以后 ， 据张灵甫与吴海兰的女儿张清芳女士透露 ， 吴海兰与她的兄弟 ， 其实都是中共地下党员 。 总而言之 ， 此案相当复杂 ， 与后来的张灵甫之死一样众说纷纭 ， 成了“罗生门” 。