张作霖在家里排行老三，上面还有两个哥哥。大哥张作泰，二哥张作孚。两个哥哥都死于非命。大哥张作泰是被父亲一脚踢死的。可是，张家对外称，张作泰是因为生病而死。父亲也并非故意踢死大儿子。
张作泰的所作所为也确实令父亲生气又难堪。张作泰不喜欢黄花大闺女，却偏偏喜欢有夫之妇。这件事让全家抬不起头，尤其是好脸面的父亲。一次，张作泰又对有夫之妇胡作非为。父亲对其连打带踢。
张作泰知道自己犯错，也任由父亲踢打。不料，父亲下脚太重，一脚没踢对地方，让张作泰疼痛难忍，甚至喘不来气。谁也不曾料到，张作泰就这样挂了。对外面，张家不可能说张作泰是被踢死的，而是谎称病死的。当然，也有人说是父亲拿着棍子恰巧打在张作泰的腰眼上将其打死了。总之，张作泰是死于父亲之手，并非病死。
张作霖的二哥张作孚是被土匪打死的。土匪进庄，张作孚组织人手阻挡。不料，在火拼中，土匪将张作孚打死了。当土匪知道打死的人是张作霖的哥哥后，竟然解散队伍，亡命天涯。
张作霖自然不会放过杀害自己二哥的凶手。虽然，两名土匪东多西藏，自以为非常安全，但只要在东北地界，不论他们怎么跑，也难逃张作霖的之手。最终，张作霖还是将杀害二哥的两名凶手抓到。这两名土匪被折磨而死。
孰料，张作霖也没有能寿终正寝。张家三兄弟全部死于非命。在乱世中，这并没有什么稀奇的，但因为张家的名气太大所以让后人觉得相当玄乎。