1.智进省城 绞杀革命
张作霖接受清政府招抚和风餐露宿去大漠剿匪，无非是为了升官发财。但他所驻守的洮南相对于奉天等富足地区是落后了许多的，对此，张作霖很不满意。随着手中武装力量不断扩大，政治野心亦日益膨胀，他得陇望蜀，向往着进军东北的政治、经济中心——奉天城。为此，他几次三番要求换防到离奉天城相对较近的富庶地区，都未能如愿。
1911年7月，赵尔巽接替锡良担任东三省总督。一听到老上级回来了，远在洮南的张作霖异常兴奋，认为自己脱离凄凉荒漠之地的时机已到，于是他迫不及待打电报给赵尔巽，请调到离奉天城较近的辽南剿匪，其电说“现值青纱帐起，各处伏莽，最易潜纵，若非尽绝根株，初而窝藏，继而啸聚，久则贱胆益张，集成大股，不免星火燎原”。初闻此言，赵尔巽很是欣慰，部下主动要求为其分忧解难，不是好事吗？可当他识破张作霖此举只是为了脱离偏远地区，进入政治、经济等都相对发达的辽南时，又婉言拒绝了，他复电说：“以东北全局而说，洮南系最重要之地。幸赖阁下坐镇，北顾无忧”，“南路小丑窃发，无需临以重兵，壮怀仅当存记。”不过，赵尔巽也没把话说死，末了还加了一句“他时遇有重任，再当奉烦”。张作霖虽然未能如愿，却并没有死心。他知道，目前还不是最佳时机，于是决定静观时局变幻，寻找更加合适的机会。
虽说是等待，张作霖可不是完全被动地等待。天上是不会掉下馅饼的。为了有朝一日能够进入奉天，执掌省政大权，他做了一系列的准备工作。首先，张作霖广交赵尔巽总督府里的人，在赵尔巽身边织成了一张细密的情报网络，以便从这些人嘴里随时了解赵的情况。在这其中，他与赵尔巽的心腹谋士袁金铠关系处得尤为密切，从袁金铠的口中，他掌握了赵尔巽的一言一行、一举一动。其次，他选派了手下一个能说会道、巧于应酬、为人机灵的小官员张惠临到奉天做“驻省”，再派张景惠等人到省城奉天讲武堂“受训”。这些安插在奉天的“卧底”，其主要任务就是密切注意奉天省城的风吹草动，并随时向他报告。所以，辛亥革命前，张作霖虽远在洮南，但对奉天城里的情况却一清二楚，尽在掌握之中。
1911年10月10日，武昌起义爆发，各地积极响应，一些省份相继宣告独立，奉天城内的新军首领蓝天蔚等人也酝酿响应武昌起义，以维持治安名义，占领都督衙门、军械局，驱除总督赵尔巽出奉天，宣布奉天独立。蓝天蔚，字秀豪，湖北黄阪人。1902年自费留学日本，志愿学武，曾入日本士官学校。在日本参加了同盟会，曾与黄兴、蔡锷、陈天华、秋瑾等人在东京一起组织抗俄义勇军，后考入日本陆军大学，1910年回国任陆军第二混成协协统，驻奉天北郊北大营。
武昌起义时，赵尔巽正在齐齐哈尔视察，听到消息，魂不附体，赶忙回到奉天，并马上召集咨议局副议长袁金铠与亲信商讨对策，讨论到激烈处，赵甚至想弃城而逃。袁金铠一听，这哪成啊，你是堂堂东三省总督啊，怎么能弃城而走呢！袁当时就跪倒在赵尔巽面前，声泪俱下地劝留，并建议重用巡防营旧军，调张作霖护主。老奸巨猾的赵尔巽，深知张作霖素有野心且诡计多端，不敢让他担当这么重要的职务，乃决定密调看起来忠厚老实、打仗勇猛、更好驾驭的后路巡防营统领吴俊升率部开往奉天。
张作霖的准备工作还真没白做，奉天的那些“卧底”这时候可派上大用场了。调令还没下达，“驻省”张惠临就探听到此事，事不宜迟，他马上找到正在奉天讲武堂学习的张景惠、张作相等人一合计，认为事关重大，立刻将此情况电告了正在洮南的张作霖。
张作霖能在群雄争锋的民国初年脱颖而出，扶摇直上，成为活跃于中国政治舞台17年的风云人物，绝不是偶然，有其必然性。他机警过人，对政治的风云变幻具有相当敏锐的洞察力，能及时抓住时机，把握机遇，顺应历史潮流，不利则不动，有利则雷厉风行。收到张惠临和张景惠的电报后，张作霖喜出望外，马上判断出这是一个夺取奉天军政大权的绝好机会。不论是谁带队进了省城，都有可能因“护驾”之功得到赵尔巽的赏识和提拔，并由此飞黄腾达，可不能让吴大舌头占了这个先机。他当机立断，立即亲率500精锐骑兵先行，催马加鞭昼夜兼程直奔奉天，并命令参谋长依钦保带领其余步兵随后跟进，所有部队一刻不停，全速向奉天城开进。
途经郑家屯时，张作霖率部悄悄地快速通过，仅派了一个士兵拿着他的片子去见吴俊升，告知吴俊升：“张统领在新民的家中出了点小事，回去处理，就不打扰吴统领了。”可怜的吴俊升拿着张作霖的片子，心里直纳闷，家里到底出了什么大事了，能急成这样。此事做得真是滴水不漏，当吴俊升接到赵尔巽的调令时，张作霖的大军已开进了奉天城，吴俊升就这样被张作霖抢走了他人生中的一次至关重要的机遇。
到达奉天，张作霖为争取主动权，马上求见赵尔巽。看到风尘仆仆的张作霖，赵尔巽甚感吃惊：明明调的是吴俊升，怎么来的是张作霖？张作霖先是诚惶诚恐地表示“由于时局紧张，唯恐总督身边危险，乃迫不及待，先行率兵回省城保驾。若总督认为未奉命令，擅自行动，甘愿接受惩处”。见赵尔巽没有动怒的迹象，又信誓旦旦地表示“愿以保卫大帅、镇压地方为己任”。张作霖这一番披肝沥胆的表态，听得赵尔巽异常感动得都快热泪盈眶了，当即补发调令，使其无令来奉之举合法化。
为了进一步拉拢张作霖为他卖命，赵尔巽又任命张作霖为“剿匪”司令和奉天城防司令，提升为中路和前路巡防统领，统率马、步14营，约5000人，此时的张作霖俨然成为奉省最具实力的军事首领之一，能与之抗衡的只有新军首领蓝天蔚了。
有了张作霖这个坚实后盾，赵尔巽和袁金铠就有了与革命党人和新军对抗的信心与勇气，由此采取了一系列压制革命的举措。
1911年10月22日，赵尔巽在奉天省城召开了新旧军将领会议，讨论应付局势的方针和东三省应持的态度。会前，新军将领已筹谋好，准备在会上宣布东三省独立。对于新军的这一想法，赵尔巽、袁金铠早有预料，他们找到张作霖，商议应对办法。张作霖马上表态：放心，有我在，他们谁也别想如愿。
开会当天，人都快到齐了，张作霖才姗姗而来。他两手托着一个羊肚毛巾包，一副小心翼翼的样子。到了座位上，先把这个毛巾包轻轻地放在桌子正中，然后自己才落座。左右的人都一脸茫然，这破毛巾里包的是什么东西啊，这么宝贝？赵尔巽也在心里犯嘀咕，这张小个子葫芦里卖的什么药啊，会场内外一个他的手下都没看到，光杆司令一个能解决什么问题啊？嘀咕是嘀咕，可会还得照开。会上，赵尔巽大放厥词，诬蔑武昌起义是“叛乱”，胡说清政府正派大军剿办，不久即可扫平，东三省为皇上老家，我们必须拥护朝廷，不要受叛乱影响云云。赵尔巽讲话时发现新军将领个个怒目横眉，神色不对，他马上又改变口气说：“须知英雄识时势，咱们总要见机而行。”“我们东三省最好不动声色，什么态也不表示”。咱们的要务是“保境安民”。抱定这个宗旨，无论是谁来咱们也堂堂正正拿得出去。临了，还想走一下民主路线，提议说：“我们今天应当郑重地表决一下，谁赞成我的意见就请举手。”话音还没落，张作霖就迫不及待地举起了双手，一些旧军统领也举手表示赞同。新军将领面面相觑，没有一人举手。张作霖见此情形，立刻站了起来，手托着毛巾包。厉声说道：“总督的劝告苦口婆心，可谓仁至义尽！大家如果不接受总督的好意，不举手赞成，我们今天在这屋子里的人，只有同归于尽，谁也别想逃出去。”俗话说，硬的怕横的，横的怕不要命的。张作霖的这一举动，惊得全场鸦雀无声。大家都知道这个张小个子是天不怕，地不怕，什么事都能干得出来。虽然谁也没看见他往毛巾里包炸弹，可是一听他要同归于尽的话，就都想当然地认为是炸弹了。这个时候，是宁可信其有，不可信其无啊。于是，新军第三镇协统卢永祥首先举手，其他新军将领见卢举手，随着也都举手赞成。赵尔巽的所谓“保境安民”主张就这样被强制通过了。
等新军将领都退了场，赵尔巽才松了一口气，看着张作霖还在摆弄着那个毛巾包，连连摆手说：“你赶紧拿走，万一真炸了可怎么办。”张作霖诡谲地笑了笑，把那个毛巾包随手往桌上一扔，“咣”的一声，两个香烟筒子滚了出来！
第一次夺权失败后，革命党人密谋由奉天咨议局召集各界人士成立“奉天国民保安会”，逼走赵尔巽，以和平方式达到东三省独立的目的。这一计划又被内部的奸细密报给了赵尔巽。他马上将袁金铠、张作霖找来，共同商量对策，很快制订了一个周密的夺权计划。
1911年11月12日，赵尔巽到省咨议局开会。张作霖以地方军首领的身份，带着一批打手随行，并把当时在讲武堂学习的张景惠、汤玉麟、孙烈臣、张作相等亲信全部调来，部署在会场内外。会上，人们发言要求响应武昌起义，东三省宣布独立。赵尔巽再次提议东三省“保境安民”，话音未落，革命党人就起立打断他的话，强烈要求“立即宣布独立”。双方正在僵持之时，张作霖突然蹿上讲台，拔出腰间的手枪“叭”地往桌上一拍，气势汹汹地说道：“我张某身为军人，只知听命保护大帅。如有胆敢破坏省城秩序者，可别怪我不客气。我张某虽好交朋友。但我这支手枪它是不交朋友的！”说完后，使了一个眼色，布置在各处的汤玉麟等打手纷纷拔出手枪，枪口一齐对准与会的代表，现场顿时陷入恐怖之中。参加会议的代表和革命党人手无寸铁，对这种罕见的开会方式，根本没有思想准备，被吓得纷纷退出会场。随后，事件的总策划、赵尔巽的心腹谋士袁金铠以咨议局副议长的身份宣布继续开会，“公举”赵尔巽为国民保安会会长，袁金铠任参政总长，张作霖兼任保安会军政部副部长，由张全权镇压省城革命。
张榕等原欲用保安会挟制赵尔巽，逼其出走，推蓝天蔚为关东大都督，结果，赵尔巽在张作霖的支持下，不但不走，反而进一步排挤了蓝天蔚，殊非初料所及。面对这一形势，蓝天蔚和张榕立即到沈阳北大营开会，研究对策。到会的有蓝天蔚和张榕、吴景镰（鲁大昌代表）、田亚赟以及第二混成协的高级军官等。会上决定采取军事行动完成东三省独立，响应武昌起义。具体步骤由蓝天蔚下令佯称“本协奉令开拔进关，即时出发，开赴车站准备上车”。预定当军队通过城内时，即分别占领总督府、军械局等处，然后，由咨议局派员接收，会同地方团体推举大都督。同时将一部分军队开到西关，以防备日军。可是这一计划，却很快被蓝天蔚的部下泄露。
蓝天蔚所部第三标标统（团长）聂汝清，是清军著名将领聂士成之侄，目不识丁，因其叔叔的勋功，由行伍提升为标统。其人头脑极其顽固，毫无革命意识，又与蓝天蔚不和，他得到蓝的密令后，即令管带（营长）李际春到督署告密。赵尔巽立即提升聂任代理协统，李升任标统，并用电话请蓝到督署。蓝不知事泄，乃亦赴督署，刚进大门遇见张作霖，张气势汹汹地要解除蓝的武器。张作霖正唱黑脸之际，赵尔巽闻声跑出唱白脸，“好言相劝”，软硬兼施，逼迫蓝天蔚交出兵权。张作霖也想除掉蓝天蔚这一劲敌，故表演得相当出色，拉出欲将蓝天蔚置于死地的架势。迫于无奈的蓝天蔚只得乖乖接受赵尔巽的条件，把军队交出。然后，赵以“因南方风潮日烈，请君去调查，据实以报”的名义，逼蓝出走奉天。至此，蓝天蔚响应武昌起义的计划宣告失败。
逼走蓝天蔚后，奉天的兵权悉数落到张作霖之手，他一跃而升为奉天城内举足轻重的实权人物。
奉天主要的革命党人就是蓝天蔚和张榕，蓝天蔚走了，接下来就该轮到张榕了。为了维持在东北的统治地位，赵尔巽必须除掉他。张榕，原名焕榕，字荫华，系盛京汉军镶黄旗人，祖籍山东济南，后徙居奉天抚顺。他家境富有，任侠尚义，22岁到北京京师大学堂译学馆读书。1904年日俄战争期间，弃学出关，毁家输财，组织关东防卫队抗俄。事败回京，与桐城吴樾一见倾心，1905年9月间，与吴樾同到前门车站炸五大臣。吴樾当时牺牲，张榕被捕，被判处“永久禁锢”。他为人机智且有感召力，在狱中竟与典狱长王绍臣结成莫逆之交，后偕同王绍臣一起逃亡到日本，参加同盟会，从事革命活动。武昌起义后，张榕即由日本回到奉天倡言革命。因张榕是与吴共谋炸五大臣的重要角色，所以赵尔巽得知张榕到了奉天，整天提心吊胆，寝食不安。特别是张榕为声援武汉，积极组织军事活动，主张宣告东三省独立，这更为赵尔巽所深惧，“深知其谋，惮之弥切”。故赵尽力用缓兵之计。
张榕、张根仁等鉴于蓝天蔚被迫离奉南下，和平革命方案已经破产，为了把分散四处的革命力量组织起来以便在省城内外同反革命势力作有效的斗争，11月17日，在奉天成立了“联合急进会”。办公地点设在沈阳小北关容光胡同张榕的住宅内。会上公推张榕任正会长，张根仁、柳大年、李德瑚等任副会长，“联合急进会”提出的革命任务是“响应南方牵制北军势力，使清帝不敢东归”和“建设满汉联合共同政体”。“建设满汉联合共同政体”非常切合奉省满汉杂居的具体情况，有利于满汉团结，深受满族人士的欢迎，有力地批驳了革命就是“旗人遭难”，“杀戮满人”等谣言。当时参加这个革命组织的既有汉族人，也有满族进步人士。会议决定仅留张榕等少数“居省调护”，掌握中枢，其余成员则赴各地自下而上发动武装起义。庄河革命党人顾人宜首先在庄河、复州一带响应武昌起义。之后，辽阳、凤城、辽中等县的武装起义接踵而起。对张榕的所有举动，赵尔巽都看在眼里，记在心上。他“深知其谋，惮之弥切”。赵尔巽在成立保安公会时，还给了张榕一个有名无实的参议副长的官位，以便迷惑笼络张榕。
同时，赵尔巽则命令当地武装并派出一部分军队严行镇压。而张作霖的巡防营则位居中枢，坐镇省城，酝酿着一场血腥的大屠杀。
当时的张作霖没有什么主张和理论，是一个十足的实用主义者，他当初接受清政府招抚就是为了升官发财。所以他一切都以是否有利于升官发财为出发点。凡是有利于他升官发财的，他就干；反之，他就不干。这一时期，维护赵尔巽就是他谋取利益的最重要手段。
因此，当赵尔巽探听他口风时，他拍着胸脯保证说：“我只以大帅的命令是从，此外什么都没有，耿耿此心，唯天可鉴。”并表示“一切以大帅马首是瞻，大帅叫我咋干我就咋干”。赵尔巽和袁金铠听了此话，马上将他们密谋的镇压奉天革命党人的计划向张作霖和盘托出，要求张作霖严厉镇压革命党人。一心为入主奉天苦寻机会的张作霖认定这是个升官发财的好时机，乃欣然应允。
张榕年轻豪爽，缺乏警惕性，袁金铠向张榕假献殷勤，佯示愿与急进会合作。张误认为袁可与同谋，还委袁为“联合急进会”参谋部长，对他无话不讲，其实恰恰就是这个袁金铠泄露了组织内部的秘密，让赵尔巽清楚掌握了张榕与急进会的起义计划。
张作霖进入奉天省城以后，成为拥兵自重的一个实力人物。在当时东北政局尚未最后明朗的情况下，自然为各方面瞩目，而张作霖则在这方面大肆投机，讲一些左右逢源的话，借以抬高自己的身价。他曾言不由衷地说什么“革党中人鉴于政府之腐败，故起革命之举动，以期改良政治巩固国基，予亦深表同情”，这似乎表明他拥护革命，起码是不反对革命的。张榕被张作霖的一些话所迷惑，认为张作霖有武装实力，又是同情革命的，对其心存幻想，竟幻想拉张参加革命。袁金铠和张作霖便决定利用他的这一心理，引其上钩。
1912年1月23日晚上，血案的总策划袁金铠谎称张作霖有意革命，鼓动张榕请张作霖到平康里得义楼吃饭。知单送到，张作霖除在知单上照例写上“敬陪末座”外，又加上“必到”二字。一心想把张作霖拉拢到革命阵营里来的张榕，听说他有意革命，心中大喜，马上下帖对张作霖发出邀请。
酒足饭饱后，袁金铠提议道：“听说荫华（张榕字）在蜚红馆有了个新相知，叫小桃，人很漂亮，要不咱们一起看看去？”张榕不知是计，乐颠颠地领着袁金铠和张作霖来到蜚红馆。见了小桃后，袁、张二人一顿奉承，夸得张榕心花怒放。随后，三人便一起躺到炕上吸鸦片烟。那个时候，吸鸦片是一种时尚，很多上层人物都有这个嗜好，张榕这个革命党人也一样。没一会儿，袁金铠推说有事先走了，张作霖也随后找个借口离去。张作霖前脚出了门，他安排的两个杀手于文甲、高金山就冲进房间，向正在吞云吐雾的张榕连开数枪，张榕惨叫一声，血流满床而死。张榕被害的第二天，张作霖即给赵尔巽上一呈文，文曰：“兹查有省城大北关张榕，前经组织急进会，自称会长，纠结亡命无赖多人，昼夜计议，……与该军机关部来往通函，约期起事……当派侦探长于文甲，带同兵弁跟踪追缉。本拟将张榕擒获，然后呈请讯办，乃行至西关平康里，路遇张榕，上前查问，该犯竟敢开枪拒捕。经于文甲还枪迎击，即将该犯当场击毙。”一场蓄意谋杀，被这一张公文掩盖过去。
张榕死后不久，中华民国宣告成立。南京临时政府决定专为张榕烈士开追悼会。张作霖也感到此仇可解不可结，曾托人向张榕胞兄张焕柏和胞妹张焕桂表示，愿拿出若干款，以维持张家的生活和资助其后人到外国留学。张焕柏兄妹认为不应拿弟弟的名誉换钱，所以拒绝了。1925年张学良又派人给张焕柏送去一封信，信中有“鸟倦飞而知还”的感人佳句，并拟聘张焕柏为秘书厅行走，月支车马费200元，表示愿两家张姓言归于好。张焕柏兄妹亦未接受。其后，张焕柏的几个儿子到外国留学，张学良为赎回其父欠张家的一笔血债，曾主动给以资助。时人对张学良这一行为，无不为之赞许。
杀害张榕的当天晚上，张作霖按照赵尔巽、袁金铠的指示，派人杀害了张榕的好友宝昆与田亚赟。
宝昆别号宣山，满族，因排行老六，省城人都叫他“恒六”。其父曾做过知府，家颇富裕，居奉天大东关下头。当晚宝昆家亦被抄。当张作霖的手下蜂拥而至时，宝昆已睡下，被他们从被窝里拉了出来，连衣服都未来得及穿，就在庭院里被刺死，其惨状不难想象。
前去抄田亚赟家的是汤玉麟。田亚赟是通化人，陆军小学堂毕业，是个文武兼优的人才。当时家住南关合兴福胡同，时任“联合急进会”秘书，《国民报》编辑主任，他常“以共和理想，灌输三省人民”。并在报纸上发表文章，批评时政，或用漫画讽刺封建当局，故颇为封建统治者所嫉恨。当即惨遭杀害。
张榕等被杀后，赵尔巽称赞张作霖“该统领不动声色，连毙三凶，实足以快人心”。对张作霖的暴行极力称赞。随后，张作霖继续充当赵尔巽的打手，对奉天革命党人进行大规模的屠杀。凡遇到形迹可疑、剪发、易服之人，即行砍头或关进监牢，其中多是具有民主革命思想的青年学生。当时盛传张作霖杀秃子即指此而言。当年的奉天南门里城墙根、小河沿南广场、草仓的北大坑以及风雨坛、八王寺等地，都是屠杀场，到处都悬挂着人头，刀光剑影，一片恐怖，整个奉天笼罩在白色恐怖之中。
经过一场血腥屠杀，奉天的革命运动一时被镇压下去了，而且，影响所及，吉、黑两省的反动保皇势力也嚣张起来，开始了对革命党人的镇压和屠杀。整个东北地区的革命力量受到致命打击。
张榕等被杀后，赵尔巽为嘉奖张作霖的“功绩”，“专折特奏”朝廷说，“张作霖骁勇善战，过于张国梁”，“请朝廷破格升赏，以资鼓励”。朝廷破格升赏，任张作霖为“关外练兵大臣”，赏戴花翎，以总兵记名，并将其所部改为第二十四镇，张作霖官升统制（就是师长）兼奉天巡防营总办。从这时候起，奉天的军事大权全部落到了张作霖的手中。
2.取悦袁氏 就任师长
张作霖仔细观察中央政局，认定袁世凯将来必定是一个左右朝廷的人物，因此，如何取得袁世凯的信任，从而开启另一条升迁之路成为张作霖的当务之急。
开始，张作霖并不了解袁世凯的心理，还以为袁是第二个曾国藩，是忠心维护朝廷统治的。所以，镇压奉天革命后，他马上以“社稷之臣”的身份，联合冯德麟、马龙潭、吴俊升等33名武将，给当时任内阁总理的袁世凯拍电，表示要武装勤王。其电文说：“革命军酿成民乱，无视君主，徒逞其私利私愤，其行为殆与盗贼无异。朝廷只汲汲于大局之和平，虽有议和之议，但如斯缺乏诚意之和平，殊无讲求之必要，吾人所可取之途径，唯有武力而已。东三省与内地各省不同，军队部署既定，且勤王之心亦厚。劲旅数万，一旦有命，即可取道山东南下，誓当剿灭革命军，以区区微忠，尽瘁朝廷……”倡议以东三省军队十分之六组成勤王军，张作霖还自告奋勇，愿任勤王军总司令。他慷慨激昂，要誓死保卫清王朝，以报皇恩。在此期间，张作霖也向日本驻奉总领事表示：我张某人无论如何亦不能附和共和。如果皇帝退位，成立共和政府，我不能听从指挥，只好采取自主行动了。俨然是朝廷的大忠臣。然而实际上张的一切表态，不过是从自己的利害关系出发而采取的策略而已。
但张作霖这次可是判断有误，袁世凯此时已经在暗中策划宣统退位的事情了。只不过他也是一等一的政治高手，做得不显山不露水的。张作霖的表忠，让他逐渐认识到，张作霖是个可以利用的人。于是他也给张作霖多次秘密发电，表明宣统皇帝必须下台，国家要实行共和制，如果张作霖支持的话，将来成功后肯定任命他为“东三省防务督办”。
头脑机敏善于观察形势的张作霖，也很快认识到腐败不堪、危在旦夕的清王朝瓦解之势已成，实难维持，特别是袁世凯的秘密信件，让他马上明白了袁的用心，不由得喜出望外。自己本来还只想着奉天，这下子连东北三省全都归自己了。张作霖立即回电，改变维护帝制的立场，表示将“衷心拥护共和”。昨天奉戴清朝还是个死硬的保皇派，“勤王论”积极提倡者，今天竟幡然一变，“两次致电袁世凯表示赞成共和制”。据说为了拉拢张作霖，袁世凯特意派密使赴奉，“曾以军刀一柄及其他贵重物品价值一万余元，赠予张作霖，以示对张氏精勤军务之犒劳”。同时张作霖“亦从奉天城内四平街某药店购买人参价值一千二百元，纯银餐具价值八千八百五十元等物品回赠袁世凯”，以示巴结。就这样，审时度势的张作霖摇身一变成为袁世凯麾下一名悍将，秉承袁世凯的旨意，联合冯德麟等将领，掉过头来对赵尔巽施加压力，使其认清只有顺应大势别无他途。在张作霖逼迫下，赵尔巽致电袁世凯说“东三省之事不足虑”。于是清朝在最后覆灭之际，东三省却按兵不动，采取了坐视不理的态度。
袁世凯当上临时大总统后，趋炎附势的张作霖又马上对袁世凯大加吹捧，说“国体既定，临时共和政府已建立，窃唯推选袁世凯为大总统，实属至当”。霎时间，张作霖又一变而为袁世凯的“忠心”拥护者。因为张作霖既无稳定的政治主张，更无主义的信仰，他的一切变化，都以个人权力地位为转移，所以其态度变化之快，不免使人有眼花缭乱之感。孙中山在辞职时，为了钳制袁世凯曾提出定都南京，新总统要到南京就职和遵守《中华民国临时约法》两项条件，老奸巨猾的袁世凯坚决不肯离开北京老巢一步，并唆使其爪牙，纷纷通电拒绝迁都。张作霖见此情形，心领神会，立即配合行动，致电袁世凯：“大总统已公选全权，为天下之人贺。惟范宁一节，军界不甚允协，仍以北京为妥，如必莅宁，恐有他变。”此后南京派出专使，催促袁世凯南下就职。袁世凯的心腹为反对迎袁专使，又纷纷发出通电或者制造兵变，一时间京津被搞得乌烟瘴气。张作霖为与袁相呼应，急忙推波助澜，争先发出通电说什么：“东三省逼处强邻，土匪每借以肆虐，极力保全，尚虞危险。幸以北京尚安，人心稍固，犹可维持。倘总统离京，恐匪徒乘机破坏，酿成交涉，至为可危。如本省不保，全局立坏。”由于张作霖紧紧跟随袁世凯表现十分“忠顺”，因此，很快取得袁世凯的重视。
袁世凯借口北方政局不稳，如果离京难保不会出现兵变为由，迫使革命党人打消了要他南下的计划。3月10日，他如愿以偿地在北京就职，窃取辛亥革命的胜利果实，组建了北洋政府。
实行共和以后，张作霖干的第一件大事，就是平定第二混成协的士兵哗变。蓝天蔚被赵尔巽逐出以后，举报出卖蓝天蔚的第二标统聂汝清当上了第二混成协的协统，认为发财时机到了，就克扣薪饷、领空头饷为自己捞钱，引起了士兵的不满。在革命党人孙祥夫的鼓动下，6月19日，驻奉天城大北关外的混成协第三标第二营发生哗变，他们携带武器冲出营门，呼喊着冲向奉天城。其余各标士兵也有许多跟着哗变。他们直扑大北门，鸣枪、打砸两侧的店铺，与守城的张作霖巡防队官兵发生激烈交火乃至巷战。张作霖当机立断，调动两个马队营包围了哗变士兵，当场擒杀200余人；夺取军械、军衣、子弹，并收缴赃洋3万余元。张作霖又帮助聂汝清对第二混成协进行清洗，陆续遣散2000余名有兵变嫌疑的兵员和军官。赵尔巽将张作霖在镇压兵变时的成绩写成报告向袁世凯奏报，称张奋不顾身，异常出力，请示予以奖赏。袁世凯当即批复：“统领张作霖等人在制止兵变时防守得力，饬陆军部核讫奖叙。”由此，张作霖不仅借机将奉天驻军中有革命倾向的分子斩杀、驱逐殆尽，且得到袁大总统的嘉奖和信任。
1912年9月11日，袁世凯下令对东三省的军队进行重点改编。命由张作霖任统领的原中路、前路巡防营改编为国家陆军第二十七师，驻扎军政要地奉天。任命张作霖为师长，陆军中将衔，特授勋五位。这一年，张作霖38岁。
这在张作霖一生的经历中，是十分重要的一环。原来的巡防营是地方治安部队，是由东三省筹资维护的，主要任务是辅助陆军攻守和协同巡警捕盗。而陆军师团，则是负责国防要务，兼司地方剿匪，是国家的正规部队，由中央拨款装备，归国家调遣。陆军第二十七师的编制有了很大的提升。由原来马步单一兵种的落后部队改编为多兵种合成的先进部队。它有5个兵种，即步兵2个旅，骑兵1个团，炮兵1个团，工兵1个营，辎重兵1个营。相对而言，该部队装备精良，面目一新。张作霖本人升官，他的老班底也跟着升迁。张作霖任命汤玉麟为第五十三旅旅长，孙烈臣为五十四旅旅长，张景惠为骑兵第二十七团团长，张作相为炮兵第二十七团团长。其余的团、营、连长也都是张作霖的亲信。因此，陆军第二十七师名义上虽为国家的军队，实质上却是张作霖的私家军。官官之间、官兵之间、兵兵之间，是用亲戚、乡党、盟友、帮派联系在一起的。他们以帮派利益和兄弟义气为纽带，结成了牢固的封建群体。他们只听命于一个人的指挥，这个人就是他们的恩人张作霖。陆军第二十七师实质就是张作霖个人的家兵家将。
当时，东三省还有三支部队。其一是冯德麟的陆军第二十八师，是由原巡防营左路改编的，编制2个旅。冯德麟任师长，张海鹏、汲金纯分任旅长，驻北镇。军力显然弱于张作霖的师。其二是由原巡防营后路抽调一部分改编为陆军骑兵第二旅，吴俊升任旅长，兼巡防营统领和洮南镇守使，负责奉省西北的地方治安，驻洮南。其三是巡防营右路未变，由东边道镇守使马龙潭统辖，仍驻原地凤城。这三支部队，其装备、数量、兵种、驻地等，都不能和张作霖的陆军第二十七师相比，他们都是弱旅。其时的张作霖占有了天时、地利、人和三大有利条件。张作霖此时拥有了东三省举足轻重的武装力量。这为他后来的发展奠定了可靠的基础。
张作霖的野心并不止于一名师长，他要称霸奉天全省，以至东三省。但这并非容易之事。在奉天和东北，外有日本等帝国主义侵略势力的干涉，上受袁世凯先后派来的奉天督军张锡銮、段芝贵的掣肘，下与势均力敌的对手冯德麟相抗争。深谋远虑的张作霖并不畏惧，他决定隐忍持重，一步步实现自己的目标。
日俄战争后，东北已经是日本的势力范围，张作霖深知，若想称霸东北，没有日本的支持是根本不可能的。早在1912年1月27日，张作霖为讨好日本，亲自拜访日本驻奉天总领事落合谦太郎，他首先自我吹嘘说：“目前东三省兵马实权全在本人掌握之中。”然后，他卑躬屈膝地说：“日本如果对我有何吩咐，我一定尽力而为。”是年12月，日本关东都督福岛中将路过奉天，张作霖又前往拜访，并表示：“如果福岛有何命令，我愿按日本指示行动。”张作霖之所以不厌其烦地讨好和迎合日本，其目的就是想借日本一臂之力，获取奉天督军的职务。张的举动没有收到立竿见影的效果，亦没有引起日本的足够重视。但张此举也给日本人留下了良好的印象，如落合等人曾向日本政府建议：“在对满政策，充分研究利用张作霖的方针是必要的。”为此，张后来的许多行动都得到了日本的支持。
初掌政权的袁世凯，为了稳固自己的统治地位，对各地方军阀极力拉拢、安抚，对实力渐强的张作霖也不例外。1912年11月，袁世凯政府为了讨伐在沙俄怂恿下进犯奉、吉两省的蒙匪，命东三省设“筹防处”，任张作霖为总办。
1913年3月20日，袁世凯在密谋刺杀革命党人宋教仁后，接着就对南方的革命党人发起了进攻。为免除后顾之忧，袁世凯曾以“筹商边疆要政”为名，首次召见张作霖。在见袁世凯之前，为巴结这位袁大总统，张作霖准备了一份厚礼，带到北京。正式接见时，张作霖为讨袁的欢心，竟以三跪九叩之礼给袁世凯行大礼。当袁世凯装腔作势地提醒他，现在已是民国，不再兴这样的大礼时，张作霖却说：“作霖过去只知有皇上，如今只知有大总统。大总统就好比皇上，见了您老人家，哪能不磕头？”早就有心当皇帝的袁世凯，听了这一席话，心花怒放，不由得对张作霖大加赞赏说：“辛亥革命以来，东三省形势危险，全仗军威震慑，赖以有今日之安宁，嗣后仍当振刷精神，为东三省人民谋幸福。本总统有厚望焉”。袁世凯让张作霖感到升官有望，前途无量。张作霖听到袁世凯夸奖，立即回答说：“维持大局，保护公安，乃是军人之天职，断不敢稍有疏忽，致负大总统之委托。”
为了表示对袁世凯的忠心，讨好袁世凯，张作霖回奉后振奋精神，加紧操练士兵。他积极抓紧追剿蒙匪之事，将自己搜刮所得的积蓄拿出来在德国商人经营的礼和洋行订购了12挺机枪和100余万发子弹，充实到自己的武装中，以增强征讨蒙古叛匪的实力。
袁世凯见张作霖如此听话，而且干得如此卖力，非常高兴，马上派人赴奉天，将一枚一等勋章挂在张作霖胸前，以示嘉奖。
当袁世凯发动对革命党的屠杀后，张作霖于5月23日，领衔致电袁世凯，为其呐喊助威。通电中，张攻击黄兴等人是诬陷政府，损害国体，无非是要推倒政府，以便自己图私利，最后，他还不忘向袁表忠心：“愿负驽前驱，为我庄严璀璨之中华民国扫荡妖氛。”
但张作霖既不属袁世凯嫡系且又机警过人，袁世凯担心张的势力如果发展过快，今后将难以驾驭。因此，在局势稍加稳定后，袁世凯就想对张作霖的势头加以遏制，妄图采用调虎离山、明升暗降的计策，削弱张作霖的实力。1914年8月间，袁世凯曾企图给张作霖一个仅次于都督地位的“护军使”空头衔，把他调至蒙古，将吴俊升调到奉天。张作霖得此消息，非常恼怒，立即打了一封措辞强硬的电报给陆军总长段祺瑞说：“辛亥，癸丑之役，大总统注意南方，皆作霖坐镇北方之力”，“今天下底定，以谗夫之排挤，鸟尽弓藏，思之寒心”，“中央欲以护军使等职相待，此等牢笼手段，施之他人则可，施之作霖则不可”。同时，张作霖指使奉天绅商上书挽留，说：“张师长生长本土，习知奉事，自宣统三年移节省城，越明年编制成师，未尝一迁师部于他处，城关商民以及驻奉各国官商，深望依庇。”“当此欧战方兴，人心浮动，若以库伦镇守使之职，移节蒙边，则中外商民必多心不及安者。”袁世凯自知不可能依靠一纸命令逼其就范，又感到自己鞭长莫及，张作霖手中还握有兵权，最后只好打消原来的打算。
3.架空上司 吓走新贵
张作霖当上二十七师师长之后，官气长了不少。他手下的文武百官云集，唯命是从。一些豪绅、权贵也纷纷前来巴结，溜须拍马，行贿送礼者络绎不绝，反倒把赵尔巽冷落到一边。赵尔巽成了光杆司令，凡事都要看张作霖的脸色，甚至在官员的任免上都要以张作霖意见为准。赵尔巽在奉天的权力实际已被张作霖架空了。1912年11月3日，赵尔巽称病辞职。11月16日，袁世凯任命他的把兄弟张锡銮为奉天都督兼民政长，节制吉、黑两省军务，牵制张的力量。这一改派，袁世凯是经过慎重考虑的。张锡銮是他的老把兄弟，很是可靠。而且张锡銮原在奉天任过奉天巡防营务处总办，那时张作霖任前路巡防营统领，冯德麟任后路巡防营统领，两人都是张锡銮的老部下。这次老上司前来，他们总得给点面子。
虽说奉天都督张锡銮是袁世凯的好友，张作霖又曾拜他为义父，平素对他恭敬谨慎。但是，如今时过境迁，张作霖手握重兵，实力已凌驾张锡銮之上，又都是桀骜不驯，而张锡銮尽管名义上是镇安上将军，但他无强大武力作后盾，又是年逾古稀的老人，势必处处都在张作霖控制之下。
当时镇安上将军公署共有四个课，即军务、军需、军法、军医。一次，军务课长出缺，日本陆军士官学校毕业的熙洽，时任张锡銮的参谋，颇得张之青睐。张锡銮内定熙洽当课长。张作霖获悉，便对熙洽说：“老弟你当上军务课长，以后就可以对我发号施令了。”熙洽是个明白人，受了张作霖的奚落，回去立即向张锡銮辞职。张锡銮知道原委后，派人去征求张作霖的意见，张表示可叫第二十七师正书记官陶历卿当这个课长。张锡銮不敢怠慢，立即照办，任命陶历卿为军务课长。
张作霖虽仅是一个师长，但因他手中有枪杆子，他家实际成为全省政治中心。张公馆里每日宾客如云，常来的有度支司司长荣厚、警察厅厅长寥篯如、垦务局总办阎泽溥、上将军参谋张仁等人，他们无论与张有无关系的事情，都与他相商或征求他的意见，事先必使他与闻。“不在省城的文武官员来奉时，遇事也必与他相商”。
张锡銮对此敢怒不敢言，甚至有时还要亲自去张作霖府上，以示笼络。1914年6月，各省裁撤都督，改设上将军或者将军，张锡銮又就任镇安上将军，督理奉天军务并节制吉林、黑龙江两省。孟恩远以陆军中将衔为镇安左将军，督理吉林军务，朱庆澜以陆军中将衔为镇安右将军，督理黑龙江军务。张锡銮官升一级后，张作霖十分眼红，并认为自己这次没有升官，主要是张锡銮没替自己说话的缘故，加紧对张的排挤。可怜的张锡銮，感到自己的处境很尴尬，兵权不在自己手中，说话没有分量，老是受人家的窝囊气也不是个滋味，乃以“奉省政务繁多，以老病之身不胜重任”为由一再向袁世凯提出辞职。
在此形势下，张作霖于1915年两次进京，秘密结交政府要人，试图运作继任奉天将军的职务。他不是先拜访袁世凯，而是带着许多关东的土产和金银珠宝，对几个实权人物逐个拜访。他首先就给袁世凯的心腹段芝贵“献上一份重礼”，并拜段为老师，由段引他去见大总统。
为了解除袁世凯对他的警惕，张作霖决定“装粗卖傻”。他曾研究过：张勋本是个粗鲁无知之辈，他虽常常有违抗袁的地方，但却始终受着袁的宠信。以此为鉴，他决定这次也把自己装扮成很粗鲁的样子。见了袁世凯的面，他“跪地行大礼”，“应对陋词莽语”，同时，他还特嘱随员，将前门外八大胡同所有妓馆统统包下，俾秽声四出，目的是给袁世凯“以老粗无大志之印象”。这招果然好使，袁世凯认定张作霖只是一介武夫，不懂政治，因而对张放松了戒备，一见面就温语相抚，并赠与金表和古玩。
张作霖何等聪明，从召见中，他已洞悉袁世凯想当皇帝的野心，回到奉天后，他马上向袁世凯发出“速正大位”的密电：“作霖日前在京觐见时，曾痛言国家安危系于我大总统于一身”，最后又称“作霖行年已四十有二矣，位至中将，子女数人，田产亦足以爷事俯蓄，今日之言，实为国计，非为希荣计，若有二心，天实殛之，我大总统若不俯顺舆情及将士之心，诚恐天下解体，国家之祸更不堪设想矣。”表明他不是为私而是为公劝进，讨得袁十分欢喜。
但袁世凯不是一般人所能忽悠得了的，他在官场混了一辈子，见多识广，阅人无数，连精明透顶的山西将军阎锡山，每次见他都腿肚子发抖。张作霖不属于袁“圈里的人”，袁世凯对他早有提防，虽然几次向他示好，但袁总担心自己称帝时，张会突然叛离。因此当张锡銮迫于压力请辞的时候，袁世凯派了段芝贵入督奉天。当然，袁派段入职奉天，还有一个不可告人的目的，就是由其积极推行他复辟称帝的计划。
段芝贵，字香岩，安徽合肥人，属于段祺瑞的铁杆皖系人马。1913年授陆军上将，任陆军第1军军长。1914年授彰武上将军，署理湖北军务。他这次是和张锡銮对调。1915年8月，授镇武上将军，节制奉天、吉林、黑龙江军务，兼奉天巡按使，又封为一等公。
段芝贵不仅是袁世凯的心腹，他和张作霖还有一段交情。原来，在张作霖受抚时，段芝贵的父亲曾出过力。从某种程度上讲，段芝贵有恩于张作霖。可见，袁世凯的这个安排，还真是下了一番工夫。
1915年8月，段芝贵走马上任，成了张作霖新的顶头上司。段芝贵是个官场老手，他自然清楚张“枭雄”在奉天“上嘴唇顶天，下嘴唇挨地——不是凡人”，为了笼络张，走马上任时，他只带了少数人来奉天，并直接下榻于张作霖第二十七师的司令部，以表示对张作霖的信任。
张作霖好不容易把张锡銮赶跑了，现在又来了个段芝贵，别提心里有多窝囊了。但他了解段芝贵的来历，硬碰肯定不行，所以应该等待最佳时机，把段芝贵赶跑！因此，他表面上对段芝贵毕恭毕敬，还时不时地拿出白花花的银子贿赂，又派人四处搜集珍稀古玩送给段芝贵。慢慢地，段芝贵对张作霖放松了警惕。接下来，张作霖真正的大戏开场了。
袁世凯当了大总统后又想当皇帝。奉天将军段芝贵是积极支持者。张作霖权衡利弊后，认为迎合袁世凯的权势比复辟清朝更有利。于是，便拥护帝制以赢得袁的欢心。他一再上书，向袁表示忠心：“如在东三省内，有倡异论者，誓以死当之。”甚至说，“如帝制不成，宁死而不欲复生。”
没过几天，张作霖又和冯德麟等奉天军界19位高级军官一起向段芝贵递送劝进请愿书，声言不改成君主制度，不足以确定国家稳定的基础。段芝贵也极力拉拢东三省的将领，多次联名致电袁世凯，劝其速正大位。袁世凯见各地军人也加入了劝进的行列，心里有了底数，加快了称帝的步伐。
在助袁称帝活动中，张作霖比段芝贵更加卖命。当时奉天表决国体投票时，张作霖亲自带领大队人马，荷枪实弹，监视公民投票。造成清一色赞成君主的民意；同时，将他的部下密探，派至各个角落，严格监视反对派。并一再手拍胸脯向袁世凯发誓：只要有我张某在，“万一奉省出现反对者也无足为惧”。“内省若有反对者，作霖愿率所部以平内乱，虽刀斧加身，亦不稍怯”。张作霖这番表演，在袁世凯的亲信中亦属罕见。其实张作霖这番表演，都是为了换取袁世凯信任，达到升官发财目的。
1915年12月12日，袁世凯宣布恢复帝制，并论功行赏，大封劝进功臣。在长长的封爵名单中，袁亲自在段芝贵的名字后面画了五个圈，一等公爵，排在前五位，在张作霖的名字后面画了两个圈，封二等子爵。在袁世凯看来，封一个师长为子爵，已经是破格了。但对“抱有封侯大志”，本想当奉天将军的张作霖来说，却是大失所望。听说只封他为子爵，上面还有五个圈的公爵、四个圈的侯爵、三个圈的伯爵，他极为不满：“我连辽东王都不愿意做，何能为人做子？”当即递呈请假，以示不满。
当时所谓请假，便是辞职的先声，辞职又是自由行动的初步。段芝贵亲自看望，亦吃了闭门羹，挡驾不见。段曾建议袁世凯许张以绥远都统。张作霖多年来所培植的势力，是在奉天省城，所以张一口拒绝，表示绝不离开奉天一步。冯德麟见袁封他为二等男爵，位在张作霖之下，大为不满，拒不接受，对段芝贵更恨之入骨。
张作霖敢和袁世凯撕破脸，是有所依恃的。袁世凯的帝制丑闻上演后，各省相继宣布独立，起兵讨袁，一致要求取消帝制。连原来支持袁称帝的日、英等国，也改变了原来的态度。以日本人为靠山的张作霖对这一切自然十分清楚，因而他才有胆量与袁讨价还价。在四面楚歌之时，袁世凯想到了向他表忠的张作霖，1916年2月，他一纸急电召张作霖入京，商量出兵问题，并许诺“事成后封侯封公不成问题”。张作霖俨然成为袁世凯最后的一根救命稻草。
袁世凯此时向他求救，张作霖是满口答应，手拍胸脯，坚决表示“愿为前驱”，一定尽全力消灭叛乱的军队，让洪宪皇帝这个位置坐得踏踏实实的。袁世凯满心欢喜，“龙颜为之大悦”。但突然张作霖面露犹豫之色，提出在开拔之前需要补充些饷械，否则一无枪械，二无粮草，断不能为皇帝平戡战乱。此时的袁世凯也无半点讨价还价的余地。事不宜迟，袁世凯命人以最快的速度将他所需要的银元和军火全部一股脑地给了张作霖，并叮嘱他尽快出兵。
饷械物资一到手，张作霖就再不是当初那般“想袁世凯之所想，急袁世凯之所急”的忠心臣子了，他不仅再无出兵之意，还以极高的工作效率，命人用一天的工夫组织了一个“公民请愿团”，让他们在大街上游行，高喊：“奉人治奉”，反对张作霖离开奉天。袁世凯、段芝贵深感受张欺骗，叫苦不迭，悔恨不已。
袁世凯称帝，搞得自己四面楚歌，张作霖决定实施“顺应时变”、“奋起有为”的计划。该计划的第一步就是把段芝贵赶走。张作霖先叫手下人虚张声势，在城内频繁调动军队。段虽是奉天将军，但并无实力，他上任时只带来一营卫队，在奉天城内几乎无济于事。他见张作霖手下频繁地调兵遣将，特别惶恐不安，不知会发生什么事情。
在张作霖指使下，奉省的一些官员还指责段贪污，他们到处宣扬说：“段芝贵挪用奉天公款数百万元，这些全都是奉天人民的血汗钱，我们要求查查段芝贵的账。”这些都让段芝贵坐立不安。
自知仅凭一己之力难于达到驱段的目的。张作霖便与二十八师师长、自己的磕头三哥冯德麟商讨如何驱段。因为张作霖非常清楚冯三哥对段芝贵恨之入骨，就一件事就能把冯德麟气得暴跳如雷：段芝贵到奉天做镇安上将军时，张作霖所保荐的军务课长陶历卿未予更动，而冯德麟所荐的副官长白运昌却换为段带来的汪佛生继任，因此冯对段感情恶劣。冯说：“早晚必报复，走着瞧吧。”此时张作霖主动来找冯德麟商讨，冯兴奋万分，说：“段芝贵是清末官吏中的败类，秽史劣迹人所共知，今又为东三省复辟帝制的祸首，却仍居奉天人士之上，我们决不能甘心就这样，不如将其逐走，由奉天人自己来干。”张作霖忙问：“冯三哥，有何高见？”冯德麟说：“这不难，我们二十八师扮黑脸的和他做正面冲突，由你二十七师扮白脸的，用吓字诀，逼他畏罪逃走，岂不妙哉！”张作霖一听此言，拍手称赞：“好！让各方面人也知道知道，我们奉天人是不好惹的。”两人一拍即合。随即展开驱段行动。
这天夜里，奉天城郊的几声清脆枪响划破了寂寂夜空。不一会儿，张作霖慌里慌张地跑到段芝贵住处，告诉段，“二十八师一部要进城了，扬言以武力惩办帝制祸首。”别看段芝贵官位很高，平时威风凛凛，其实就是个空架子，“所有的卫队不过千人”，当然不能和张作霖、冯德麟这样的实力派相比。一听冯的军队要进城，段急得不知所措，问张：“如何是好？”张说：“不要紧，我有防备，来的兵不算多。”段这才吃了颗定心丸。可好日子没过两天，张又来报告：“这回冯把二十八师全开出来了，我也没办法了。”段芝贵吓得浑身发抖，不停地嘟囔：“这可咋办！”张作霖这次毫不犹豫，他走到办公桌前，在桌面上用手指头写了一个大大的“走”字。段芝贵心领神会，三十六计，走为上策，趁早离开这是非之地。他立即电请中央，说因疲劳过度，身体有了问题，需要到天津养病。临走前，段芝贵还不忘大捞一把，他命人悄悄地从“官银号”提出官款200万和一批军火，秘密装上他的专列，准备一起带走。张作霖和冯德麟对此事佯装不知。
临走那天，张作霖亲自送别，“赠送大批礼物，坚邀早日归来”。特派五十四旅孙旅长率一营兵护送。列车行至冯德麟的防区沟帮子车站，二十八师汲金纯旅的一个团将列车团团围住，邱团长登车找到段芝贵，拿出两封电报，说是奉天军民团体打来的，并大声宣读：“段芝贵为帝制祸首，举国共讨，奉天军民不甘人后，正拟处以应得刑罚，不料祸首私携官款，畏罪潜逃，特电请汲旅长派兵就近截留，押回沈阳，依法处理。”而且，士兵又拥到站台上，剑拔弩张，一触即发。段芝贵吓得面如死灰，眼巴巴地向孙旅长求助，孙旅长极其不满地说：“岂有此理，等我问问。”即下车佯装打电话请示。其实他不过是到票房同人闲谈打诨罢了。过了很长一段时间，估计段芝贵的心理防线已彻底崩溃才返回，上车后即报告说：“奉天各界人情汹汹，一定要将专车押回沈阳，经我们张师长婉商多时，才答应不扣专车，但官款和军火务须点清留下，并电请中央查办。”段芝贵早已被吓得心慌手颤，连忙点头认可，乖乖地让人把官款和军火交由邱团长清点带回。段芝贵狼狈地逃回北京，向义父袁世凯哭诉东北这帮粗人如何无礼。
在段芝贵离奉之时，袁金铠等人已起草了《奉天保安会章程》，并由袁金铠出面唆使省议会正副议长佟兆元、李友兰等联络省绅各法团，倡立自治期成会，大造舆论，宣传“奉人治奉”的口号，明白无误地反对中央派外省人治奉。
奉天紧邻北京，如果奉军入关，要比云南威胁大多了。袁世凯被逼无奈，只得在奉省选人。在当时的情况下，只有张作霖和冯德麟两人可以考虑。袁世凯征询段芝贵的意见，段对冯恨之入骨，极力推荐张作霖继任。1916年4月22日，袁世凯发布命令，任命张作霖为盛武将军督理奉天军务，并兼巡按使。就这样，张作霖经过几年的权谋角斗，取悦袁世凯，排挤张锡銮，驱逐段芝贵，达到了多年梦寐以求的目的，成为名副其实的奉天军政的最高统治者。
袁世凯在全国军民的一片声讨中，于1916年6月6日病死。按《临时约法》的规定，原副总统黎元洪于6月7日就任大总统。黎宣布恢复国会，进行地方官制改革，将军改为督军，巡按使改为省长。因此，张作霖于7月6日又改任奉天督军兼奉天省长。张作霖终于如愿以偿地执掌了奉省的军政大权，为其日后统一东北奠定了坚实的基础。
4.招贤纳士 署理奉天
张作霖刚刚取得奉天军政两权后，就受到日本支持的宗社党的威胁。当时日本统治集团内，有不少人主张利用宗社党搞“满蒙独立运动”，由于张作霖在第一次“满蒙独立运动”中的表现，引起了日本关东都督府和参加该事件的日本军人极大的不满，川岛浪速和宗社党人更是对张充满了仇恨，视张为第二次“满蒙独立运动”的障碍，一心想杀掉他，而后一举占领奉天，将“满洲”变为宗社党的天下。
1916年5月27日，张作霖率部下五十三旅旅长汤玉麟等乘马车赴火车站迎接日本关东都督中村雄次郎到奉天访问。他们在归途中，经过小西门里时遭到刺客日本陆军预备少尉三村投炸弹谋杀。张作霖临危沉着，随即跳下马车，卸下马骑上奔驰而去，幸免罹难，当乘马经过大西门里的奉天图书馆时，又有刺客从图书馆门洞里向张作霖投掷炸弹，因张作霖飞马疾驰，炸弹在马的身后爆炸，张作霖又躲过这场灾难，当场炸死、炸伤警兵10余人。张回到家里刚洗完脸，门卫就报告日本满铁守备队队长来访，探问张。张作霖心知是日本人所为，考虑到今后还要与日本人打交道，也就不再追究了。
张作霖被炸事件发生刚过一个月，内蒙古的巴布扎布于7月间，揭起“勤王师扶国军”的旗号，纠集四五千人南下窜扰。巴布扎布是于1916年5月28日在喀尔喀河祭告天地，聚众拥戴大清，发布反袁檄文的。此时袁世凯已死，反袁的目标已失，南下的直接目标，自然是打倒张作霖，建立“满蒙帝国”。
张作霖先派洮辽镇守使吴俊升阻击巴匪，然后又派二十八师五十五旅张海鹏旅长率部进驻郑家屯，双方合围大败巴匪。7月26日，巴布扎布率残部退到长春南侧的郭家店。日本人见蒙匪溃败，就出兵干涉，说南满铁路附近不能开战，阻止五十五旅对叛匪的追击。8月13日，日本商人吉本在郑家屯无理殴打中国儿童，驻该地的二十八师士兵从旁劝阻，双方发生口角。日本守备队松尾中尉闻讯，带领日军20余人到中国驻军团部寻衅，团部守卫阻拦，被日本兵刺死，激起中方官兵公愤，双方发生枪战，相持两小时之久。奉军死亡4人，日军死亡10名，此即“郑家屯事件”。日方以郑家屯事件为借口，掩护巴布扎布撤退。至11月7日，巴布扎布被击毙。
虽然蒙匪被剿灭，但日本政府对郑家屯事件纠缠不休，向北京政府提出种种无理要求。张作霖屈辱地处理了郑家屯事件。这是他主政奉天省第一次直接对日交涉，颇得日本人的好感，此后多次给予张作霖以支援和帮助。
平息外患的同时，张作霖也着手于内政的治理。他很懂得“以马上得天下，不能以马上治天下”的道理。他对肯于为他效力的知识分子非常重视。
1911年武昌起义爆发后，张作霖从洮南进入奉天，其手下如孙烈臣、张景惠、张作相、汤玉麟等，虽能在他走上仕途初期助其一臂之力，但一旦他走上一省之长的统治地位，这些人的不足之处便都显露出来了：他们虽骁勇善战，但才学浅薄，胸无远见，只能是小打小闹，不足以助张成大事。及至张作霖所部改编为陆军第二十七师以后，张作霖就积极搜罗人才，为己所用。他接触最早的是奉省才子袁金铠。辛亥革命时，袁为赵出谋划策，密调张作霖入奉，剿杀革命。此举，不仅赵尔巽感激他，由此平步青云的张作霖对他也是感激不尽。1912年他随赵尔巽调出东三省，后因受排挤，于1915年返回奉天。此时，张作霖觊觎奉天之主位，身边正缺少这样一位深谋远虑的军师，他马上找到袁金铠，请其为自己指一条明路。袁金铠何许聪明之人物，他早已洞悉张作霖的野心，马上从分析奉省形势说起，将张作霖如何能攫取奉省大权分析得头头是道，并进谏说：“如今我省握有军队的，除师长外，还有冯德麟、吴俊升、马龙潭等。冯虽是正规军，按照建制尚缺四营，而且他的内部也不团结，汲金纯（五十六旅旅长）与冯德麟素有芥蒂，若诱以重职，必为我所用。吴、马二军系巡防营编制，没有重炮、重机枪，散驻各地，不够集中，况且吴俊升生性贪婪，马年老无能，均无大志。至于省署官员，武官如军械局长杨宇霆、督署副官长乔汉章、文官如政务厅长史纪常、财政厅长董元亮等，都不是段芝贵的亲信，若许以重利，皆能为我所用。至于各法团士绅，可由我去联系。外交方面，可由于冲汉与菊池、町野两顾问通过关东军，对满铁许以相当权力，他们会全力支持。如此妥善安排，坐观事变，遇机崛起，掌握东省大权，则易如反掌。”一番话说得张作霖心服口服，并暗下决定，自己若想取得统治大权，此人必不可少。
在袁金铠的出谋划策、精心谋划下，张作霖终于攫取了奉天军政大权，成为名副其实的奉天最高统治者。初秉奉政，张作霖便告知左右说：“我此位得自马上，却不可以马上治之，地方贤俊，如不我弃，当不辞厚币以招之。”此时，张作霖把“延地方贤豪为之佐”，列为中心问题来考虑。随后便礼聘袁金铠为军民两署秘书长，孙百斛、关海青、曾有翼、谈国桓为秘书，王树翰为财政厅长。这些人都是关外“知名人士”。
一日，他和袁金铠闲谈，问：“奉天人才中谁最为出色？”袁金铠说：“我们这些人中，谁也比不上王岷源，他有经天纬地之才，更是奇才，可大用也！”张作霖又说：“王岷源，就是那个王永江？”袁金铠说：“对，就是王永江。”提起王永江，张作霖不禁一愣，沉默不再言语。
王永江，字岷源，奉天金县人，“以县学生员补察贡”。王永江初以授徒赡家，兼习医理，曾悬壶济世。1906年辽阳州创设警务学堂，王任教员兼监学。随学员毕业，转主辽阳警政。在职数载，遂以能办警察蜚声于辽南。王严峻精明，勇于任事，不避嫌怨，确属当权者之良佐。清东三省总督锡良在保荐王永江的奏稿中称王：“该员心知其意而游刃于虚，事不辞难而程功以渐，条理秩然，群推为全省警务之冠。似此心细才长，办事情实。求之济辈，殆鲜伦比。”
此际，张作霖之所以犹疑，是缘于当初二人结下的“恩怨”。张作霖进入奉天后，拥兵自重，手下的文官武将皆对他唯命是从，一些豪绅、权贵也纷纷前来巴结。一时之间，溜须拍马、行贿送礼者络绎不绝，许多人甚至以面见张作霖为荣。唯有时任奉天民政科参事的王永江恃才自傲，常在处理完公事后，回家闭门读《易经》，根本不与张作霖来往。对此，张作霖十分不满，一心想要找机会折折王永江的傲气。
不久，东三省总督赵尔巽想要任命王永江为署理奉天民政司使。张作霖知道后，故意刁难，问赵尔巽：“王永江是什么人？我咋不知道？他能胜任民政司使一职吗？”听此话，赵尔巽心里有气，但顾及张作霖的势力，便婉转了口气说：“这不关你的事，你就不要追问了。”张作霖不再追问，但背地里却放出风来：“如果王永江敢担当这个职务，我张某人一定会好好地伺候他。”王永江听得张作霖此言，害怕张作霖真的会对他不利，深感留得青山在，不怕没柴烧，连忙谎称有病，回家乡金州避祸去了。
其实，对于王永江声冠关东的出色才能，张作霖早有耳闻。当初只是记恨他怀才自恃，才对他进行了刁难。此时的张作霖已坐掌奉天，正所谓站得高，看得远，他此际考虑的主要是治理奉天问题，但凡能在此际能为他所用之人，他都会尽收手底，而王永江又是这样一位人所共知的干才，因而他笑着对袁金铠说：“我哪里是不愿意用王永江，主要是他不屑于来就是了！”袁金铠已猜出张作霖的心意，便对张作霖说：“只要将军对他优礼相待，答应对他言听计从，他也许会为将军效力。”
于是，张作霖派人去向王永江表示相邀的诚意。王永江听到来人说张作霖有请，想起当年之事，心生疑惧，就对来人说：“张将军门前戈戟森列，我这个小芝麻官到了门口，哪里进得去啊！”张作霖明白王永江的话外之音，派人告诉王永江：“王先生到府，张将军将亲自出迎。”王永江见张作霖确实是诚心相请，也就不再推辞，收拾得整整齐齐前来见张作霖。当他走到将军署时，早已有人迎在门口作为引导，刚进中门，张作霖就已站在正厅台阶下等候了。张作霖急忙迎上几步，拉着王永江的手亲切地说：“公何来迟？”王永江淡然一笑：“尚未晚也。”
王永江果然不负众望，干得有声有色。他仿效日本警察制度，大刀阔斧地改革奉省警政，开创严禁军界干预警界的先河，赢得了有识之士的交口称赞。张又进一步重用王永江，任命其为财政厅厅长，不久又兼代理省长。张作霖对王永江是放开手脚使用的，凡是王职权范围内的事情，张绝不干预，包括人员的任命。王永江仅用几年时间就将奉省财政整顿一新，“岁不三载，省库充溢”。到1920年末，奉天省的财政不仅还清所有外债和积欠，省库还结余1100万元之多，使奉天省成为当时全国首富之省。
从此以后，王“益得张作霖之倚任”。一般均称王永江为“张作霖之萧何”，不为无因。张作霖不仅能够用人，而且能用人不疑。凡是他认为有才干，全心为他办事的，他都放手让他去干，很少限制和干预。如王永江兼任省长之初，还大胆地向张作霖提出了一个要求：凡省内大小官吏，都由我一个人任命，不许大帅干预。一般人谁能容忍这种“无理之举”，但张作霖微微一笑，当场应允。张作霖麾下如云、亲戚众多，但却从没看见有军界将领或者是张家亲属，敢来省署找王永江求情办事的。甚至说帅府内有人员被任命为县知事或税捐局长，而入谢张作霖时，张作霖也会事先给他们打“预防针”：“王岷源脾气不好，很难侍候，你要小心好好地做。”
在此期间，张作霖任命了时任奉天军械厂厂长、陆军炮兵上校杨宇霆兼盛武将军署的参谋长。杨也是一位不可多得的人才。当杨宇霆第一次见到张作霖时，张作霖已经是统领，杨宇霆听别人讲张作霖最恨留学生，故有意躲避他。此时恰好被张作霖撞见，忙问杨的同学刘德权：“这不是你同学吗，你可告诉他们，千万不要走了，我们奉天讲武堂要开办了，都要采用你们，军队没有教育哪能行呢？”当时不少正规军校出来的人，颇轻视张作霖出身不正，闻听张的此番话，不禁惊讶其人能够有如此大志。果然，张作霖当上督军不久，竟重用了许多留学生，而杨宇霆是其中的佼佼者。其后，张作霖任奉省督军后，杨宇霆果然得到重用。
张作霖不但尽可能地发挥本省人才的作用，而且积极从关内招揽人才。他特于营口、绥中及交通要道设立执行处，欢迎从关内到关外的各种人才。当张作霖听说京、津地区有些专门人才因工薪待遇太低而心怀不满，就立即派人去邀请他们“全体往奉”。张作霖不分畛域，唯才是举，确实表现“气度恢宏，敢用人，肯用人，能容人”。关内外不少有才之士，先后投奔奉系集团，并成为骨干人物。张作霖得到这些人的辅佐，如虎添翼，实力猛增。这些“新派”人物，在内政建设上也颇讲求实际，在创办工厂、举办学校、开设实业等方面都取得了一定的成绩，为奉系军阀进一步统一东北奠定了政治、经济基础。透过这些事实，我们可以清楚地看到，张作霖确有不同于其他割据军阀的“鸿鹄之志”，其政治远见，也非一般军阀所能比拟。
5.软硬兼施 统一奉省
在极力网罗奉系班底、治理奉天的同时，张作霖最关心的还是统一奉省的军政问题。他虽然当上了奉天督军，但是并没有真正地全部掌握奉省的军政权力。他“统一”奉天军政的主要障碍来自他曾经的合作者——二十八师师长冯德麟。
冯是张作霖的老前辈了。张作霖加入董大虎匪帮的引荐者就是冯德麟。后来，张作霖自组保险队，并很快壮大力量，成了与冯德麟、杜立三、金寿山等并列的武装力量。在各帮中，冯德麟资格最老，张作霖虽算是冯德麟的绿林晚辈，但两人关系甚为融洽，后来结盟成了兄弟。张作霖小冯德麟9岁，被称为“老疙瘩”，对冯大哥极为尊重。1902年，张作霖接受了清政府的招抚。1905年，冯德麟亦接受招抚，被封为新安军统领。1909年1月，东三省总督徐世昌为了加强军队的统一指挥，对奉天省各军的兵力进行了重新改编，按地区划分为五路巡防营。张作霖被任命为前路巡防营统领，冯德麟为左路统领。自此，张作霖与冯德麟并驾齐驱，开始了官场上权力的角逐。
辛亥革命期间，在历史转变的关键时刻，张作霖、冯德麟完全同赵尔巽站在一起，张作霖将前路巡防营开进省城，稳住了赵尔巽的阵脚；冯德麟则率领左路巡防营死守辽西，卡住了山海关的咽喉。二人紧密联手，成了赵尔巽镇压革命派的得力助手。1912年9月，奉天地方武装巡防营被改编为国家正规陆军部队。张作霖任二十七师师长，驻防省城；冯德麟任二十八师师长，驻守广宁（今北镇市）。由于驻地不同，冯心中甚为不快，二人之间渐生裂痕。其实，二人虽都属奉省实权派，然而冯德麟的“绿林资格”虽老，但由于吸鸦片中毒，其身心日益衰弱，特别长期驻军广宁，在省城内并没有实力基础，其“智谋才干”也在张作霖之下。相反，张作霖在省城内外经营多年，实力已超过冯德麟，冯远非张的对手。张作霖不但“脑筋灵敏，言语流畅”，而且“对各阶层人士均加以拉拢，故当地人士，多对之发生好感”。
但冯不自量力，平时他对张作霖一向以晚辈视之，冯对张作霖一帆风顺地日益扩张势力极不高兴。在驱段之事上，二人利益一致，故“合作愉快”。不过，这种“和谐”是暂时的，很快就在张作霖就任奉天督军一事上，矛盾再无调和的可能了。原来，张作霖如愿以偿，当上了奉天督军，而冯德麟却只收到任奉天军务帮办一职的电报，他当即气得发昏，不肯就职。
冯德麟认为，二人合力驱段，自己的资历又比张作霖老，奉天督军非他莫属。然而事非人愿，北京政府却任命张作霖为奉天督军兼省长，自己倒成了张作霖的助手，屈居人下。张作霖素知冯的野心，为了应付冯德麟，不得不进行一场精彩的表演。当北京政府下达任命时，张作霖不肯立即就职。他召集所有结义兄弟开会，痛哭流涕，大骂段芝贵，采用离间手段，挑拨兄弟感情。两次致电北京政府，要求收回成命，改任冯德麟为盛武将军，北京政府复电不准。最后，在张作霖的一再请求下，北京政府才补充任命冯德麟为奉天军务帮办。张作霖这番表演，并没有让冯德麟满意，他拒不接受军务帮办一职。
足智多谋的张作霖知道，对这位自视甚高的前辈，不能来硬的，必须使软招，以柔克刚。因为冯的实力虽不及张作霖，但毕竟还有一师之众，迫使张作霖对这位“同寅弟兄”不能不另眼相看。
张曾请吴俊升、马龙潭两镇守使去见冯，劝他“屈就”军务帮办，冯拒而不见。张作霖亲自登门拜会，并且心平气和地说了许多有福同享、有难同当、不分彼此的好话，冯才提出两个就职条件：要在奉天另设“帮办公署”，其组织、开支、编制皆与将军公署同格。这就是说，要同张作霖分庭抗礼，张自然不能答应这无理要求，但眼下还不敢与冯撕破脸皮，便把球踢给袁世凯，电请袁世凯“裁决”。袁以“于体制不符”为由，回绝了冯的要求，只答应每月另发办公费15万元。冯德麟拒不接受，愤然返回广宁。
袁世凯想派张、冯二人的老上司张锡銮来奉调解，张锡銮也不愿搅这浑水。后来，袁世凯忙于自己的事，也就撒手不管了。无奈之下，张作霖只好继续采用软招，派五十四旅旅长孙烈臣携带贵重礼物及30万元现款到广宁，恭迎冯德麟回省城就职。5月20日，冯德麟率步、马、炮五营兵力，浩浩荡荡地进了省城，并在沈阳城南风雨坛设立了二十八师办事处。
张作霖见冯德麟肯来，以为事情有了转机，马上亲自去风雨坛拜会，并邀请冯德麟去将军署赴宴，为他接风洗尘。但冯德麟心存戒备，既不回拜，亦不赴宴。张作霖只好令人将酒席抬到二十八师驻省办事处，并召歌妓多名，以娱冯德麟手下众将。
张作霖此举真可谓是仁至义尽。但尽管如此，冯德麟还是狮子大开口，提出让省财政厅给他拨款50万元购买飞机，并致电袁世凯，要求增加7个营的兵力，同时，在北镇设立奉天军务督办公署等无理条件。提出这些要求，他在省城只住了一天，又到北镇“视察防务”去了。
对冯德麟的做法，张作霖很生气，但他知道，小不忍则乱大谋。他一边派人修建二十八师驻省办事处，一边派将军署参谋长杨宇霆专程到广宁迎接冯德麟回省。
6月6日，冯德麟再次回到省城，有恃无恐地向张作霖提出三个条件：1.要求帮办权力与将军平等；2.用人行政相互咨询；3.拨20万元为二十八师购买飞机。冯德麟来的当天下午，张作霖又来二十八师办事处拜会冯，冯德麟竟然躲而不见，让张作霖吃了闭门羹。
这时，张作霖为防范意外，在将军署后院修筑了一座炮台，炮口直指二十八师驻省办事处。冯德麟正愁找不到茬子和张作霖翻脸呢，一听说张作霖把炮口对准了自己，当即暴跳如雷，派人向张作霖提出严厉责问和强烈抗议。来人最后扔下一句：“限于当日给予答复，否则后果自负。”说罢扬长而去。张作霖怕弄不好会引起军事冲突，决定请吴俊升当和事老，专程前往，向冯德麟解释，以便消除误会。
吴俊升来到二十八师办事处，满脸带笑地向冯德麟解释说：“这炮台的事，雨亭（张作霖的字）上将军……”没等他把话说完，冯德麟就火冒三丈：“什么上将军！妈的！”吴见势不好，急忙改口，连打躬带作揖地代张作霖赔了许多不是，讲了许多好话，冯德麟才算放松了点口风，沉着脸一口气提出了四大条件：“1.回去告诉张作霖，马上拆炮台，严惩祸首；2.今后一切用人行政，必须征求我的同意；3.奉天军政费用不许超过预算，如超须和我商量解决；4.张作霖得领着二十七师营长以上军官，到二十八师驻省办事处正式道歉。”说罢，转身就走，把吴俊升晾在了那里。吴俊升原以为张作霖听了这些话会立马跳起来，可当他结结巴巴地向张作霖学完舌后，却听到一阵哈哈大笑。张作霖爽快地说：“好，一切照办！”
冯德麟万万没有想到张作霖真会带着营以上军官来向他道歉，一时之间也觉得过意不去，手忙脚乱地赶紧招呼二十八师驻省办事处的全体人员迎了出来。张作霖郑重其事地向冯德麟致歉，说：“小弟我平日对部下管教无方，惹大哥生气了！”冯德麟一而再、再而三地与张作霖过不去，现在张作霖亲自前来道歉，冯德麟也觉得自己理亏，只好尴尬地说：“哪里，哪里！”为了挽回面子，冯德麟忙拉着张作霖、吴俊升等坐下，打了几圈麻将。大家有说有笑，彼此嘻嘻哈哈一阵子方才撤局。张作霖在实质问题上从来不作任何让步，但在一些非实质问题上，张对冯确实表现了克制容忍的态度，张作霖之所以采取这种手法，一是想“以柔克刚”，用以打动冯德麟，不使矛盾激化；二是表明，他虽任“将军”高位，但在“绿林前辈”面前，并没有以领导自居，仍未忘绿林义气。这一做法，确实能赢得一些绿林出身之人的同情和欣赏。
张作霖一再忍让使冯德麟无法再跟他明着过不去了，但又不甘心就这样屈居人下，所以，从此二人由明争改为暗斗了。
就在张作霖与冯德麟矛盾日益激化之际，他的老把兄弟、老部下汤玉麟又给他填堵了。
张作霖秉政奉省时，汤玉麟仍任五十三旅旅长，同时兼任省城密探司令。汤在省城目无法纪，乱用军权，肆无忌惮，深为市民所恶。当时省城警界，因受汤玉麟压制，完全处在无所作为的窘境。历任警务处都惧怕汤玉麟，对汤部所作所为不敢问津。1916年11月，张作霖起用王永江为警务处长兼省会警察厅长。王任前对汤的所为早有耳闻，因此在上任前立即对张作霖声明：凡职责所在，无论任何人不得干预，若允其请，即可赴任。张作霖一一允诺。
在张作霖鼎力支持下，王永江对警政进行了大刀阔斧的改革，他仿效日本警察制度，在省城各处设立派出所以整顿社会治安。凡有不法士兵胡作非为者，一律予以拘押。然而，造成省城治安问题的恰恰是张作霖的嫡系部队，尤以汤玉麟部为害最烈。旅长汤玉麟及部下自恃功高并没把小小的派出所放在眼里，光天化日之下公然劫掠财物，设赌开局，可谓为所欲为。由于汤玉麟是张作霖的铁杆“哥们儿”，加上他素有汤二虎的恶名，奉天警界对其不法行为不敢干预，唯恐躲之不及。然而，王永江却没有因汤玉麟的飞扬跋扈而退缩，而是依法办事，凡有不法士兵胡作非为者，一律予以拘押。王永江还派人查封了汤玉麟及其他军队开设的赌场，将赌具全部捣毁。这可触怒了汤玉麟，他偕同张景惠武装晋见张作霖，声喧军署，大有兴师问罪之势。汤玉麟高声嚷道：“军警一家，警务处长，警察厅长理应由军人担任。天下是军人用枪杆子换来的，王永江凭什么功劳，高高在上，来辖我军人？”汤玉麟强烈要求张作霖撤换王永江。然而，汤玉麟这些无理要求与举动，不但遭到张作霖的拒绝还找来一顿臭骂：“枪杆子能打天下，不能治天下，你们懂什么？给王岷源牵马扶镫都不配。”张作霖不仅没有裁撤王永江，反而更加坚定地支持他。那些结拜弟兄张景惠、张作相、孙烈臣等听到此事后，均心怀不满。汤玉麟更是对王永江恨之入骨，他唆使奉天军界集体反对王永江。
1917年春节期间，按照惯例，二十七师、二十八师省城文武高级官员吃年茶。初五这天，二十八师请客没请王永江。初六这天，二十七师汤玉麟等诸将领设宴，仍故意不请王永江。张作霖本来正在兴头上，突然发现没看见王永江，聪明如他，马上就知道是怎么回事了，质问左右：“为什么不请王岷源？”在座者皆缄默不语。张又说：“二十八师不请王处长我不说什么，怎么你们也不请？”孙烈臣打圆场说：“把王处长漏掉了，改日再请吧，你别生气。”张作霖大为恼火，愤怒地说：“我看上的人，你们就反对，我用定这个姓王的啦！谁反对谁就辞职。”汤玉麟应声而起，说：“你甭骂街，辞职算个屁！”大家见事态不妙，极力劝解，张、汤二人先后退场，一场宴席不欢而散。
事后，汤玉麟余怒未消，鼓动一些人，拟好一张呈文去见张作霖，要求把王永江撤职。并推举孙烈臣代表表态：如张不同意罢免王永江，全体一致辞职不干了，回老家去。汤玉麟以集体辞职相威胁，逼张作霖撤掉王永江。但结果却是事与愿违，汤玉麟自己回忆说：“我们见到雨帅，没等开口，就遭到他妈长爹短的大骂一阵。大家面面相觑，谁也不肯发言，都瞅孙赞尧。孙呢，把头一扭，不敢看张。我憋不住了，说赞尧你倒讲话呀！你手里拿的呈文呢？我这一嚷，孙赞尧把呈文就交给了雨帅。雨帅接过来，看也不看，把呈文撕个粉碎，手指我脸，骂得更凶，暴跳如雷，把祖宗三代都掘出来了。我再也忍不下去，还口和他对骂……一同去的人反倒都变成说合人了，上来拉劝，推推搡搡，把我拉出门外。”
汤出门后，张作霖还大骂不止，说：“没有你这个鸡子，也能做槽子糕。”汤回头还口说：“你叫老子干，老子也不干了，哪里都能吃饭。”两人盛怒之下，互不相容。汤玉麟怒气冲冲地回到营部，“调所部欲效兵谏”，扬言要攻打张作霖，要武力缉捕王永江。张作霖也“调兵自卫，有一触即发之势”。
此时，居心叵测的冯德麟本来与张作霖明争暗斗，他马上抓住这个有利时机，准备让张作霖“腹背受敌”。于是，他假意关心汤玉麟，亲自找汤密谈，并鼓动说：“一切由冯帮办给你做主。将来奉天是谁的天下，还说不定呢！”在冯德麟的公然鼓动下，汤玉麟更加有恃无恐。
汤玉麟反张投冯，闹得满城风雨，人心惶惶，商民惊恐不安。对此，省议会议长佟兆元会同农工商教各会长于2月24日联名晋谒张作霖，报告外间风传将以武力解决此风潮，各界惊慌，特此请求明示，以释众疑。张作霖解释说：此谣传也，予绝不出此下策，请代传各界，勿自纷扰。2月27日经大众商情，督军张作霖允准，暂令汤玉麟带兵出省城移驻新民。这样，汤玉麟于2月28日，率兵一营乘车去了新民。
双方发生争端后，张作霖唯恐汤玉麟与北镇的冯德麟进一步勾结，对己不利。另外，他更不想兄弟阋墙，两败俱伤。于是，张作霖派人持长信来到新民，非常恳切地“劝汤言归于好”。张作霖在信中写道：“阁忱仁兄：十七年患难至交，临别竟未一晤，弟心伤矣！回忆在桑林子时，我兄、辅忱（张作相）及弟等共24人，屡受洪辅臣等大股欺侮。金寿山勾结俄兵，乘夜袭击，我等冒死冲出重围，孙德山背负赵氏出走，兄负首芳出险。及投新民，弟任管带，兄任左哨哨官。我兄生擒杜立三，首建奇功。弟因升任前路巡防统领，兄升马二营管带。后开赴洮南，剿办六十三、牙什、陶克陶胡等。弟两次被围蒙古包内，兄均冒险冲到，弟感激涕零，兄劝慰说：‘不愿同生，但愿同死。’言犹在耳。辛亥之秋，奉赵将军电回省，乱迫眉睫，人心慌恐，我兄率部于一夜之间，擒获恒六、张榕等首要，协从逃散，省垣转危为安。弟因统领中路巡防，旋改编陆军二十七师，弟任师长，兄升五十三旅旅长。及段将军离任，弟承乏督军兼省长。他人见我师团坚固，前途顺利发展，十数年间，得掌全省军政，因羡生忌，因忌成仇，挑拨离间，多方破坏，事实俱在，不待复案。人生最宝贵者，莫过于生命，昔当患难之时，誓同生死，偶以言语之差，视同陌路。我兄向重义气，今乃不念前情，不思旧雨，决心离去，此弟深为不解，亦最为痛心者。况且父灵浮厝，大事未完，老母在堂，仍待奉养，兄弟妻妾子孙等，食指日繁，开销日增。兄不为自谋，也不为全家老小着想乎？共得之富贵，当共享受，耿耿此心，天日可表。今日不辞而行，挽留无术，何时回心转意，肯来聚首，富贵与共，绝不食言。书不尽意，尚希谅察。”
此信不仅回忆了两人患难与共的荏苒岁月，而且也向汤玉麟发出了原谅的信号。可是，汤玉麟心意已决，对张作霖言辞恳切的信根本不屑一顾，拒绝接受张作霖的这份诚意，决心抗争到底。到新民后即向商会借款，又向县知事请款，均未果。汤玉麟遂致电张作霖，要求拨款并附加条件，还威胁说如果张作霖对他这些要求置之不理，他就要召集土匪勒索那些富户。后来怕这招不够狠，威胁不了张作霖，他又加追电文：如不答应，我就掠夺日本人，然后嫁祸给你。张作霖何许人也，哪能被他这一伎俩吓倒，马上回复了一通言辞更为强硬的电文：你要真敢这样，我一定派兵将你打得落花流水！
其实，张作霖是个极其念旧、讲义气的人，所以他才派张景惠等去新民劝说汤玉麟，如肯追悔谢罪，则给足他面子，不咎既往。可是，汤玉麟不懂得见好就收，在冯德麟的怂恿下，更是开始在新民胡作非为。张作霖无奈，发布命令：汤玉麟旅长另候任用，遗缺由邹芬代理，并派五十四旅旅长率兵3200余人包围新民。
汤玉麟决心反张与冯德麟在背后支持有关，可是，当冯德麟获得段祺瑞和日本支持张作霖的消息后，便畏惧退缩了。汤玉麟被撤后，还以为冯德麟一直在背后为自己出谋划策，此际一定会收留。于是于3月19日由新民出走，并于20日抵达广宁冯德麟处。兴致冲冲的他到了城下傻眼了，只见广宁城四门紧闭，问城门上把守的官兵，人家说冯师长有令让你们到别处去，否则对你们不利。汤玉麟孤立无援，无力对抗，只好前往徐州投奔张勋了。至此，汤、张的兄弟斗争，以汤的失败宣告结束。
在汤玉麟事件中，冯德麟的反应进一步激怒了张作霖，他下定决心要解决掉冯德麟。张作霖正想全力着手解决掉冯德麟的紧要关头，一直怀有复辟野心的张勋助了他一臂之力。
张勋妄图复辟，认为已升任为奉天省长的张作霖手握重兵，可以依靠，乃派人来奉游说张作霖。张作霖欣然同意，并派副官长赵锡嘏参加了张勋在徐州召开的策划复辟会议。由于在各省军阀中，“尤以张作霖与皖省长倪嗣冲赞成最力”，其代表赵锡嘏于徐州也备受优待。但机警的张作霖很快发现支持复辟的为数不多，凭着敏锐的判断力，他觉得此次复辟胜算的几率太小了。因此，他决定“高骑墙头”，持“暂行观望”的态度。这让张勋十分不满。
当张勋得知奉天二号人物冯德麟与张作霖正在明争暗斗，认为正好可以利用，因而邀请冯德麟来京协助复辟大业。张勋许愿，事成之后即升任冯为东三省总督。冯德麟一心想要坐上东三省的头号交椅，因而对张勋的要求一口答应了下来。狡黠的张作霖也乘机拟电给冯德麟，委任冯德麟为协助张勋复辟的奉天全权代表，如果涉及奉军问题，冯可以随时与张勋接洽办理。这样一来，如果事成了，张作霖可不失翊戴之功；如果失败了，也有冯德麟这个倒霉蛋顶着。6月20日，冯德麟以奉天全权使节身份，衔密约进京。到京后立即拜见张勋，代表东北三省支持复辟活动并愿为其效忠。冯德麟之所以如此，在他看来，张勋复辟成功，不愁加官晋爵，荣归东北，取张作霖而代之。冯下令调二十八师部分官兵进京“赞襄复辟，保卫皇室”。同时，又行三拜九叩的大礼，进宫谒见宣统皇帝。溥仪赏赐给他“穿黄马褂、紫禁城内骑马，御前大臣头衔”。冯德麟踌躇满志，一时间感到飘飘然。
突然，风云变幻，形势急转直下，张勋一伙的丑陋表演，遭到了全国反对。长城内外，挥戈兴师，共讨叛贼。得悉这种情况，张作霖料定张勋必败无疑，虽与其是儿女亲家，张作霖也没有手软，他当机立断，马上通电支持讨逆，连段祺瑞也不得不惊叹：“不料张雨亭，他还赞成民国。”为了开脱与张勋之干系，张作霖于7月5日致电直隶督军曹锟等人，称自己早就反对复辟，否认曾参与复辟阴谋。7日，他又通电全国，对张勋进行一番指斥，并称已枕戈待命，对付逆贼张勋。
张勋命在旦夕，冯德麟预感到一场厄运即将降临，于是退而求之于张作霖。如果从之前张、冯两者的关系来看，张作霖对冯德麟肯定只有恶感而无善意。但张作霖接到冯德麟的求救电后，念多年情谊不忍坐视不救，遂好意劝冯迅速离开北京。他发电给冯德麟说：“永居北京甚为危险，速从陆路沿长城单骑归来，当于适当地点出迎，乘火车归来危险。”但冯德麟无视张作霖的劝告而误听左右之言，带着卫队，着便装，乘火车回奉。7月10日，火车行驶至天津车站，被曹锟部下侦缉队发现，遂将冯德麟等拿获，并于14日押送到北京，接受审判。8月15日，大总统冯国璋宣布冯德麟“因叛变共和，罪迹昭彰，剥夺一切官职和勋位，并交付法院依法严惩”。
冯德麟在北京被囚，急电张作霖求救。张作霖完全可以落井下石，起码不予过问，但张作霖没有这样做。他不念旧恶，积极营救。他之所以这样做，不仅是出于绿林义气，也是有意做给冯德麟的部下看，以争取冯之部下。
张作霖一面驰电段祺瑞营救；一面动员吴俊升、马龙潭两镇守使及二十七师、二十八师全体官兵联名向北京为冯请命。不仅如此，张作霖还劝说辽西16县士绅上书请求宽容。10月15日，段祺瑞政府见张作霖出面，乐得顺水推舟，于是改判冯德麟“参加复辟证据不足，因吸鸦片罪罚八百元”。这是一个象征性的轻微处罚。此后，张作霖又电请段祺瑞发还冯德麟的勋章和勋位，段祺瑞照准。为笼络冯的部下，段祺瑞又授予冯德麟为总统府高等侍从武官。
自冯德麟被捕后，张作霖就乘机接收了二十八师，自兼师长。后把原二十八师的旅长汲金纯提升为师长。扫除了冯德麟这个障碍，张作霖真正地掌握了奉天省的军政大权，成了说一不二的奉天最高统治者。
