公元1127年六月初五日，赵构下诏贬黜张邦昌等人后，李纲又进言道：“自从崇宁、大观（都是徽宗在位年号）年来，朝廷不再崇尚名节，因此士大夫寡廉鲜耻，不知道君臣之义，靖康之祸，能够仗节死义的人，在内唯有李若水，在外唯有霍安国，请陛下厚加赠恤！”
赵构赠李若水观文殿学士，谥号“忠愍”，霍安国延康殿学士，刘韐资政殿学士，同时下诏，有死节者，各路寻访上报朝廷。
之后，赵构真诚地对李纲道：“昨天你竭力争辩张邦昌之事时，内侍们听到了，都感动得流了眼泪，爱卿现在可以接受宰相的任命了吧？李纲这才拜谢，正式上任宰相。
第二天，李纲兼任御营使，李纲入对，上言道：“河北、河东是国家屏障，河东路现在丢失了七州，河北路仅丢失四州，其他几十个州郡还在朝廷手里。两路士兵民众，都推当地豪杰为首领，反对金人，多者几万，少的也不下万人，朝廷何不设司、遣使抚慰他们？不如在河北路设置'招抚司'，河东路设置'经制司'，选择有才能的人为长官，宣谕天子恩德。有能收复一州一郡者，视功劳封赏节度使、防御使、团练使！”
赵构很赏识这个提议，问李纲，谁可以担当此任？李纲推荐张所、傅亮，赵构即命张所为河北招抚使，傅亮为河东经制副使。
开封留守范讷罢职，李纲认为，开封留守非宗泽不可，极力推荐，宗泽到开封后，安抚军民，修治城楼，缉捕盗贼，剿灭土匪，开封面貌为之一新。
李纲又设立军法：五人为一“伍”，设“伍长”，“伍长”持牌，牌上写了同伍另外四人的姓名；
五“伍”二十五人为一“甲”，设“甲正”，“甲正”持牌，牌上写五位“伍长”姓名；
四“甲”一百人为一“队”，设“队将”，“队将”持牌，牌上写四位“甲正”的姓名；
五“队”五百人为一“部”，设“部将”，“部将”持牌，牌上写十位正副“队将”姓名；
五“部”两千五百人为一“军”，设“统制官”，“统制官”持牌，牌上写十位正副“部将”姓名。
随后，李纲命新招募的新军和原来御营司的兵卒，都按新法训练，同时请赵构下诏，陕西、山东各路军事统帅，也按新法，相互救援，相互呼应，出兵按令牌差遣。
六月中，李纲再献军事三策：一募兵，二买马，三鼓励民众捐钱做军费。赵构下诏，在陕西、河北，京东、京西各路招募新兵十万，轮番护卫京师，在河北西路买良马，劝民捐财产助国。李纲还建议道：“步兵比不上骑兵，骑兵比不上战车，请朝廷将战车的制作方法颁行于京东路、京西路，让他们自己制造并操练演习。”因此军队也渐渐有了生气！
李纲执政，妙招频出，上下帖服，当然也有人唱反调，又谏议大夫宋齐愈就是其中代表。宋齐愈上书赵构，议论李纲军事三策不行，赵构没有批复，但是李纲很是恼火，心想，你宋齐愈一屁股屎，还敢妄议国家大事？
宋齐愈屁股上有什么屎渍？原来，当时金人立张邦昌为大楚皇帝，就是宋齐愈从金军大营带出纸条到开封，纸条上指定张邦昌为伪楚皇帝。此时朝廷还在追查“僭逆”、“伪命”的事，宋齐愈探出头来，刚好挨一榔头！
七月，宋齐愈被罢免右谏议大夫，第二天被直接抓捕入狱，严刑拷打下，宋齐愈供认不讳，第三天，宋齐愈被斩首，可见，李纲也是下得辣手的！
再说宗泽在东京打开局面后，一再上书赵构，请赵构从应天府回京师开封，而赵构听从汪伯彦、黄潜善的撺掇，有巡幸东南的想法。
李纲道：“建都之地，关中（指西安、咸阳等地）为上，襄阳其次，建康为下。陛下纵使不能行上策，也应该到襄阳、邓州，以示不忘故都东京，安慰天下臣民之心。否则的话，中原尽失，车驾回东京就遥遥无期了！”
赵构有点动心了，口谕打算回东京，但经黄潜善、汪伯彦劝说，又改变了主意，毕竟，东京在战场的一线，安全系数难以保障。因此又想去扬州。
八月，李纲进位尚书左仆射兼门下侍郎（首相），黄潜善进尚书右仆射兼中书侍郎（次相）。李纲虽然是首相，但他性格耿直，所提建议都是为国考虑，比如，李纲口口声声要赵构振作精神，率领军民救回“二圣”（赵佶、赵桓），这点，赵构就很不愿意听。
而黄潜善、汪伯彦处处为赵构个人计算得失，比如定都，李纲说一千道一万，就是没有为赵构的个人安全考虑，黄潜善、汪伯彦却直捣赵构心窝，赵构发自内心地觉得，还是黄、汪两人更可靠！因此对李纲后来的建议，赵构基本没有反应。
八月十四日，赵构下诏，撤掉了刚设置的“河东经制司”，傅亮被召回京师。李纲觉得很突然对赵构道：“河北招抚、河东经制，都是臣提议设置的，张所、傅亮也是臣推荐的，如今黄潜善、汪伯彦阻止张所、傅亮，其实就是阻止臣，臣有鉴于靖康年间大臣不和，有事就与黄潜善、汪伯彦商量后再施行，想不到他们还是这样！”
李纲退出后，赵构还是下诏召傅亮回。李纲心中翻江倒海，很不是滋味，上疏道：“圣上一定要召回傅亮，请御笔交黄潜善办理，臣请求辞职！”
赵构真的亲笔手诏让黄潜善召傅亮回，李纲彻底失望，再上疏要求辞职。
赵构对李纲道：“爱卿所争论的都是小事，何必呢？”
李纲道：“如今人才以将帅为第一要务，恐怕不是小事。臣以前争论的定都之事，也和黄潜善、汪伯彦不同，被他们嫉恨。臣是东南人，哪有不想陛下去东南的道理？只是考虑到陛下走了以后，中原后患无穷！但愿陛下以宗社天下生灵为念，不要因为臣走了而改变初心！臣虽然离开陛下，但是不敢一日忘却陛下！”
御史张浚和宋齐愈要好，曾劝过宋齐愈不要议论李纲“军事三策”，宋齐愈未听被杀，此次，张浚可能嗅到了一丝异味，立即上疏弹劾李纲利用职权杀宋齐愈，并说李纲的“募兵、买马等”“军事三策”确有问题，黄潜善、汪伯彦暗中使力。
八月十八日，李纲被罢免宰相，前后在相位仅七十七天。李纲被罢免后，他所规划的军政民政全部废除，赵构往东逃，河北、河东相继失陷，中原盗贼蜂起！
佐料：张所，青州人，进士出身，累官至监察御史。公元1126年，金人围开封时，张所以蜡书传河北，招募河北兵，河北民众得张所蜡书，都高兴地道：“朝廷不要我们了，还有张御史记得我们，信用我们！”应招者达十七万人。因此张所的声震河北。因此李纲推荐张所任河北招抚使。
可张所性格耿直，赵构即位后，重用黄潜善，张所上书赵构，说黄潜善奸邪不可用，张所和黄潜善在赵构面前的权比，黄潜善当然更吃香，张所被贬为兵部郎中。不久再贬为凤州团练副使，安置在江州（江西九江）。
这次李纲打算起用张所，担心黄潜善从中作梗，一天，李纲到黄潜善府邸，从容道：“现今河北无人，唯有一张所可用，公能先国事而后私怨，不是美事吗？”
黄潜善满口答应，张所顺利赴任。但黄潜善阴奉阳违，张所前脚刚走，黄潜善就指使河北转运副使张益谦攻击张所，说招抚司越招，盗贼将越多。在李纲极力维护中，张所提拔了名将王彦，起用了大名垂天下的岳飞。
李纲一罢免宰相，张所也被贬到岭南，最后死于贬所，让人扼腕叹息！