十月，朝廷派郑州刺史狄兼谟来接任苏州刺史。狄兼谟是狄仁杰的曾孙，为官清廉正派，有曾祖遗风，他是令狐楚提拔推荐上来的，仍是牛党成员。
此时朝廷的牛党势力占据着上风，李德裕执掌浙西一道，而最大的苏、杭两州均长期被牛党成员把持，其受制于肘腋之间，很难施展开来。
后来李德裕垮台的直接原因“吴湘案”，就是发生在这一时期，该案背景错综复杂，或许与这一时期的某些牛党人士有所关联。
对于白居易来说，现在最重要的是，他可以离开苏州了。
至此，白居易在苏州只呆了一年半左右的时间，而其中有五个多月是在请假。
尽管如此，白居易不辞辛劳、勤恳踏实的工作作风仍得到了苏州群众的认可。
白居易从苏州走的还是徐、汴漕运水路，出发时他“身携妻子唯三口，鹤与琴书共一船”，非常简朴。与之对照鲜明的是苏州民众盛大的送行场面，他在《别苏州》诗中说：
“浩浩姑苏民，郁郁长洲城。
来惭荷宠命，去愧无能名。
青紫行将吏，班白列黎氓。
一时临水拜，十里随舟行。
饯筵犹未收，征棹不可停。
稍隔烟树色，尚闻丝竹声。
怅望武丘路，沉吟浒水亭。
还乡信有兴，去郡能无情。”
与上次离开杭州不同，白居易是因为“假满百日”自动解除刺史职务而离开苏州的，因此他尚未得以任命新的官职。因此，他打算先回洛阳，观察形势，如有可能，不妨再次请求分司，继续优游卒岁的闲散生活。
白居易走的是徐汴漕运水路，在经过楚州（今江苏淮安）时，楚州刺史郭行余是白居易的崇拜者，他极力挽留白居易在楚州盘桓，给予了热情招待。
更重要的是，郭行余还告诉白居易，刘禹锡和州刺史任期已满，也是取道徐汴回洛阳，不久就会来到楚州。
盛情难却，又有神交已久的大诗人前来，白居易决定再逗留几日。
果然，没过多久，刘禹锡也到了楚州。好友相逢，自然分外开心，再加上两人都是处于无官身轻的状态，而东道主郭行余也是诗文同好，三人在楚州唱酬游宴，何其快哉！
白居易和刘禹锡相识时五十四岁，刘禹锡也已经五十二岁。当白居易遇到和自己一样名满天下的诗豪刘禹锡，就如身处巅峰的武林高手，遇到了一个难得的敌手。年纪相仿，又都才华横溢，二人很快成为了挚友。
这一次退居洛阳，两人没事就一起吟诗喝酒，留下了不少名作。
酒酣耳热之际，白居易率先写下了《醉赠刘二十八使君》：
“为我引杯添酒饮，与君把箸击盘歌。
诗称国手徒为尔，命压人头不奈何。
举眼风光长寂寞，满朝官职独蹉跎。
亦知合被才名折，二十三年折太多。”
在这首诗中，白居易开头就写到两人一见如故，把酒言欢，对酒高歌的场景。只有志同道合，亲密无间的朋友，才会如此无拘无束。诗歌之中，白居易主要还是感叹刘禹锡才华横溢，堪称诗文“国手”却仕途坎坷，经历的挫折太多，是命运的不公。
白居易的这首诗，非常出众，堪称千古之作。他语言平实自然，却又感情真挚。对于刘禹锡来说，一定是莫大的安慰。
刘禹锡对白居易非常敬仰。白居易和元稹，共同推动了新乐府运动，声名显赫，更在其上。在这种情况下，白居易还能够如此赞许自己，这让自负的刘禹锡更为感动。
因此，当刘禹锡举杯应和白居易时，一首更伟大的名作也由此诞生了——《酬乐天扬州初逢席上见赠》：
“巴山楚水凄凉地，二十三年弃置身。
怀旧空吟闻笛赋，到乡翻似烂柯人。
沉舟侧畔千帆过，病树前头万木春。
今日听君歌一曲，暂凭杯酒长精神。”
刘禹锡的高明之处在于，他没有和白居易一起沉浸在悲伤之中，而是将话锋一转，展现出昂扬的气息。这首诗行云流水，毫不拖沓。尤其是“沉舟侧畔千帆过，病树前头万木春”一句，不仅一扫席间低沉的气氛，也是刘禹锡不屈精神的表现。后来，它更是成为万千事业低谷文人的座右铭。这句话的横空出现，极大提高了全诗的思想性。
刘禹锡的诗虽不如白居易多，却也是独特新颖。特别是他的咏诗史，如《西塞山怀古》中的“王濬楼船下益州，金陵王气黯然收”一句，更被认为是咏史诗之冠，压倒元稹和白居易。
对此白居易是不服的，于是他写了数首诗赠与刘禹锡，有些诗看似是在问候好友，其实是要和这个知已好友比上一比。就这样，两位诗坛巨星斗了半辈子，谁也不服谁。但有一首诗，白居易却是心服口服，拿到这首诗时，白居易“掉头苦吟，叹赏良久”，就是《乌衣巷》。
在楚州盘恒了几日，白居易和刘禹锡向洛阳继续进发。
刘白辞别楚州郭行余之日，是宝历二年（826年）年底，也就是腊月最后几天，除夕夜登船。
刘禹锡有《岁杪将发楚州呈乐天》诗赠白居易：
“楚泽雪初霁，楚城春欲归。
清淮变寒色，远树含清晖。
原野已多思，风霜潜减威。
与君同旅雁，北向刷毛衣。”
白居易作《除日答梦得同发楚州》：
“共作千里伴，俱为一郡回。
岁阴中路尽，乡思先春来。
山雪晚犹在，淮冰晴欲开。
归欤吟可作，休恋主人杯。”
他们乘船进入江淮运河，沿“通济渠”向西北航行，先到泗州（今安徽泗县），进而到宿州（今安徽宿州），再过宋州（今河南商丘），始抵中原汴州。
这段水路逆流而上，少说也有千里之遥。上年，白居易以同样航线顺水而下，航行时间近一个月，此次逆水北返驶抵汴州，比来时更为缓慢，时间已到了次年正月下旬。
白居易和刘禹锡在名城汴州拜见了他们共同仰慕的兄长令狐楚。
去年，白居易赴苏州，曾在令狐府上停留五日，而刘禹锡和令狐楚，虽诗酬往来不断，却多年不见，未知此三位高人相聚汴州，该喝多少酒，该聊多少话，该吟多少诗？又将给后人留下多少评品之趣？
然而实际情况是，三方所留诗篇寥寥无几，涉及内容也乏善可陈，后世品评这次聚会，也是记述平平，一笔带过。
这是绝对一种意外，其中必有原因，一定是发生了什么事端。