宋江離開揭陽嶺后，在揭陽鎮(zhèn)打賞病大蟲薛永，得罪了穆弘兄弟，被穆家兄弟率莊客追至潯陽江邊。他情急之下，又上了船火兒張橫的黑船。張橫將船駛至江心，要奪宋江的財物，并逼他跳江。李俊恰巧撐船碰見，再一次救下宋江。宋江與張橫、穆弘等人化敵為友。

宋江在江州題反詩，遭黃文炳告發(fā)，與戴宗被判斬首，卻被李逵以及梁山泊十七位頭領(lǐng)劫法場救出。李俊與張橫、穆弘等九人也駕船趕赴江州，要救宋江，卻在江邊白龍廟與宋江等人相遇，一行二十九人便在白龍廟聚會。而后攻打無為軍，李俊協(xié)助張順生擒黃文炳。

三、梁山聚義

李俊上山后，與李逵一同鎮(zhèn)守山前旱寨。后隨征祝家莊、高唐州、青州、華州。

宋江成為梁山首領(lǐng)時，重新調(diào)整將佐職責(zé)。李俊改鎮(zhèn)水軍寨，并在水軍頭領(lǐng)中位居第一。

二打大名府時，李俊與張順出戰(zhàn)誘敵，將索超誘至陷坑，使得索超被梁山擒獲。

梁山排座次時，李俊排第二十六位，星號天壽星，是水軍頭領(lǐng)第一位，與阮小二一同把守東南水寨。

三敗高俅時，梁山水軍大顯神威。李俊擒殺金陵水軍統(tǒng)制官劉夢龍，又與張橫合擒京北弘農(nóng)節(jié)度使王文德。

四、南征北戰(zhàn)

梁山受招安后，李俊隨宋江南征北戰(zhàn)，屢立戰(zhàn)功。