宋江到江州后，依靠張橫的書信，結(jié)識(shí)了張順。后來，宋江醉酒題反詩，遭黃文炳告發(fā)，與戴宗被判斬首，卻被李逵以及梁山泊十七位頭領(lǐng)劫法場(chǎng)救出。張橫與李俊、穆弘等人也駕船趕赴江州，要營(yíng)救宋江，卻在江邊白龍廟與宋江等人相遇，后參與白龍廟聚義。大鬧無為軍后，張橫隨宋江入伙梁山。

三、梁山聚義

祝家莊之戰(zhàn)后，張橫與張順一同鎮(zhèn)守山后旱寨。宋江繼任梁山寨主后，調(diào)整將佐職司。張橫改鎮(zhèn)水軍寨，居第五位。

宋江遠(yuǎn)征大名府時(shí)，命張橫等水軍頭領(lǐng)留守梁山。關(guān)勝行“圍魏救趙”之計(jì)，趁機(jī)攻打梁山泊，欲解大名府之圍。張橫立功心切，不顧張順勸阻，率二三百人去劫關(guān)勝營(yíng)寨，結(jié)果被關(guān)勝生擒。后來，宋江回師梁山，用計(jì)降服關(guān)勝。張橫方被救出。

梁山排座次時(shí)，張橫排第二十八位，星號(hào)天竟星（一作天平星），擔(dān)任水軍頭領(lǐng)，與張順一同鎮(zhèn)守西南水寨。朝廷第一次招安時(shí)，張橫是反對(duì)最激烈的十二位頭領(lǐng)之一，與李俊等水軍頭領(lǐng)一同罵下關(guān)去。三敗高俅時(shí)，梁山水軍大顯神威。張橫先后生擒統(tǒng)制官黨世雄、步軍校尉牛邦喜，并與李俊一同生擒京北弘農(nóng)節(jié)度使王文德。

四、南征北戰(zhàn)

梁山受招安后，張橫隨宋江南征北戰(zhàn)，屢立戰(zhàn)功。

征討田虎時(shí)，張橫隨李俊水灌太原城，協(xié)助張順斬殺守將張雄，并奪取太原北門。