阮思聰見到他認為他是奇才，告訴了呂文德，呂文德征召他為小校。多次立功升到黃州武定諸軍都統(tǒng)制。攻打安東州，戰(zhàn)斗猛烈，與高達援救鄂州有功，遷調官職十階。

不久隨從賈似道進入黃州，戰(zhàn)于騣草坪，奪回敵人所俘獲的東西，加官環(huán)衛(wèi)官，歷任知高郵軍、安東州。

二、駐守鄂州

咸淳四年（公元1268年），元軍修筑鹿門堡，呂文德向朝廷請求增兵，調張世杰與夏貴前往。等到呂文煥帶著襄陽投降元軍，朝廷命令張世杰率領五千人駐守鄂州。

張世杰用鐵索封鎖兩城，夾以火炮、弓弩，其顯要之地都散布木樁，設置攻打器具。元軍攻破新城，長驅而下，張世杰奮力戰(zhàn)斗，使元軍不能前進，元軍派人招降他，張世杰不順從。

元丞相伯顏陽明著攻打嚴山隘，暗中從唐港以水軍沖鋒陷陣進入漢水，東攻鄂州，鄂州投降。

三、入朝勤王

張世杰率領所部軍隊入衛(wèi)臨安，又經過饒州，才入朝廷。當時正危急，召諸將救援朝廷大多沒有到達，只有張世杰來到，宋度宗嘆息驚異。張世杰從和州防御使不到幾個月多次加官到?？弟姵行?，總都督府兵。

派遣將領四處出擊，取得浙西各郡，收復平江、安吉、廣德、溧陽諸城，軍勢頗為振奮。七月，與劉師勇等將領大規(guī)模出師焦山，命令用十條船結為并船，下碇停泊在江中，沒有命令不得啟碇，表示以必死的決心。

元主帥阿術載著張滿弓弩的士兵用火箭攻打并船，張世杰軍隊亂了陣腳，沒人敢啟碇，投江而死的有一萬多人。張世杰大敗，奔逃圌山。向朝廷上奏疏請求救援的軍隊，沒有得到答復。不久提升為龍、神、衛(wèi)四廂都指揮使。