1916年5月，任滇軍第四師第三十四團排長。后轉入桂系陸榮廷部，任護國軍第六軍林虎部第7旅13團排長、連長、幫辦營長、幫統(tǒng)，參加護國戰(zhàn)爭、護法戰(zhàn)爭和粵桂戰(zhàn)爭。

1921年，任少校營長的李宗仁爭取十多個連隊和他一起退到六萬大山的玉林地區(qū)，整軍經武，伺機而動。

他先后將所部改稱“粵桂邊防軍第三路”、“廣西自治軍第二軍”，并自任司令（1921年-1922年），防區(qū)逐步擴大到七個縣。后任廣西“自治軍”第二路總司令（1922年-1923年）、北京政府桂林鎮(zhèn)守使（1923年5月1923年11月）、北京政府“定桂軍”總指揮（1923年11月-1924年）

1923年，與廣州孫中山大元帥府建立聯(lián)系。1923年10月，經李濟深、陳銘樞介紹加入國民黨。

1924年，聯(lián)合黃紹竑、白崇禧等部，成立“定桂討賊聯(lián)軍”，任總指揮。1924年9月，擊敗桂系軍閥陸榮廷部。1924年11月，被孫中山任命為廣西省綏靖督辦公署督辦兼廣西陸軍第一軍軍長（1924年12月-1926年）。

1925年7月，又擊敗沈鴻英，完成統(tǒng)一廣西的任務，成為新的國民黨桂系軍閥首腦。統(tǒng)一廣西后，任國民黨廣西省黨務特派員和廣西省第一屆省黨部監(jiān)察委員。

二、北伐時期

1926年1月，在國民黨第二次全國代表大會上，當選為中央監(jiān)察委員會候補委員（1926年1月-1929年3月）。