針對該城設(shè)防堅(jiān)固和攻城部隊(duì)重火器少等情況，決定以坑道爆破為主要攻城手段。戰(zhàn)役預(yù)定于3月10日發(fā)起。

國民黨西安“綏靖”公署因西北戰(zhàn)場需要，開始將第30旅由臨汾空運(yùn)洛川。晉冀魯豫軍區(qū)前指為滯留該敵，配合西北野戰(zhàn)軍作戰(zhàn)，決定提前發(fā)起戰(zhàn)役。派第8縱隊(duì)第24旅攻占城南飛機(jī)場，擊毀運(yùn)輸機(jī)2架，打破了國民黨軍隊(duì)的空運(yùn)計(jì)劃。

其余各部隊(duì)由東、南、北三面對臨汾發(fā)起攻擊，掃除外圍據(jù)點(diǎn)，挖掘破城坑道，創(chuàng)造攻城條件。至22日，相繼拔除崔家疙瘩、火車站、高河店、堯官廟等外圍據(jù)點(diǎn)，打退國民黨守軍30余次反撲，逼近東關(guān)外城。23～27日，第13縱隊(duì)兩次攻擊東關(guān)未克。

晉冀魯豫軍區(qū)前指調(diào)整部署，以第8縱隊(duì)第23旅和第13縱隊(duì)第37旅分別由東關(guān)東北、東南兩面攻擊，同時加速坑道作業(yè)。10日，第23旅挖掘的4條坑道有3條同時爆破成功，炸開東關(guān)城墻。第23、第37旅迅速攻占東關(guān)，戰(zhàn)至11日上午，殲守軍第66師大部。

16日開始，解放軍攻城部隊(duì)與國民黨守軍之間展開了以挖掘坑道與破壞坑道為中心的激烈斗爭。晉冀魯豫軍區(qū)第8縱隊(duì)和太岳軍區(qū)部隊(duì)在城東，第13縱隊(duì)在城南，以地面攻擊配合地下挖掘，克服土工作業(yè)缺氧、發(fā)出聲響和不易掌握方向等一系列困難，共挖掘主坑道15條，掩護(hù)坑道40余條。

國民黨守軍則汲取東關(guān)失守的教訓(xùn)，進(jìn)行以挖掘防御地道和實(shí)施爆破為主的反坑道作戰(zhàn)；同時，在飛機(jī)和大炮的配合下，施放毒氣彈、燃燒彈，并以第30旅出城反擊。解放軍攻城部隊(duì)挖掘的大部分坑道被破壞。