同年，他得知侵略朝鮮、強(qiáng)迫朝鮮簽訂失去主權(quán)的《己巳條約》的禍?zhǔn)滓撂俨┪墓魧⒃跐M洲與俄羅斯財(cái)政大臣科科夫切夫會(huì)談，于是安重根也潛往哈爾濱，裝扮成日本人，潛入火車站。10月26日9時(shí)，伊藤博文乘坐的專列抵達(dá)哈爾濱火車站。

同行的還有日本樞密院議長(zhǎng)秘書官古谷久綱、宮內(nèi)大臣秘書官森泰二郎、醫(yī)師小山善、貴族院議員室田義文、南滿洲鐵道株式會(huì)社理事中村是公、田中清次郎、關(guān)東都督府參事官大內(nèi)丑之助等數(shù)十人。

專列抵達(dá)后，俄國(guó)財(cái)政大臣科科夫切夫走進(jìn)車內(nèi)，和伊藤博文進(jìn)行了約25分鐘的談話，之后兩人走出車廂，在站臺(tái)上檢閱俄國(guó)儀仗隊(duì)。閱兵完畢之后，伊藤博文走向日本人歡迎隊(duì)伍，此時(shí)安重根從歡迎人群中沖出來(lái)，舉起手槍向伊藤博文射擊。伊藤博文猝不及防，被打倒在地。安重根的手槍內(nèi)有8發(fā)子彈，發(fā)射了7發(fā)，向伊藤博文連開3槍。

第一發(fā)子彈從右上膊中央外面射入，進(jìn)入右胸肋，水平穿通兩肺，留在左肺葉中；第2發(fā)從右關(guān)節(jié)后面射入右胸肋，穿通胸腔，留在左肋上；第3發(fā)子彈從右上膊中央外面擦過(guò)，從上腹中央射入，留在腹肌中），另外四發(fā)分別打傷了日本駐哈爾濱總領(lǐng)事川上（右手腕被擊穿，身負(fù)重傷）、森泰二郎和田中清次郎。

醫(yī)師小山善急忙爬了過(guò)來(lái)解開伊藤的禮服為其療傷，但由于三顆子彈全射進(jìn)了內(nèi)臟部位，憑借隨身攜帶的簡(jiǎn)便醫(yī)療器械難以將其取出；再加上安重根使用的是高殺傷力的開花子彈，使得伊藤博文內(nèi)臟出血無(wú)法止住。十幾分鐘后，伊藤博文不治身亡，時(shí)年68歲。