1894年9月17日，黃海海戰爆發，定遠與鎮遠作為北洋海軍的核心力量在海戰中表現了非常充分的防護能力。從15時30分開始，定遠與鎮遠艦受到了聯合艦隊的集中炮擊，其中定遠艦被命中160多發炮彈，鎮遠艦被命中220多發，然而兩艦仍然堅持作戰，毫不退縮。不僅如此，鎮遠艦的反擊還準確命中了圍攻中的日軍鬆島艦，將其重創。鬆島艦上一個身負重傷的三等水兵三浦虎次郎，臨死前抱著炮彈流著淚嚷道“定遠為什麼擊不沉啊……”
“定遠為什麼擊不沉啊……”
然而，只能防禦仍然不能取勝。最終黃海海戰以戰敗告終。隨後，朝鮮戰局惡化，旅順已不能作為艦隊的安全泊地使用。1894年11月14日北洋海軍艦隻返回威海灣，由於用於標識礁石位置的浮標被先導艦定遠艦航經時的浪湧推偏，後續跟進的鎮遠艦不幸觸礁，造成水下艦體多處嚴重損傷。由於威海不是旅順，沒有幹船塢，鎮遠艦隻能由潛水員下水草草堵漏，可以勉強航行但遠航已無可能，管帶林泰曾因此引咎自盡。直到甲午戰爭結束，鎮遠只能停泊於威海衛，眼睜睜地看著定遠被魚雷艇命中，而後在最後時刻自爆彈藥艙坐沉。
戰爭結束時的定遠艦
1895年4月17日，大清與日本簽訂《馬關條約》，甲午戰爭結束。而2個月之前，1895年2月14日，北洋艦隊與日軍簽訂了《威海降約》，日軍接管剩餘的北洋海軍艦艇。2月17日，日軍掛上了太陽旗，正式接收了包括鎮遠艦在內的北洋海軍剩餘艦艇。鎮遠於1895年的3月16日正式編入了日本海軍，估計是出於羞辱對手的動機，日本海軍仍然使用原艦名。日軍在3月26日由“西京丸”號巡洋艦將鎮遠艦拖曳至旅順，而後展開維修，維修工作在當年6月1日完成。
維修前的鎮遠艦
鎮遠的傷口用白色顏料圈出
1895年7月4日，被日本海軍刷成通體灰色的鎮遠艦抵達日本本土，7月28日抵達橫須賀。隨後進行了幾次公眾開放活動，而後在1895年8月進入橫須賀海軍工廠進行進一步改進。改進主要集中於火力上的。日本海軍保留了其原裝的305毫米克虜伯主炮，將前後兩門克虜伯150毫米副炮更換為152毫米阿姆斯特朗152毫米副炮，而後在靠近艦艉處加裝了2門152毫米副炮，此外，57毫米速射炮增加了2門，47毫米哈奇開斯速射炮增加了6門，取消了原有的37毫米速射炮。日本方面還為鎮遠加裝了三具356毫米魚雷發射管，攜帶的魚雷艇改為日本26號型魚雷艇。鎮遠艦的鍋爐也進行了改進，改進後航速提升到了10.5節。可以說，日本人最終完成了清廷沒有完成的改造。值得一提的是，日本人沒有把清廷的艦艏龍紋抹掉，這兩條龍紋一直貫穿於鎮遠服役期間。
改造後的鎮遠艦，最明顯的是艦舯後部的兩門152毫米副炮
在剛剛成為日軍戰艦之初，鎮遠是日本海軍唯一一艘鐵甲艦，因此毫無疑問地成為了主力。1896年11月25日，日本聯合艦隊在橫須賀舉行海上閱艦式，明治天皇親自到場檢閱，經過改裝的鎮遠艦被作為明治天皇的檢閱座艦，鎮遠當時的地位可見一斑。
作為天皇檢閱座艦的鎮遠
不過隨著日本從英國訂購的新一代“富士”級前無畏艦的服役，1883年建成了鎮遠就相形見絀了。“富士”級前無畏艦由英國“君權”級前無畏艦發展而來，排水量為1.23-1.25萬噸，裝備4門中線佈置的305毫米主炮和10門152毫米副炮，火力、機動性和防護能力已不是鎮遠艦能比的。“富士”級的“富士”號和“八島”號於1898年2月到達日本，鎮遠艦就不再是日本海軍唯一的戰列艦。1898年3月21日，鎮遠艦被劃入二等戰艦。
富士級的性能已經不是鎮遠能比的
從富士級旁邊駛過的鎮遠艦
1900年，中國發生了義和團運動，為了鎮壓義和團，日本作為八國聯軍的重要力量再次踏入中國。日本海軍當時出動了所有50艘作戰艦艇中的18艘，鎮遠艦赫然在列，不過主要是為運兵船護航。以這種方式再度與中國發生聯繫，鎮遠艦真是令人五味雜陳。1905年，鎮遠艦再度披掛上陣，作為二線兵力參與了旅順口封鎖戰，本來日軍打算讓鎮遠坐沉港口入口，而後臨時更換了艦艇而作罷。此後，在對馬海戰日方已經取勝後，鎮遠在第三艦隊中與“鬆島”、“嚴島”和“橋立”這三艘著名的“三景艦”老對手一道再度出擊，不過應該沒有實質性的交戰行動。，只有一些傳言。
日本漫畫家手繪對馬海戰中的鎮遠，可見用縱隊戰術
在日軍中服役的鎮遠
在日俄戰爭後，老邁的鎮遠艦於1905年12月11日被列入一等海防艦，1908年5月1日被當作通用訓練艦，1911年4月1日退役。而在1911年11月24日，也就是大清已經亡了以後，鎮遠艦被作為靶艦由“鞍馬”號裝甲巡洋艦實彈射擊破壞，最終在1912年4月6日，在橫濱被解體，結束了她跌宕起伏的一生。
日軍留下的一張鎮遠艦彩照