JR中央線が開通した明治22年(1889)当時は甲武鉄道とよばれていた。多摩地方の鉄道施設計画の持ち上がったそもそもは、明治３〜５年(1872)５月末まで２年間、玉川上水の通船によってもたらされた大量輸送手段が断たれ、それに代わる手段として考えられた。「上水の汚濁を招く」ことが通船中止の理由だった。

武蔵国と甲斐国を結ぶ鉄道を敷設すべく設立された私鉄で、新宿〜立川間を開業したのを皮切りに1904年までに御茶ノ水〜八王子間（27.8哩）を全通させた。八王子以遠は鉄道敷設法に掲げる第1期建設線として、官設鉄道が建設を行っていた。

1906年(明治39)公布の鉄道国有法により同年10月1日に国有化され、中央本線の一部となった。

昭和４年(1929)：現在の三鷹電車区の前身となる「中野電車庫三鷹派出所」が開設し、9月1日三鷹信号場・電車庫として独立。

昭和５年(1930)６月25日：駅に格上げ、三鷹駅となる。

昭和24年(1949)7月15日：戦後の社会不安の時代を象徴する三鷹事件が発生。暴走した電車により同駅利用客6人が電車の下敷となり即死。線路脇の商店街に脱線、横転しながら突っ込み、負傷者も20人出る大惨事となった。下山事件、松川事件と並ぶ国鉄三大ミステリー事件といわれ真相は究明されてない。

昭和26年(1951)4月14日：同駅〜武蔵野競技場前駅間開通。

昭和34年(1959)11月1日：同駅〜武蔵野競技場前駅間廃止。

昭和44年(1969)4月6日：高架駅化。

昭和52年(1977)８月：都道武蔵野・調布線と中央線の立体交差に伴う工事より駅北口の玉川上水は暗渠化された。

昭和62年(1987)4月1日：国鉄分割民営化によりJR東日本の駅となる。