隋文帝開皇九年（589年），在沔州下置漢津縣。隋煬帝大業元年（605年），因該地位於漢水之北面，依“山南水北”為陽之意，改漢津縣為漢陽縣，從這時開始，漢陽這一地名開始出現。唐高祖武德四年（621年），沔州下轄漢陽、漢川兩個縣。沔州州治設在漢陽縣（今武漢市漢陽區），並將漢陽縣以及沔州的行政機構都一起從蔡甸的臨嶂山下遷到龜山南麓的鳳凰山下。
漢陽，漢水之陽。山之南水之北謂之“陽”，漢陽應該是在漢水之北的地區。過去的漢陽確實與漢口練成一片。明成化初，漢水下游連年發大水，從而在郭茨口（時稱郭師口）上游處決口，新闢的河道從龜山北麓流入長江，將原漢陽一分為二，漢陽城為南岸，已與山南水北謂之陽不符，但漢陽地名早已遠揚在外，民眾也叫此名習慣，故漢陽名未變。
今天的漢陽城於唐代621年才建立。但更早的漢代，漢陽已經建了城。三國時劉表部將黃祖在龜山北麓築了卻月城，後來被孫權擊破。於是劉表之子劉琦又在龜山南麓建了魯山城。“漢陽城”是有城牆的，還有東西南三個城門，1928年北伐戰爭時才被拆除。
漢陽最具記錄傳承的有漢陽魚、漢陽人、漢陽城、漢陽造、漢陽樹。
漢陽魚。在漢陽鍋頂山上發現魚化石。經考證，4億多年前，這片土地為一片汪洋，這裡的魚沒有牙齒，主要以浮游生物為食，為紀念這一重大發現，這種古化石被命名為“漢陽魚”。
漢陽人。1997年，在漢南紗帽山（古屬漢陽縣）發現了距今1～5萬年的古人類化石，這塊頭蓋古化石後名之為“漢陽人”化石。
漢陽城。“晴川歷歷漢陽樹，芳草萋萋鸚鵡洲。”唐代詩人崔顥《黃鶴樓》詩用字最少、意境最美地描繪古代武漢的漢陽城、武昌城兩座城市。而漢陽城則是中部中心城市武漢的發源之地。在這裡，有過大禹治水的百姓佳話，有過高山流水遇知音的千古絕唱，有過文人墨客的促足拜訪，有過英雄豪傑的兵戎相爭……
漢陽造。清末，時任兩廣總督的張之洞在漢陽建立鐵廠、兵工廠，開啟了中國近代工業的先河，以漢陽鐵廠為主體的漢冶萍被譽為“亞洲雄廠”、“東半球首屆一指的鋼鐵基地”。由這些工廠生產的工業產品也被廣義的賦予了一個響亮的名稱——“漢陽造”。
漢陽樹。唐代著名詩人崔顥曾在《黃鶴樓》詩中寫道：“晴川歷歷漢陽樹，芳草萋萋鸚鵡洲。”人們把鳳凰巷內這株銀杏樹稱為漢陽樹。漢陽樹據說有七、八百年的歷史，高大挺拔，蔥蘢舒展，是武漢市現存最老的樹。
漢陽自古就是兵家必爭之地。明嘉靖《漢陽府志》記載，傳說當風雨交加的十五夜晚，這裡就傳出戰馬嘶鳴、金鼓激戰的聲音。漢陽留下馬的傳說和相關地名就不足為奇了。
據傳，龜山左側有巖穴，稱藏馬洞，相傳關羽曾牽馬在此休息，也稱關羽洞。洗馬長街地名來自於洗馬洞。這條街沿長江在漢陽東北犄角，號稱長街，只500米。漢味作家彭建新說，莫看這短短的名為長街的街，卻頗有來頭：
相傳由皇帝頒詔欽定，要在此處、按此方位闢街。據考，此街成於明代末年。街的西面是龜山，東面是龜山餘脈禹功磯，街面從龜山頸子上碾將過去，意圖很明顯：使龜山身首分離，斷其龍脈。這樣一來，洗馬長街就與當年建在蛇山腰上的黃鶴樓，隔江呼應；或者，這就是所謂“龜斷頸，蛇斷腰”典故的來歷吧？