大別山名稱來源於我國第一部地理著作《尚書·禹貢》，《禹貢》中兩次提及大別（大別山），如：導嶓冢，至於荊山；內方，至於大別。（譯文：開通嶓冢山到達荊山。開通內方山到達大別山。）......嶓冢導漾，東流為漢，又東，為滄浪之水， 過三澨，至於大別，南入於江。（譯文：從嶓冢山開始疏導漾水，向東流成為漢水；又向東流，成為滄浪水；經過三澨水，到達大別山，向南流進長江。）另外，大別山有著獨特的地理條件和文化淵源，大別山脈連綿數百里，是中國長江和淮河的分水嶺，山南麓的水流入長江，北麓的水流入淮河，因此大別山南北的氣候環境截然不同，植物也差異也很大。相傳西漢漢武帝祭祀古南嶽天柱山時經過大別山，當他登上了大別山主峰後，觀賞了南北二側的景色不禁感嘆道：“山之南山花爛漫，山之北白雪皚皚，此山之大果別於他山也！”隨行的偉大史學家司馬遷（公元前145—公元前87）記錄之，於是大別山由此名聲大振。相傳東漢永平十一年（68年），漢明帝劉莊為銘記天竺（古印度）高僧迦什摩騰、竺法蘭用白馬馱載佛經佛像到中國傳播佛教，在黃河流域的洛陽興建了白馬寺，為了在長江淮河流域也宏揚佛法，又命名長江淮河分嶺的大別山主峰為白馬尖，此後就有了“北有白馬寺，南有白馬尖”一說。
大別山地區名寺林立，佛法盛行，二祖寺、三祖寺、四祖寺、五祖寺、迎江寺、靈山寺等在中國佛教禪宗歷史上有著重要地位的寺院分佈於此。
二祖寺又名無相寺，位於大別山腹地，被稱為中華禪宗第一山的司空山上，它是中華禪宗二祖慧可大師傳衣法予三祖僧璨的道場，是千古禪宗祖庭，在佛教界享有崇高地位。二祖慧可道場，位於安徽省嶽西縣司空山，司空山方圓約60平方公里，主峰海拔1227.8米，拔地而起，如擎天一柱。是皖西重鎮，安慶形勝，稱之“司空扼蘄黃，天柱蔽英霍”。上有平坦之地數裡，世稱周朝“淳于司空居此，而得名”，又名“四空山”和“思空山”。
禪宗祖庭三祖禪寺又名山谷寺、乾元禪寺，始建於公元505年。位於安徽天柱山南面環境清幽，景色怡人的鳳形山上，為南朝國師寶誌禪師開創，梁武帝賜名山谷寺。隋初，禪宗三祖僧璨來此弘法教學，並傳衣缽給四祖道信，於公元606年在此立化，故稱三祖寺。後，唐肅宗賜三祖寺名為三祖山谷乾元禪寺。唐代宗又諡三祖僧璨號鑑智禪師，賜其舍利塔名為覺寂塔。宋太宗諡開山寶誌禪師名為寶公，賜號道林真覺禪師。三祖寺的輝煌地位，使文人墨客紛至沓來。僅北宋一朝，就有林逋、王安石、蘇東坡、黃庭堅、李公麟、陸宰等遊寺題詩，有的還居寺讀書，修身修性，潛心學佛。有詩云“禪林誰第一，此地冠南州”。1983年三祖寺被國務院確定為漢族地區全國重點寺院。
黃梅四祖寺，古稱幽居寺、正覺寺，又名雙峰寺，是中國禪宗第一所寺院。。唐武德七年（624）禪宗四祖道信大師創建，為中國禪宗叢林之始。位於湖北黃梅縣雙峰山下，距縣城15公里，佔地110多畝，與東山五祖寺相隔20公里。西山，又名破額山、雙峰山，海拔599.8米。風景秀美，名勝眾多。其中三塔（毗盧塔、眾生塔、衣缽塔）、兩橋（靈潤橋、明月橋）、一石刻（靈潤橋摩崖古石刻群）為全國重點文物保護單位。
黃梅五祖寺，原名東山寺，或東禪寺，後世改稱五祖寺，位於湖北省黃梅縣東12公里的五祖鎮東山之上，地處大別山主脈東端南沿，與九江隔江而望。建於唐永徽五年（654年），是中國禪宗第五代祖師弘忍大師的道場，也是六祖慧能大師得法受衣缽之聖地，被御賜為“天下祖庭”。中國化佛教，始於禪宗。禪宗又名佛心宗。禪宗在第五代分為南、北兩宗，其祖庭都在黃梅五祖寺。
迎江寺位於安慶市樅陽門外的長江邊上，佔地3萬餘平方米，由天王殿、大雄寶殿、振風塔、毗廬殿、藏經樓、大士閣、法堂、廣嗣殿等建築組成。整座寺院建築在長江岸邊的高地上，殿堂巍峨，從十里開外即能見其雄姿。安慶乃歷史文化名城，迎江寺即在該城之東南，它上接九華，下臨匡廬，北攘天柱，南臨長江，可謂得天地之靈氣，占人文之輝光。
信陽靈山寺：始建於北魏孝帝延興四年(公元474年)，距今有1500餘年歷史，為佛教傳入中國所建最早寺院之一。其地山勢奇偉，林木蔥茂，寺宇掩藏。千年古剎靈山寺旁依少華山，唐朝起寺院改為“靈山”。該寺地處豫鄂兩省之間，是官營建的寺院之一。
