朱元璋在建立明朝後，為了防止大臣篡位，元末殘餘勢力的復甦，組建了一個特務機構，名為“錦衣衛”。這錦衣衛本是朱元璋稱吳王時的“拱衛司”，後來又改稱“親軍都尉府”，統轄儀鸞司，負責皇帝出行時的儀仗和安保工作。洪武十五年，朱元璋裁撤親軍都尉府和儀鸞司，改設錦衣衛。為了讓錦衣衛真正成為朱元璋的“耳目”，朱元璋將偵察逮捕、典詔獄的權利下放給他們。後來在“藍玉案”和“胡惟庸案”中，錦衣衛都立下了大功。
明初的軍事組織主要是“衛”和“所”，每衛下轄正規軍5000人，衛下面又分千戶所和百戶所。最初，明朝京城禁衛軍就下轄48處衛所。朱元璋在洪武十五年進行軍事改革後，從禁衛軍中挑選了大量優秀人手，組建了12個親衛軍，其中錦衣衛是被他最看重的。在日常的宮門防守中，其他親衛軍都是分別值守皇城四門，只有錦衣衛日夜在午門外守候。
原本這麼一把監聽與殺人利器，讓朱元璋很是欣喜。但隨著太子朱標的去世，朱元璋也開始變得恐慌起來。因為錦衣衛手中掌握了太多常人難以接觸到的祕密，如果他們能為皇帝所用，那自然能成為一把治國利器。如果他們被別有用心者掌握，那大明王朝將有傾覆的危險。再加上錦衣衛平時有虐待犯人，將人屈打成招的行為。所以朱元璋在晚年便焚燬了錦衣衛的刑具，收回了他們逮捕和審訊的權利。
燕王朱棣發動靖難之役成功後，為了尋找到建文帝朱允炆的下落，不僅重啟了錦衣衛，而且還新設了東廠來與錦衣衛抗衡。此後朱棣的後世子孫更是“青出於藍而勝於藍”，又先後設立了“西廠”和“內廠”。一時間，特務組織遍天下，處處都是明朝的廠衛人員。與東西兩廠不同的是，錦衣衛只效忠皇帝，所以很少會出現會把持朝政的人物。這也是它自有明一代，一直存在的重要原因。
那明朝滅亡後，這規模龐大的錦衣衛去了哪裡呢?主要有三種去向。第一種，戰死沙場。明朝錦衣衛雖然一般是在暗中行動，但他們也有負責刺探軍事情報的職責。李自成攻入北京後，一些錦衣衛不願苟活，便光明正大的與敵軍進行了生死決鬥。如明末指揮同知李若璉便在李自成攻城時死守崇文門，城破後以身殉國。
第二種，投降敵人。明末錦衣衛指揮使駱養性是世襲了父親指揮使的位置，在明朝滅亡後，他先是投降了李自成，被迫交出3萬兩白銀保命。李自成被清軍趕跑後，他又投降了清軍，後來因擅自迎接南明弘光帝使臣被罷免。而投降清軍的錦衣衛，則被清朝組建成了鑾儀衛。原本鑾儀衛還是叫“錦衣衛”這個名字，但滿清統治者考慮到影響不好，就給他們改了名字。而這個鑾儀衛與明朝錦衣衛負責的工作天差地別，真的成了皇家儀仗隊。
第三種，南下投奔明朝皇室。崇禎皇帝在煤山上吊自殺後，南方又組建了數個南明政權，如弘光政權、隆武政權、邵武政權、永曆政權等。像錦衣衛指揮使馬吉翔就先後投奔了隆武帝和永曆帝。他也是明朝歷史上唯一一個從錦衣衛指揮使做到內閣首輔的人。不過此人秉性不好，擅長溜鬚拍馬，最後在陪永曆皇帝到緬甸避難時被殺。隨著他的去世，錦衣衛也徹底退出歷史舞臺。