洪武十三年朱元璋在經歷了胡惟庸案之後，罷左右丞相，廢中書省，便將中書省的權利進行了拆分，如此便產生了六部制度，這樣一來六部制度便登上了歷史舞臺。明太祖中期，中書省與六部還是處於共生的狀態，六部分管各自領域，可以直接向皇帝彙報。中書省在此時主要負責對六部資源進行整合，這樣一來，中書省的權利遭到了大規模削弱，六部制度則秉承相互制約、相互監督的原則，極大的保障了中央政治的安全性。
原中書省的設立便存在許多的問題，這也是中書省後來被廢掉的一個重要原因。其一、中書省的權力過大，中書省秉承著對皇帝負責的態度，大力發展各自勢力，明代一度陷入腐敗的官僚主義中。其二、中書省大多是以一種秘書的形式存在，在其發展過程中，對皇權的判斷有著一定的抑制作用，影響皇帝的權威性。二者的結合將皇帝的權利進行了分割，民間更是將中書省稱為皇帝的遮掩布，由此可見在明代初期，中書省滔天的權利。
根據史料記載，內閣制度的雛形起源於明朝初期。明洪武時期，明太祖朱元璋為了加強中央集權制，在與權臣胡惟庸的政治鬥爭中獲勝後，廢除了丞相官職，改由皇帝直接統轄六部，在六部制度早期，一直備受種央監視，其主要源自中書禍亂後的一種心理戒備。六部在明太祖時期並沒有對外宣稱，而是獨屬於種央的秘密組織，六部制度的雛形也是明太祖時期所確立的，將權利有條理地進行分割，使得中央在此制度下，極大的加強了對民間各種事宜的掌控程度，從而減輕了官僚集團對皇權的威脅。
他曾下詔：“以後嗣君，其毋得議置丞相。臣下有奏請設立者，論以極刑！”雖然朱元璋運用政治手段大權獨攬，穩固自己的統治地位，但是他一個人畢竟精力有限，並且天下還不穩定，國事繁雜，他沒有能力事無鉅細，親力親為，於是他仿照宋朝的制度，在洪武十五年設置華蓋殿、武英殿、文淵閣、東閣等機構，並由大學士擔任職位。不過，他設置的這些部門及人員只是類似後世的秘書處，還不算是真正的內閣。
早期的六部的領導主要由四大學士所組成，四大學士將六部的各項事宜進行統籌梳理，最後將整理好的奏摺提交給皇帝，這極大的加強了辦事效率，既可以將事件進行整合，又可以讓四大學士相互監督，這在當時則是一種近乎完美的政治制度。