Az egri püspökséget Szent István király alapította, 1009-ben már létezett. Területe a legnagyobb volt a magyarországi püspökségek közül, Az első időszakban Heves (Újvár), Külső-Szolnok, Borsod, Abaújvár, Zemplén, Ung, Ugocsa, Szabolcs, Bereg és Zaránd megyéket foglalta magában, később pedig Sáros, Szatmár, Kraszna, Torna, Máramaros vármegyék és a Jászság is hozzá tartozott. A váradi püspökség alapítása előtt a bihari részek is Egerhez tartoztak, sőt a zsombolyi (pankotai) főesperesség azt követően is (egészen a 18. század közepéig). A 18. században többször is fölmerült a hatalmas egyházmegye fölosztásának gondolata. Erre azonban csak 1804-ben, Esterházy püspök halála után került sor, amikor VII. Pius pápa létrehozta a kassai és szatmári püspökségeket és ugyanakkor az egri püspökséget metropolitai (érseki) rangra emelte.
A püspökség középkori levéltára nem maradt fönn, csupán a jobbágyszolgáltatásokat tartalmazó „Szent János-könyveket” őrizték meg a 15. század második feléből. A szentszéki jegyzőkönyvek 1600-tól, a folyamatosnak nevezhető egyházkormányzati iratsorozatok csak a 18. század elejétől kezdődnek, a korábbi időszakból csak néhány 17. századi irat került a levéltárba. 1745-től, Barkóczy Ferenc érsek hivatalba lépésétől a szentszéki protokollumköteteket levélmásolati könyvekként használták. Az iratok rendezését Eszterházy Károly püspök először két jezsuitára, majd 1766-ban egyik papjára, Torner Ignácra bízta. Neki és hivatali utódainak (Kotuts Mátyás, Fangh István) munkája eredményeképpen 1778-ban fölállították a gazdasági, 1779-ben pedig az egyházi levéltárat, mindkettőt tematikus rendben, lajstromkönyvekkel.
A kassai, illetve szatmári egyházmegyék létrehozásakor, 1804-ben az elcsatolt plébániákra vonatkozó iratanyagot (köztük például az egyházlátogatási jegyzőkönyveket) kiválogatták és elvitték, csak a protokollumkönyvek maradtak Egerben. Mivel így a levéltárak terjedelme közel felére csökkent, 1805-ben a megmaradt anyagot új tárgycsoportokba rendezték, az ezután keletkezett egyházkormányzati és gazdasági iratokat pedig „új levéltár” (Archivum novum) néven külön egységként kezelték, eleinte folyószámos iktatással, majd a Hangony József levéltáros által 1818 és 1830 között kialakított tárgycsoportok szerint. Az iratok helye az 1770-es évektől fogva az érseki palota levéltári célra épült helyisége volt, csak az 1923 utáni iratokat helyezték 1954-ben (a levéltár kettős kezelése idején) egy különálló raktárba.
A káptalani levéltárat nem a főegyházmegyei levéltár őrzi, mivel annak hiteleshelyi része 1950 után államosításra került, magánlevéltári részét pedig 1964-ben szintén átadták (letétként) a Heves Megyei Levéltárnak, az érsekség és a szeminárium gazdasági levéltáraival együtt.
