A gyülekezetet 1722-ben letelepülő szlovák evangélikusok hozták létre, akik a Felvidékről és Pest megyéből érkeztek lelkészükkel, Hrdina Andrással együtt. 1759-ben már a harmadik templom épült föl, de nm maradandó anyagból. A mai, 3000 főt befogadni képes Ótemplom Tessedik Sámuel és Boczkó Dániel lelkészek működése alatt épült 1788-ban. Azóta nagyobb renoválások 1888-ban, a templom 100 éves fennállásának ünnepére, majd az 1960-as években voltak.

Az iratokat elsőként Jancsovics István lelkész rendezte 1841-ben és 1852-ben, tárgyi csoportosításban. Újabb levéltári jegyzékek Sólyom Jenő (1962), és Kovács Pál (1980) rendezései nyomán készültek kézírásos és gépelt formában. 1953-ban az egyházközség ó- és újtemplomi részekre oszlott, azóta külön őrzik az illetékességnek megfelelően az iratokat. Időközben néhány megszűnt egyházi szerv iratai is bekerültek, például a szarvasi evangélikus özvegy- és árvasegélyező egylet, a szarvasi evangélikus Luther árvaház és a szarvasi protestáns nőszövetség iratainak megmaradt töredékei.

A levéltári nyilvántartási-, segédletkészítési munka 1996 óta már számítógépen folyik, jelentős mértékben fejlődött az intézmény felszereltsége, az iratok elhelyezése is, a levéltárat ma már riasztó és füstérzékelő, valamint rácsok védik. 2002-től az anyakönyvek számítógépes feldolgozásába fogtak.