Kościół parafialny pod wezwaniem Najświętszej Marii Panny Matki Kościoła został wzniesiony w centrum Gołdapi w latach 1570-1580. Początkowo kościół ewangelicki (do roku 1945).
W 1944 roku został poważnie zniszczony i dopiero w latach 80. XX wieku podjęto decyzję o odbudowie świątyni. Po ukończeniu odbudowy w 1992 roku kościół został ustanowiony konkatedrą diecezji ełckiej i utworzono przy nim nową parafię..