Kirken af St. Gereon er blandt de ældste vartegn for byen Köln. Hendes historie begyndte i de tidlige IV-tallet. I denne periode byggede de kraftfulde struktur, der ligger over en af gravene. Historikere mener, at Basilikaen fik sit navn i ære for en soldat i den Thebanske Legion af Gereon i Köln.

Som en Kirke, denne struktur blev beskrevet med V-tallet, hvor byen regeret af den Merovingiske dynasti. Så Basilikaen blev anset for væsentlig Kirke i hele den Østlige del af riget. Der er en udtalelse, at det var begravelsessted for nogle af de Frankiske konger. Den første Biskop af Køln blev også begravet i Basilica of Saint Gereon.

I første halvdel af det niende århundrede Kirke blev et kloster, i 1069 at hendes bygning, vedhæfte en lang kor, og den side af det nye tårn og krypten. To århundreder senere rejses af bygningen er dækket af en oval kuppel og imponerende, og dets højde var omkring 34, 5 meter. Udseendet af templet, endelig skabt i det XIII århundrede, har overlevet til nutiden.

I 1920 Kirken af St. Gereon fik status af en Mindre Basilika. Under Anden verdenskrig blev bygningen lidt meget, men blev efterfølgende udført renovering og restaurering arbejde, kun endte i 1984. Denne Kirke anses for at være en virkelig enestående sakral bygning, som kombinerer både den Romerske og den sene antik arkitektur. Inde i templet kan man se gamle fresker, som er bevaret til vore dage, og blandt dem er der et billede af den sidste dom, Gereon og andre soldater i den Thebanske Legion, samt gobeliner 1765, viser øjeblikke fra livet i St. Joseph.