Kurz nach der Gründung Karlsruhes stellt Markgraf Karl Wilhelm von Baden-Durlach im Jahr 1722 fest, dass jedem neuen Bürger von “Carolsruhe“ unbeschränkte Gewissensfreiheit und Religionsübung erlaubt ist. Damit meint er sowohl die drei christlichen Konfessionen – die evangelisch-lutherische, die evangelisch-reformierte und die römisch-katholische als auch Angehörigen der jüdischen Religion. Die christlichen Religionen bekommen auch alle an der Langen Straße – der heutigen Kaiserstraße – ein Grundstück zum Kirchenbau.
Der Markgraf gewährt Freiheiten für jeden neuen Bürger in der Fächerstadt
Die Katholiken jedoch sind eine Minderheit in der noch protestantischen Markgrafschaft Baden-Durlach und haben noch nicht die finanziellen Mittel, eine Kirche zu bauen. Sie bekommen einen Betsaal an der Ecke Lammstraße/Zirkel zugewiesen. Es dauert bis 1814 bis die katholische Gemeinschaft eine richtige Kirche erhält – und zwar die monumentale Stadtkirche St. Stephan, die von Friedrich Weinbrenner errichtet wird.

Die erste reformierte Kirche in Karlsruhe entsteht 1722, am heutigen Standort der Kleinen Kirche, die in den 1770er Jahren renoviert wird. Nach der Vereinigung der lutherischen und reformierten Konfessionen im Jahr 1822 wird die reformierte Kirche zur Garnisonkirche.
Die Konkordienkirche entsteht als Fachwerkbau
Baumeister Friedrich von Batzendorf ist der Architekt, der auch das Karlsruher Schloss gebaut hat. Im Jahr 1719 bekommt er den Auftrag, auf dem südlichen Terrain des Marktplatzes die evangelisch-lutherische Stadtkirche, die Konkordienkirche zu bauen. Die Kirche, die 1722 fertig gestellt wird, wird ursprünglich als massiver Steinbau geplant. Jedoch trotz fürstlicher finanzieller Unterstützung kann er nur als verputzter Fachwerkbau ausgeführt werden – die Mittel fehlen einfach.

Der Name “Konkordienkirche“ ermahnt zur Einheit (von lateinisch: concordia) unter den christlichen Konfessionen nach zwei Jahrhundert Jahre religiöser Streitigkeiten. Der Aufbau der Kirche besteht aus vier halbrunden Bögen mit einem zentralen Kirchturm. Der Grundriss ähnelt einem vierblättrigen Kleeblatt, folgt jedoch eigentlich der Form eines griechischen Kreuzes, und ist gleichzeitig ein geheimes Zeichen der “Rosenkreuzer“, die Bezeichnung für verschiedene spirituelle Gemeinschaften. Das Kreuz ist in der Alchemie als “Kreuz der Erde“ bekannt.
Hier wird der Markgraf beigesetzt
In der Mitte der Kirche ist ein Altar aufgestellt, der von allen Gebetsplätzen gut sichtbar ist. Unter diesem Altar befindet sich eine Gruft, in der der Stadtgründer Markgraf Karl Wilhelm nach seinem Tod 1738 beigesetzt wird. Damit gewinnt die Kirche an Bedeutung als Begräbnisstätte. Bis dahin wurden die Markgrafen in Pforzheim bestattet.

Leider gibt es keine Originalbaupläne mehr aber ein Plan von 1738 zeigt, dass die Achsen der Kirche eine Länge von zirka 25 Meter hatten. Auch die Anzahl der Gottesdienstbesucher ist unbekannt – und Angehörige des Hofstaates kamen wohl nicht zum Gottesdienst, da sie ihre eigene stattliche Schlosskapelle hatten.
Die kleine Kirche wird abgerissen
Bereits in den 1760er Jahren gibt es Pläne, die Stadt nach Süden zu erweitern und einen repräsentativeren Marktplatz zu gestalten. Der endgültige Bauplan wird schließlich vom Architekten Friedrich Weinbrenner umgesetzt, der die Schlossstrahlen nach Süden verlängern möchte. Er fängt 1801 mit der Neugestaltung an und plant eine Reihe von repräsentativen Plätzen (Schlossplatz, Marktplatz, Rondellplatz und Platz vor dem Ettlinger Tor) zwischen dem Schloss und dem neu entstandenen Ettlinger Tor. Dabei muss die Konkordienkirche abgerissen werden.

Am 8. Juni 1807 findet als Abschied eine feierliche Zeremonie in der Konkordienkirche statt, danach wird der Grundstein für die neue Evangelische Stadtkirche am Marktplatz gelegt. Im Anschluss beginnt der Abriss der Konkordienkirche.
Ein Pyramidengrab entsteht
Das Grab des Stadtgründers liegt jedoch noch in der Gruft. Diese wird nach dem Abriss mit einer vorübergehenden Holzpyramide abgedeckt, die 1818 noch einmal erneuert werden muss, bis sie endgültig im Jahr 1825 durch die heutige Steinpyramide ersetzt wird. So lange hat es gedauert, bis das Pyramiden-Denkmal vom Großherzog genehmigt wird. Zu dieser Zeit war es nicht unüblich, Pyramidengräber zu errichten.

Als Wilhelm Friedrich Schilling von Canstatt, der Markgräflich Baden-Durlachischer Geheim- und Staatsrat, 1743 stirbt, wird er neben dem Markgraf Karl Wilhelm bestattet. Vor der Abtragung der Kirche wird sein Sarg jedoch nach Hohenwettersbach überführt, so dass der Markgraf alleine unter der Pyramide liegt.