Das älteste Gebäude der Stadt ist die im Stadtzentrum stehende Marienkirche. Ihr Bau wurde 1156 begonnen. Der Grundriss der dreischiffigen Gewölbebasilika entspricht einem lateinischen Kreuz. Der Innenraum ist 55 m lang, das Mittelschiff 8 m breit und die Gewölbescheitel sind 14 m hoch. Sie war Klosterkirche der Augustinerchorherren bis zur Auflösung des Klosters 1564. Nach der Säkularisierung im 16. Jahrhundert, gehörte die Kirche zur Kirchengemeinde. Der nicht mehr benötigte 1470 verlängerte Chor wurde abgebrochen und durch eine senkrechte Feldsteinmauer geschlossen. Die Kirche erhielt 1764 ein großes Schleppdach und wurde im Barockstil umgebaut. 100 Jahre später wurden diese Umbauten rückgängig gemacht und die Kirche im neuromanischen Stil neu ummauert. Im Inneren der Kirche ist die mittelalterliche Architektur unverändert erhalten. Sehenswert sind das 600 Jahre altes Taufbecken, der 500 Jahre alte reich vergoldete Altar und die Spätrenaissance-Kanzel aus der Zeit vor dem 30-jährigen Krieg.
Das Weihedatum ist nicht bekannt. Lediglich 1199 erscheint die Kirche in einem Verzeichnis aller geweihten Kirchen. Sie kann durchaus vorher geweiht worden sein. Fertigstellungsdaten im Mittelalter sind meistens relativ. Der Turm wurde ca. 50 Jahre später (1240 fertig?), hier fehlt jegliches Datum.
Die Windesheimer Reform ist eher für Theologiestudenten relevant.
1134 Kaiser Lothar III. lässt auf dem Kalkberg eine Reichsburg – die Siegesburg – erbauen. Gleichzeitig gründet er am Fuße des Berges ein Augustiner-Chorherren-Stift. Dem Missionar Vicelin des Augustiner Chorherrenstifts in Neumünster überträgt er die Leitung des Stift mit der Stiftskirche (der heutigen Marienkirche).
1156 wird der Grundstein für eine dreischiffige Kreuzbasilika im spätromanischen Stil mit angrenzender Stiftsklausur gelegt. Der Bischof Gerold von Oldenburg nimmt seinen Sitz in Segeberg, da Oldenburg verarmt und unsicher war.
1199 erscheint die Marienkirche erstmals in einem Verzeichnis der geweihten Kirchen.
1447 Das bronzene Taufbecken, vom Bremer Gießer Ghert Klinghe hergestellt, ist das älteste Kunstwerk in der Kirche und in der Stadt.
Nach 1470 wird durch die Windesheimer Reformbewegung der Chor um 22 m nach Osten verlängert. Dadurch wird die Trennung des Gottesdienstes der Chorherren von der Gemeinde ermöglicht. Etwa 100 Jahre später wird nach der Reformation der baufällig gewordene Anbau wieder abgerissen. Eine einfache Feldsteinmauer wird im Osten stattdessen hergestellt.
Zwischen 1510 und 1520 wird der in einer Lübecker Werkstatt entstandene spätgotische dreiflügelige Passionsaltar, aufgestellt.
Ab 1522 predigen die ersten evangelischen Pastoren in der Marienkirche. Den Zehnten der Klosterdörfer erhält nicht mehr das Augustinerchorherrenkloster, sondern das Kirchspiel.
1612 stiften der Segeberger Amtmann Markwart von Pentz und dessen Ehefrau Anna die Kanzel im Stil der Spätrenaissance.
1761 berfolgt eine barocke Umgestaltung mit einem Schleppdach Der Turm erhält erstmals ein mechanisches Uhrwerk.
1863 erfolgt der Rückbau der Marienkirche in ihre Ursprungsform, das Außenmauerwerk wird im neuromanischen Stil erneuert.
1873 bekommt die Marienkirche eine Orgel aus der dänischen Orgelbauwerkstatt Marcussen & Søn / Apenrade.
1957 werden aufwändige Sanierungsarbeiten zur Sicherung der Statik im Südbereich der Kirche notwendig. Das Gestühl von 1866 wird ersetzt.
2002 beginnt in mehreren Bauabschnitten eine Grundsanierung des Gebäudes, der Fenster und der historischen Ausstattung. Die Maßnahmen werden ca. 2025 abgeschlossen sein.
2022 versagt die Orgel von 1873 endgültig ihren Dienst. Sie war in den vergangenen Jahrzehnten mehrfach umgebaut und ergänzt worden. Für das Jahr 2025 ist die Einweihung einer neuen Orgel geplant.