Az egykori grófi székhely Stara grofija ma helytörténeti múzeum. Valószínűleg olasz építész tervezte, legrégebbi, városfalra támaszkodó része 1580-ból, az udvarra néző jellegzetes kétszintes árkádsora és loggiája valamint a reneszánsz feljárója a XVII. századból való. A belső termeit szépen az 1700-as állapotokat tükrözően állították helyre, leghíresebb ezek közül az első emeleten található „celjei mennyezetes” díszterem. A múzeum anyaga gazdag kőkorszaki, ókori római és népvándorlás korabeli régészeti leletekből, a környék néprajzi értékeiből, tárgyaiból és időrendi sorrendben a város valamint környéke helytörténeti emlékeiből áll. A múzeum egyik legérdekesebb de egy kicsit morbid látványossága a Celjei grófok koponyái, köztük a Nándorfehérváron lekaszabolt Cillei Ulrik kardvágásokkal „díszített” koponyája.

A Szt. Dániel (Sv. Danijel) gótikus apátsági templomot 1306-ban említik először írásos emlékek. Az eredetileg kéthajós, lapos mennyezetű templomhoz a XIV. század végén építették a harmadik hajót, ekkor megemelték és keresztboltozattal látták el a főhajót, a szentély is új boltozatot kapott, valamint ekkor épült a kórusülés és a harangtorony. A XV. század elején építették a templomhoz a Fájdalmas Szűzanya kápolnát, mely talán a templom legszebb része, és a Celjei (Cillei) grófok udvari kápolnájának épült. Sajnos a gyönyörű gótikus kápolnába ott jártunkkor nem lehetett bejutni, csak a rácson keresztül tudtunk bekukucskálni, és megcsodálni az oltáron látható pietàt, a boltozat értékes freskóit, és az oldalfalon elhelyezkedő szobrokat. A barokk korban a templomon számos változtatást hajtottak végre, de ezeket az 1930-as és főleg az 1960-as restaurálásokkor eltávolították. A templom viszonylag egyszerű homlokzata és külső falai láttán, melyekbe római kori, gótikus és barokk kőlapokat falaztak, nem is gondolnánk belül micsoda értékek bújnak meg. A legrégebbi freskó a XIV. századból való és Mária menybemenetelét ábrázolja, ebből az időből való a szentély mennyezetén látható akantuszlevelekkel ékesített ciklus. Később készült az északi falon a három királyok vándorlását és Jézus imádását ábrázoló freskó. A főhajó mennyezeti freskói a XVI. században, a keresztelőkápolnáé 1662-ben készültek reneszánsz stílusban. A főoltár 1743-ból való.

A várostól délkeletre, a folyó túlsó oldalán, egy 407m magas sziklán található a régi vár (Stari grad). Stratégiailag remek helyen fekszik, innen könnyen ellenőrzés alatt tartható a városba vezető összes szárazföldi és vízi út. A XIII. században a Heunburg grófok számára készült a nyugati oldal szélén a vár magját alkotó lakótorony. Később keleti irányba ezt lakópalotával majd a XVI. században felső várudvarral egészítették ki. I. Cillei Frigyes építette a belső tornyokkal védett falövezetet, melynek a ma is látható legnagyobb tornya a Frigyes-torony. A vár inkább erődítmény, mint sem lakókastély jellegű volt, ezért építették lakhelyül a XIV. században a Cilleiek a grófi palotát a Knežji dvorec-et lent a városban. A régi vár elhagyatottá vált. A XVII. században Gaisruck gróf vette meg, és innen szállította el az építőanyagot a Žalec melletti Novo Celje kastélya építéséhez. A hosszú és napjainkig tartó helyreállítás után a nyugati főúri rész a régi toronnyal és a várfal a Frigyes toronnyal készült el. A várból remek kilátás nyílik Celje-re és környékére.

A Mária templom (Sv. Marija cerkev) eredetileg a minorita kolostorhoz tartozott, és román stílusban épült, azonban a XVII. században átépítették. Mai homlokzata neoromán és magas templomtornyot építettek hozzá. A teljes homlokzat és a torony 2008-as ott jártunkkor felújítás alatt állt, és a tetejéig fel volt állványozva. Érdemes benézni, sajnos az útikönyvünk által magasztalt sekrestye bejáratának a timpanonját nem sikerült látnunk, mivel a hátsó soroknál kordonnal lezárják a templomot. A könyv tanúsága szerint a timpanon faragott domborművein a I. és II. Cillei Hermann grófok láthatóak a kisdedet tartó Madonna előtt térdepelve. A szentély falán Mária menybevitele látható 1813-ból M. Schiffer munkája, a barokk főoltár Jožef Straub keze munkáját dicséri a XVIII. századból.

A minorita rendházat a XIII. században alapították, többször átépítették, azonban 1808-ban I. Ferenc császár feloszlatta a rendet és a kolostor épületét fegyháznak építette át. Jelenleg a foglyoknak szentelt emlékműnek és a Legújabb Kori Történeti Múzeumnak ad otthont.