Auf dem Lavanter Kirchbichl befinden sich die Reste einer frühchristlichen Bischofskirche, Ausgrabungen einer spätantiken Höhensiedlung, die Pfarr- und Wallfahrtskirche St. Ulrich, die Peter und Paulkirche sowie die Reste einer mittelalterlichen Tor- und Burganlage. Der Weg vom Dorfende bis zur „oberen“ Peter und Paulkirche wird von 17 Bildstöcken gesäumt, die den seit 1744 bestehenden Kreuzweg bilden. Am Fuße des Kirchbichls befinden sich das 1982 renovierte Widum und die 1991 erbaute Aufbahrungshalle, in deren Untergeschoß sich seit dem Jahre 1996 ein Museumsraum mit einer Antikensammlung befindet.

Westlich der Pfarr- und Wallfahrtskirche St. Ulrich befinden sich die beachtlichen Reste der ab 1949 von Franz Miltner freigelegten so genannten frühchristlichen Bischofskirche. Die Kirche wurde vermutlich schon im 4. Jh. oder frühen 5. Jh. n. Chr. erbaut. Sie wurde mehrfach um- und ausgebaut. Die Kirche bestand aus einer Gemeindekirche mit Priesterbank und Altar sowie einer Taufkapelle im Westen. Im Osten wurde eine 2. Kirche angebaut, in der besondere Reliquien verehrt worden sind. Die Bischofskirche war prächtig ausgestattet mit Marmorsäulen und diversen anderen Bauteilen aus Marmor. Im südöstlichen Teil der Ausgrabungen sieht man einen großen und mehrere kleine Felsbrocken. Diese waren der Grund, dass vermutlich um 600 die Kirche und mit ihr die Siedlung zerstört wurde.