Burg Petersberg wird heute vom sechsgeschoßigen Bergfried dominiert, der um 1200 erbaut worden war und nach teilweisem Verfall ab Ende des 19. Jahrhunderts restauriert wurde. In ihm befand sich ein monumentaler Kapellenraum (Rupertikapelle). Unmittelbar daneben befinden sich Reste eines noch älteren Kapellenbaus (Gebhards- bzw. Konradskapelle). Heute beherbergt der Bergfried das Stadtmuseum Friesach.