Vom einstigen Liebesnest des Grafen Friedrich II von Cilli und seiner jungen Auserwählten Veronika Deseniška sind heute nur noch die kahlen Ruinen auf einer der umliegenden Anhöhen der Stadt erhalten  - die Ruinen der Burg Friedrichstein.
Die Burg entstand vor langer Zeit im Jahre 1420, als Friederich die Region um Kočevje übernahm. In den Jahren 1422-1425 ließ er auf dem steilen Gipfel oberhalb von Kočevje, auf einem mächtigen Felsen, die Burganlage erbauen und nach sich benennen. In die Burg konnte man nur durch das Hauptburgtor gelangen, die anderen drei Seiten der Burganlage wurden durch hohe Steilfelsen geschützt. Der Eingang ins Innere der Burganlage war nur mittels der Zugbrücke über den künstlich angelegten Burggraben möglich. Auch ganz oben auf dem Gipfel war die Burg von mächtigen Wehrmauern umgeben.