Krasicki, jako wielki miłośnik ogrodów uprawiał je z pasją. Wokół Oranżerii rozbudowano park, nazwany Krasiczynem (posiadłości rodowe Krasickich), który zdobiły sztuczne kaskady, posągi, promenady, symboliczne nagrobki wybitnych mężów. Sadzono najrozmaitsze gatunki drzew, a wśród kwiatów, często unikatowych królowały róże. Podczas przejazdowej wizyty w Heilsbergu w 1773 roku carewicz Paweł I Romanow (przyszły imperator Rosji) był tak urzeczony ogrodami Krasickiego, że zabiegał o ich plany, aby takie same złożyć w Carskim Siole – siedzibie carów w Sankt Petersburgu. Ogrody Krasickiego były opiewane w listach. Powstawały i nich nawet wiersze. Joahim Kalanassy, kanonik warmiński, w wierszu Na ogrody zamku Heilsberskiego pisał:
„Umiał w kształceniu przydać dozoru,
Dzikość zostawić ponurą,
Umiał korzystać z miejsca wyboru,
Sztukę połączyć z naturą.”
Obecnie w Oranżerii swoją siedzibę ma Miejska Biblioteka Pedagogiczna, która jest również miejscem kulturotwórczym z bogatą ofertą spotkań, koncertów czy warsztatów. W ramach działalności Oranżerii organizowane są wycieczki po dawnych ogrodach, jak również po Lidzbarku Warmińskim. Oranżeria Kultury swoją siedzibę ma przy ul. Krasickiego.
