Цитаделата е построена от Хабсбургите през 1851 година като символ на контрола и превъзходството на Хабсбургите над унгарците. Хълмът Гелерт е стратегическо място за наблюдение на двата града - Буда и Пеща. Цитаделата е била оборудвана с 60 оръдия и се е използвала по-скоро като заплаха отколкото като функционираща крепост. След разпадането на Австро-Унгария унгарците пожелали да разрушат цитаделата, но вместо това в средата на 20 век тя е превърната в туристически център. От многобройните тераси се открива невероятна панорамна гледка към града.