Село Ръсовци се намира на левия бряг на река Височица. На 5 минути разходка край река Височица, в центъра на селото, в подножието на хълма Калик, са намира изключително интересната пещерна църква "Свети Петър и Павел" от 13 век. В нея можете да видите уникална за православния свят фреска, на която Исус Христос е изобразен като плешив младеж. Църквата е обявена за паметник на културата през 1981 година.