Историко-краеведческий музей «Крепость» был открыт 9 мая 1965 года, Это место - начало истории города Кисловодска. Музей расположен в самой старой части города, где 13 июня 1803 года заложили Крепость. Кисловодская крепость — единственное военное укрепление, в таком объеме, которое сохранилось на территории Северного Кавказа с середины 19 века: круглая башня, крепостные стены с бойницами, оружейные мастерские, ворота, казармы, арсенал. Сооружение входило в масштабную оборонительную линию, которая тянулась от реки Терек до Нижнего Дона. Сегодня внутри расположен историко-краеведческий музей.
Экспозиция музея рассказывает об отдельных этапах истории народов Северного Кавказа, различных исследованиях минеральных источников, в целом о развитии города Кисловодска, о роли казачества в становлении курорта. Посетители могут ознакомиться с выставками старинного оружия, монет, посуды; изучить фотографии и документы. Особого внимания заслуживают древние археологические находки, возраст некоторых реликвий насчитывает не одно тысячелетие. Большой раздел посвящен Кисловодску как одной из крупнейших госпитальных баз времен Великой Отечественной войны.
Территория у входа в музей тоже представляет интерес для туристов. Здесь, под открытым небом, выставлена военная техника, стоят колоритные каменные изваяния и даже образец первой нарзанной купели. Перед зданием музея был установлен памятный знак – каменная глыба из доломита, с надписью об основании Кисловодска 13 (25) июня 1803 года.
Помимо этого, у историко-краеведческого музея «Крепость» есть небольшой филиал – музей истории космонавтики имени Ф.А. Цандера, который расположен по адресу: г. Кисловодск, ул. Жуковского, 12.