Первые липы вдоль прогулочной аллеи высадили военные Кисловодской крепости в 1823 году. И разбили цветник близ источника Нарзан. Затем по приказу генерала Ермолова начались работы по обустройству парка. Стали сажать деревья по обоим берегам реки Ольховки. Именовали парк «казенным садом», даже бульваром. В отчетах того времени писали, что сад имел 550 погонных саженей и что «в оном каменный грот и пять мостиков».
В этом же году над источником, где сейчас Лермонтовская площадка, была построена ресторация с обширным залом для танцев, балов и помещениями для приезжающих.
М.Ю. Лермонтов в 1837 г. увидел уже довольно разросшийся парк. В повести «Княжна Мери» он поэтично описывает его: «Здесь все дышит уединением, здесь все таинственно – и густые сени липовых аллей, склоняющихся над потоком, который с шумом и пеною, падая с плиты на плиту, прорезывает себе путь между зеленеющими горами, и ущелья, полные мглою и молчанием, которых ветви разбегаются отсюда во все стороны, и свежесть ароматического воздуха, отягощенного испарениями высоких южных трав и белой акации, и постоянный, сладостно усыпительный шум студеных ручьев, которые, встретясь в конце долины, бегут дружно взапуски и наконец кидаются в Подкумок».
В середине XIX века для парка доставляют саженцы и семена из Никитского и Тифлисского садов. В это время была оформлена и Долина роз. К концу XIX века парк расширили за счет посадок на Сосновой горке.
В горной части парка посадки проводили уже в советское время. Сегодня здесь собраны несколько сот различных видов деревьев и кустарников: северные кедры, пихты, сосны, лиственницы и березы соседствуют с флорой юга - сопфорой японской, вечнозеленой магнолией, буксусом, пробковым деревом, спиреей.
