Неподалеку от реки Ольховка, у подножья одной красивой горы, на территории Кисловодского парка, был построен маленький каменный мостик, который получил название «Дамский каприз». До его постройки местные жители с трудом перебирались через речку Ольховка. В реке было множество больших камней, по которым можно было перейти. Однажды к этому месту подошла группа отдыхающих, и одна дама закапризничала. Пришлось кавалеру на руках перенести ее на другой берег. Галантный кавалер обещал даме построить мостик. Так и появилось ажурное сооружение над рекой Ольховкой и мостик “Дамский каприз”, а за ним уютный каменный грот для романтических курортных свиданий.
Первый мост имел простую конструкцию. Длиной шесть с половиной метров, однопролетный, одним краем лежащий на стене правого, восточного берега Ольховки, а к западному краю была приделана лестница. Он был выкрашен в белый цвет и имел резную балюстраду. Автором первого проекта, вероятно, был главный, на тот момент, архитектор Вод Яков Григорьевич Лукашев, который занимал эту должность с 1891 года.
За всё время своего существования мост около пяти раз менял свой внешний вид из-за наводнений и ветхости отдельных частей конструкции. Спустя несколько лет после первоначальной постройки была заменена лестница, а затем и резная балюстрада. В 1920-е годы деревянный мостик был построен заново в очень упрощенном виде. Так он просуществовал до Великой Отечественной войны. После её окончания, примерно в 1950 году, был сооружен капитальный одноарочный мост с металлической конструкцией и бетонной лестницей, однако уже в 1960 году он был снова перестроен. Были сделаны новые каменные устои и ажурные ограды. Именно тогда появился небольшой грот со скамьёй. Из-за наводнений мост периодически разрушался. Последняя перестройка моста произведена в 2016 году.
