Госпитальное укрепление киевской крепости это полуподземное сооружение с толстыми стенами из кирпича и камня. В стенах прорезаны амбразуры и бойницы, а по периметру капонира, на валах, расположены пушки. Спроектированная хитроумным образом крепость считалась неприступной.

В 1830 году был утвержден план расширения Киевской крепости. Он предусматривал строительство Госпитального укрепления, которые было возведено в 1844 году. В состав Госпитального укрепления входит оборонительное сооружение «Косой капонир». Название связано с тем что для удобства ведения артиллерийского флангового огня Косой капонир расположен под углом к земляному валу крепости. Наземная часть Косого капонира выходила на склоны Черепановой горы. Сперва он использовался для хранения оружия и артиллерийских запасов.

В начале 60-х годов 19 столетия капонир был превращён в политическую тюрьму. Бойницы для ружей и пушек были превращены в окна с решетками, а помещения для солдат и оружия — в камеры и карцеры. За жестокий режим эту тюрьму называли «Киевским Шлиссельбургом» — заключенным не разрешалось даже разговаривать друг с другом, за нарушения режима сажали в карцер, в котором за время существования тюрьмы, умерло около десятка человек. Толстые стены капонира и его полуподвальное расположение сыграли свою роль — ни одному из заключенных не удалось бежать.

Первыми узниками Косого капонира были участники польского восстания 1863 года. У крепостной стены были расстреляны командиры польских повстанческих отрядов — на этом месте позже установили памятный крест.