Една от представителните сгради, без която Видин не би бил същият, е двуетажната постройка на музей „Кръстата казарма“ – паметник на архитектурата от османската епоха. Построена е през 1801 година. Строена е от полски и френски инженери. Построена е във формата на кръст, с площ е 1260 кв. м., на два етажа, по време на управлението на Осман Пазвантоглу. Предназначението й първоначално е за казарма. На нейно място преди това се намира градината на Стария сарай (Двореца на пашата). Покрит дървен мост я свързва с построената в съседство оръжейна работилница. След Освобождението служи за съд и за казарма на българската войска. В двора е била построена часовникова кула, но постройката не е запазена. Форма на правилен геометричен кръст прави сградата уникална и поради това е обявена за паметник на културата от местно значение. Стените в приземния и горния етаж са изградени от камък и тухли. Обособени са 4 почти самостоятелни вътрешни двора.
През 1965 – 1967 година сградата е реставрирана и приспособена за музей. От 1969 година в сградата е уредена етнографска експозиция, представяща традиционната култура на населението от Видинска област от края на XIX век Кръстата казарма отново е реставрирана и укрепена по проект на стойност 1,5 млн. лв., финансиран главно от ЕС, като ремонтните дейности са завършени в началото на 2013 година.
