Байковий цвинтар був відкритий в 1838 з ініціативи генерала Байкова (1772-1842), власника цих земель, з метою поховання осіб католицького та лютеранського віросповідання на відокремлених частинах. Дещо пізніше на ньому було дозволено ховати православних. Кожна частина мала свою каплицю. Цвинтар розділено вулицею Байковою на дві нерівні частини. Південна, мала частина – Старий Байковий цвинтар, північна, більша частина – Новий Байковий цвинтар, ховати на якому почали з 80-х років XIX століття. «Новий» цвинтар огороджений кам’яною стіною, вхідні ворота якої стилізовані під церкву, костел та кірху. 1884 року на його території збудували кам’яну Вознесенську церкву. На воротах стилізованих під костел уціліла частина напису “Beati mortui qui in Domino moriuntur” – це вірш з Одкровення апостола Іоанна Богослова (14: 13), в російському синодальному перекладі: «Блаженні мертві, що вмирають у Господі».