Кладбище разделено Байковой улицей на две неравные части. Южная, малая часть — Старое Байково кладбище, северная, большая часть — Новое Байково кладбище, хоронить на котором начали с 80-х годов XIX века. «Новое» кладбище ограждено каменной стеной, входные ворота которой стилизованы под церковь, костёл и кирху. На территории Байкова кладбища находится около двадцати старых склепов. Все склепы разнообразной архитектуры. Их объединяет лишь внутреннее устройство: маленькая комната, куда заходили люди для поминовения усопших, и ограждённое решёткой подземелье, в котором находились гробы.