Находится в особняке Фёдора Трещенко, построенного в 1878 году архитектором Владимиром Николаевым. Был основан в 1922 году на базе национализированных частных собраний, основу составила коллекция семьи Терещенко. В 1934 году галерея получила статус музея.