В 1898 году в Таганроге к 200-летнему юбилею города открылся Художественный музей, в организации которого активно принимал участие А.П.Чехов. В 1925 и 1926 годах экспозиция пополнился картинами Румянцевского музея. Таганрогский музей сильно пострадал во время ВОВ. Уцелели немецкие документы, свидетельствующие об утратах музея, - это служебная переписка 691-й пропагандистской танковой роты, которая непосредственно занималась ограблением музея.
В настоящее время в галерее представлены работы таких живописцев и графиков, как Ф.С.Рокотов, Н.Н.Ге, Н.Г.Чернецов, И.И.Шишкин, В.Ф.Стожаров, Н.П.Крымов, С.В.Малютин и многих других.