История музея берет свое начало от создания художественного отдела Центрального музея Тавриды. В 1937 году отделу был присвоен статус картинной галереи, а в 1966 году она получила свое нынешнее название.

Музей разместился в здании бывшего офицерского собрания, памятнике архитектуры начала ХХ века. Истории здания посвящен раздел экспозиции «Музей 51-го пехотного Литовского полка».

Довоенная коллекция музея состояла из произведений искусства, изъятых после революции из дворцов и усадеб на территории Крыма. В годы Великой Отечественной войны она была утрачена.

Послевоенный период — это новый отсчет в истории музея и качественно новый принцип формирования коллекции.

Классическую ее часть пополнили крупнейшие музеи СССР, предоставившие произведения русского и зарубежного искусства XVI–XX веков, научный коллектив сформировал крымскую коллекцию в фондах музея.

В настоящее время Симферопольский художественный музей хранит более 9 000 экспонатов и является классической музейной коллекцией отечественного и зарубежного искусства.