Музей открыт в 1986 году к 100-летию со дня рождения Габдуллы Тукая, великого татарского поэта, чьи произведения вошли в золотой фонд татарской поэзии и мировой культуры.

Музей находится в одном из красивейших зданий Старотатарской слободы Казани в двухэтажном особняке конца XIX века (проект арх. Г.Б. Руша и Ф. И. Амлонга) — так называемом «доме Шамиля», где в 1882–1906 гг. жил со своей семьей Мухаммадшафи Шамиль — средний сын имама Шамиля, руководителя народно-освободительного движения Дагестана.

Со дня своего открытия музей является не только объединяющим центром любителей творчества великого татарского поэта Габдуллы Тукая, но и культурным центром, аккумулирующим в своих стенах творческую энергию, знакомящим посетителей с творчеством деятелей современного татарского искусства и культуры. В Литературном музее Габдуллы Тукая часто проводятся литературно-музыкальные вечера, концерты, лекции, встречи и вечера памяти.