Дерев'яне прямокутна в плані будівля являє собою так званий «терем-теремок», в 1913 р служив виставковим павільйоном першої сільськогосподарської і промислової виставки Семиріччя. За радянських часів тут проходили партійні, господарські та радянські з'їзди, концертна діяльність і різні міські заходи. У воєнні роки тут виступали творчі колективи з евакуйованих на той момент часу радянських театрів - сатири, оперети, музичної комедії за участю Н. Рубан, А.Райкіна і Р. Зеленій.
У 1980 р в приміщенні була проведена реставрація, після чого воно було передано музею. В даний час цей зразок дерев'яного зодчества є архітектурним та історичним пам'ятником міста Алмати. Алматинський музей носить ім'я легендарного класика кобизовой музики - Ихласа Дукенова.
На сьогоднішній день в музеї діє сім експозиційних залів: зал меморіальних музичних інструментів, зал струнних інструментів, зал інструментів народів світу, зал духових та ударно-шумових інструментів, зал археології, концертний зал і зал для тимчасових виставок і презентацій.
У фондах музею налічується понад однієї тисячі експонатів, велика частина з яких була зібрана Б. Сарібаевим. У музейній експозиції представлено 60 різних видів казахських народних музичних інструментів, які колись використовувалися видатними співаками-імпровізаторами - Абаем, Джамбула, Курмангази.
Крім того, в Республіканському музеї музичних інструментів відкрита Майстерня ремісника, де кожен відвідувач зможе наочно побачити технологію виробництва національних інструментів.