Историко-краеведческий музей Кельбаджарского района начал свою деятельность в 1979 году в городе Кельбаджар, в отдельном здании, расположенном по улице Молла Вели Видади и украшенном красивой каменной мозаикой. Здание музея с двором площадью в 900 кв.м состояло из одного коридора, трех кабинетов и девяти демонстрационных залов. В музее также хранился фонд, состоявший из более чем 30 тысяч экспонатов.
Из сокровищницы природных камней региона в музее были собраны образцы 10 тысяч оттенков. Наружные стены музея, называемого геологическим, археологическим и акустическим музеем, украшали камни более 2000 оттенков, словно вступая в синтез с окружающим миром. Это был единственный музей в мире, где выставлялись образцы всех горных пород, имеющихся на территории района. Здесь привлекали внимание образцы деревьев и растений, наскальные рисунки, каменные надгробные статуи баранов и лошадей, огромные колесообразные каменные глыбы и другие каменные образцы, обнаруженные в ходе раскопок многочисленные культурно-бытовые предметы. В столь богатом экспонатами музее действовала библиотека, книжный фонд которого составлял почти 10 тысяч книг.
В этом музее были собраны записанные на магнитофонные ленты голоса многих известных личностей. Здесь можно было прослушать ленты с записями голосов народного поэта Самеда Вургуна, академика Мирали Гашгая, видных писателей Сулеймана Рустама и Али Велиева, известного научного деятеля Худу Мамедова, критика-литературоведа Гасыма Гасымзаде и Гулу Халилова, а также многих других.
В музее хранилась фотография той самой кельбаджарки — Гюляндам ханум, скончавшейся в 1986 году в возрасте 147 лет, которая в свое время сочинила стихотворение об ашуге Алескере, а также лично ею сотканные более ста ковриков «гябя» и «килим».
В свое время побывавший в Кельбаджаре член-корреспондент АН бывшего СССР Алексей Макарушев, сказал о музее: «Это единственный на свете музей, где так терпеливо собирались все виды горных пород».
В музее демонстрировались макет известной крепости «Лёк», находящейся в направлении Ганлыкенда, чучела многих животных, обитающих в горах Кельбаджара, обнаруженные на песчаных берегах реки Тертер окаменелые останки улиток возрастом 150 миллионов лет, относящиеся к периоду первобытнообщинного строя стрелы, ножи, топоры, железные наконечники копий и т.п.
К сожалению, отличающееся своей уникальностью в регионе здание музея было разрушено армянскими вооруженными формированиями при оккупации Кельбаджарского района в 1992 году, а свыше 30 тысяч музейных экспонатов были перевезены в Армению.
После оккупации историко-краеведческий музей был организован в городе Баку, в комнате площадью в 42 кв.м, расположенной по адресу: проспект Гейдара Алиева 8. В настоящее время благодаря самоотверженности сотрудников музея, без затраты каких-либо государственных средств, в фонде музея были собраны 5,665 экспонатов. Экспонаты разделяются по нижеследующим категориям:
Росписи (493)
Графика (2)
Скульптура (44)
Изделия прикладного искусства (175)
Археологические предметы (136)
Бытовые и этнографические предметы (214)
Фотографии (1832)
Документы (264) и др.
Сейчас в музее трудятся 13 работников.
Сегодня в числе экспонируемых в музее экспонатов также имеются древняя медная посуда, предметы ткачества, ковры, фармаш (ковровый мешок), мешок для переноса соли, подвеска, вышивки на тканях, самоцветы Кельбаджара, фотоснимки Музея памяти шехидов, фотографии старожилов, проживших больше ста лет, выжженные на дереве портреты, большие картины, отражающие обычаи и традиции.
Первым директором Кельбаджарского историко-краеведческого музея был известный поэт Шамиль Аскер Делидаг.
В настоящее время эту должность занимает сын поэта Барзани Аскеров.