Губкинский краеведческий музей создан в 1993 году на базе музея, организованного в 1962 году в составе НИИКМА им. Л.Д. Шевякова по инициативе руководства института.

В настоящее время музейное собрание насчитывает более 30 тысяч предметов. Заметная часть коллекций связана с историей открытия, исследования и промышленного освоения железорудных богатств КМА. Активно собираются материалы о природе края, фотографии, документы, орудия труда и предметы быта.

Коллекции музея стали основой для создания двух филиалов: Мемориально-культурного комплекса В.Ф. Раевского (1995 г.) и Музея истории КМА (2012 г.)