Его основателем считается Михаил Трунов, который в 1909-м году открыл Музей библиотечного и архивного дела. В 1918-м году выставка была национализировано – ее превратили в Народный музей с отделом революции.
В 1959-м в стенах музея открылась постоянная экспозиция, посвященная истории Липецка и Липецкой области. Любопытно, что в то время музей размещался в Христорожденственском соборе, и лишь в 1991-м году переехал в здание бывшего Политпросвета.
Наибольший интерес для туристов представляет художественная часть музея, в которой представлены картины Маковского, Айвазовского, Васнецова, Леонида Пастернака (отца Бориса Пастернака). Время от времени здесь проходят выездные выставки Эрмитажа. У Липецкого областного краеведческого музея в городе действует филиал – Дом-Музей Плеханова.