Первые демонстрационные коллекции минералов и горных пород Ильменского заповедника начали формироваться в 1925 году, экспонировались они в краеведческом музее г. Миасса. В 1931 году они были переведены на центральную базу Заповедника и размещены на верандах жилых домов. В 1936 году на центральной базе Заповедника для музея было построено специальное здание, в котором он располагался до 1985 года. Здание было деревянным и неотапливаемым, поэтому музей работал только в летнее время, принимая тем не менее до 30 тысяч посетителей в год. В трех залах общей площадью около 350 кв.м. размещалось 1500 экспонатов.

В 1984 году по индивидуальному проекту построено новое современное здание музея, которое было открыто для посетителей в 1990 году. Оформление залов осуществлялось по единому проекту (автор Зеленков Л. В.) художниками Ленинградского комбината живописно-оформительского искусства.