Am 15. März 1878 nahm die Stadt Gera die geologisch-mineralogische Sammlung des Geraer Schönfärbers Johann Christian Seydel (1827 - 1885) als Grundlage für ein Museum an. Im entsprechenden Katalog wurde sie mit der Nummer 1 und der Bemerkung „400 Mineralien und Versteinerungen aller Gebirgsarten um Gera“ verbucht. Diese Kollektion sollte in den folgenden Jahrzehnten durch Zugang weiterer Sammlungen erheblich erweitert werden. Leider sind heute nur noch sehr wenige Einzelstücke dieser Sammlung erhalten bzw. als solche identifizierbar.

1916 hinterließ der Apotheker Dr. Paul Friedrich Curt Schröder (1836 - 1916) dem Städtischen Museum im Rahmen einer Stiftung seine ca. 2000 Stück umfassende hochwertige Mineraliensammlung mit zahlreichen kleinformatigen, aber z. T. äußerst hochwertigen Mineralstufen diverser Fundorte. Ein Teil dieser Sammlung wurde im 2. Weltkrieg vernichtet. Zahlreiche erhaltene Stücke spielen jedoch bis heute eine Rolle in der Dauerausstellung „Das Einmaleins der Minerale“. Am 11. November 1920 wurde die Geologische Landessammlung in den Besitz des damaligen Städtischen Museums überführt.

Sie wurde 1858 von Fürst Heinrich XIV. von Reuß j. L. (1832 - 1913) begründet und als fürstliche Sammlung im Geraer Schloss Osterstein aufgebaut, bis sie am 5. Mai 1884 an das Gymnasium Rutheneum in Gera übertragen wurde, wo sie ab 1884 Prof. Dr. Karl Theodor Liebe (1828 - 1894) und ab 1894 Prof. Dr. Karl Gustav Löscher (1861 - 1937) betreuten. Als die Geologische Landessammlung im damaligen Städtischen aufgenommen wurde, waren bereits private Kollektionen durch Ankauf oder Schenkung Bestandteil der Geologischen Landessammlung wie z. B. die Sammlungen pleistozäner Kochen von Gustav Korn (1826 - 1887) und Dr. R. Schmidt (unbekannt) als auch die Fossiliensammlungen von Friedrich Eduard Mackroth (1807 - 1866), Ernst Friedrich Dinger (? - 1873), C. Hermann Rother (unbekannt) und Robert Eisel (1826 - 1917). Im Zeitraum zwischen 1945 - 1947 gelangte die Sammlung des Geraer Apothekers Karl Friedrich Gotthelf Zabel (1771 - 1847) an das Museum. Diese Sammlung enthielt vorwiegend Mineralien, sowie wenige Fossilien und Gesteine.

Im gleichen Zeitraum gelangte auch die alte Sammlung des Fürstlichen Gymnasiums Rutheneum in Gera an das Museum. Diese Sammlung enthält auch Dubletten des berühmten Geraer Fabrikanten und Mineraliensammlers Dr. Moritz Rudolph Ferber (1805 - 1875). Bedeutende Veränderungen der geologischen Sammlung erfolgten erneut nach der Wiedervereinigung Deutschlands, als z. B. 1992 ein Teil der Graptolithensammlung des Geraer Heimatforschers Rudolf Hundt (1889 - 1961) an das Museum gelangte. Vor allem erwarb das Museum  ab 1991 umfangreiche Bestände an internationalen und ostthüringischen Mineralien. Nach wie vor gelangen interessante Neuerwerbungen und zahlreiche Schenkungen hinzu. So wurden z. B. 2017 die Waschgold-Sammlung von Werner Grunewald (1944 - 2015) und 2018 die Kamsdorf-Mineral-Sammlung von Fritz Rüger (1938 - 2012) erworben.