早在石器時代,人類就已知道利用多種礦物如石英、蛋白石等製作工具和飾物,以後又逐漸認識了金、銀、銅、鐵等若干金屬及其礦石,從而過渡到銅器和鐵器時代。在中國成書於戰國至西漢初的《山海經》,記述了多種礦物、岩石和礦石的名稱,有些名稱如雄黃、金、銀、堊、玉等沿用至今。
古希臘學者亞里士多德把同金屬相似的礦物歸為「似金屬類」,他的學生泰奧弗拉斯托斯在其《石頭論》中把礦物分成金屬、石頭和土三類。在這以後的一段時間裡,特別是歐洲中世紀,中國西漢中期,在礦物方面只有個別的記述,沒有明顯進展。
到了18、19世紀,礦物的研究得到了多方面進展,逐步建立起理論基礎,豐富了研究內容和研究方法,形成了一門學科。16世紀中葉阿格裡科拉較詳細地描述了礦物的形態、顏色、光澤、透明度、硬度、解理、味、嗅等特徵,並把礦物與岩石區別開來。
中國李時珍在成書於1578年的《本草綱目》中描述了38種藥用礦物,說明了它們的形態、性質、鑒定特徵和用途。瑞典的貝采利烏斯作了大量的礦物化學成分鑒定,採用了化學式,並據此進行了礦物分類。德國化學家米切利希提出了類質同象與同質多象概念,出現了礦物學研究的化學學派。
產生於這一時期的礦物學的另一學派是結晶學派。他們在幾何結晶學及晶體結構幾何理論方面獲得了巨大的成就。此外,索比於1857年製成顯微鏡的偏光裝置,推進了礦物的鑒定和研究。這一方法至今被沿用和發展著。
1912年德國學者勞厄成功地進行了晶體對X射線衍射的實驗,從而使晶體結構的測定成為可能,並導致礦物學研究從宏觀進入到微觀的新階段。大量礦物晶體結構被揭示,建立了以成分、結構為依據的礦物的晶體化學分類。
20
世紀中期以來,固體物理、量子化學理論以及波譜、電子顯微分析等微區、微量分析技術被引入,使礦物學獲得了新進展,建立了礦物物理學。礦物原料和礦物材料得到更廣泛的開發。開展了礦物的人工合成,高溫、高壓實驗和天然成礦作用模擬。礦物學、物理化學和地質作用的研究相結合的分支學科成因礦物學和找礦礦物學逐步形成,使礦物學在礦物資源的尋找與開發方面獲得了更廣泛的應用。