历史上寿山石开采始于什么时候，至今未有定论。此事说来话长，得由福州出土南朝“石猪”说起。

1954年，在福州仓前福建师范学院桃花山工地，发掘了一座南朝墓葬，出土的殉葬品中，发现有石猪一件，高1.1厘米，长6.4厘米，作平地卧伏状，系用寿山石中的老岭石雕刻的，型制简易粗犷。在此后的数年中，又从福州各处的15座六朝墓葬中，陆续出土一批此类的“石猪”。到了1965年，更在发掘北郊二凤山工地一座古墓中出土了同类的“石猪”一对，同时出土的还有刻上“元嘉二十二年乙酉”字样的纪年墓砖若干。“元嘉”为南北朝时宋文帝的年号，“二十二年乙酉”为公元455年。由此可见福州寿山石的开采至少有1500年以上的历史了。
但是，也有的研究寿山石的学者认为寿山石的雕刻史在1500年以上的论断可以成立，但开采史上限定于南朝，证据尚不足。理由是老岭石是寿山石中一种劣质石，分布面广，且有多处裸露于地层表面，拣拾一些剥离石块进行雕刻是轻而易举的事，不能算作有目的开采。而坚持寿山石开采始于南朝的学者则认为：福州发掘的十余座南墓葬，均有小石猪出土，这说明以寿山石小猪为殉葬品已是南朝的一种普遍习俗；开采老岭石（即使表现为“拣拾”）以应雕刻殉葬品的需要，已成为一种有目的的行为。“拣拾”是开采的最初形式，必然要发展采掘，如深洞开掘等。在以上两种意见之争尚未有结论之时，又有一件寿山石翁仲俑，从福州古墓中出土，石材也是老岭石，形制与汉代的玉雕翁仲一样，一些考古学者推测为汉代的遗物。如果这个推测能得到证实，那么福州寿山石的开采史和雕刻史的年代上限，又将大大地向前推移。

历史上寿山石开采有文字可考的最早始于南宋。成书于宋淳熙九年（1182）的梁克家《三山志》记载：“寿山（在）稷下时里……寿山石洁净如玉，大者可一二尺，柔而易攻，盖珉类也。五花石坑，相距十余里，红者、绀者、紫者，惟艾绿者难得。”编纂于宋理宗年间（1225—1264的《方舆胜览》，将寿山石列为福州的著名土产，与荔枝、素馨、茉莉、海盐一并介绍。再就是朱熹的女婿、南宋著名文人黄干，有七绝《寿山》一首，诗云；“石为文多招斧凿，寺因野烧转荧煌。世间荣辱不足较，日暮天寒山路长。”这些宋时的文字，记载了同时代的寿山石开采的情况，极为可信。到了后代，一些文献更记录了宋时的开坑、造器等盛况。如清代高兆《观石录》有“长老云：‘宋时故有坑，官取造器，居民苦之，辇致巨石塞其坑，乃罢贡。’”毛奇龄的《后观石录》亦云：“宋时故有坑，以采取病民，县官辇巨石塞之。”前后两册观石录讲的是同一件事，但细察起来，含意略有不同：前者说了开采寿山石中的官民矛盾，是民辇巨石塞了坑；后者说的是上下层官僚的冲突，即上方开坑取石，县官辇石填坑。但两说都肯定了宋时寿山石开采的盛况。只是到了南宋后期，由于石工和地方官员的抵制，寿山石开采才显得冷落。清康熙朱竹宅的《寿山石歌》说：“南度以后长封缄”，就是这个意思。福州宋墓出土的随葬石俑颇颇多，石村除老岭石外，还有紫覃石、高山石，甚至有牛角冻、月尾、艾叶绿等上品；形制高大，有的石俑高竟达40厘米。实际情况也证明了宋朝曾出现寿山石开采的高潮。

元明之时，已不是官家组织的大规模采石活动，但寿山农民的耕余采集寿山石仍无断歇。珍贵的田黄石就是在明时被发现的。清代施鸿宝的《闽都记》曾云：“明末时有担谷入城者，以黄石压一边，曹节愍公（曹学全）见而奇赏之，遂著于时。”

到了清初，由于国家的统一和商贾、权势者的介入，寿山石的开采又出现历史上的一个高潮。先是民间的采掘，《后观石录》记载：“康熙戊申，闽县陈公子越山（名日浴，字磐，故黄门子），忽赍粮山中，得妙石最夥，载至京师售十金。每石两辄估其等差，而数倍其值，甚有直至十倍者。”此时靖南耿精忠镇福州，对于寿山石的索取，表现为掠夺性、破坏性的开采。“强藩力取如输攻……日役万指佣千工。掘田田尽废，凿山山为空，昆岗火连三月烽，玉石俱碎污其宫。”（见清查慎行《寿山石歌》）后来耿精忠叛清，清朝派了康亲王杰书率兵入闽平叛，八闽一时成了杰书的天下。此人及其部属，对寿山石的追求，比耿精忠毫无逊色。《后观石录》云：“自康亲王恢闽以来，凡将军督抚，下至游宦兹土者，争相寻觅。……于是山为之空。”“凿山博取，而石之精者（随之）出焉。”石的品种空前丰富起来。“石有类玉者、珀者，玻璃、玳瑁、朱砂、玛瑙、犀若像焉者。其为色不同，五色之中，深浅殊姿。”（见清卞二济《寿山石记》）寿山石的品种在前后观石录中记述已有数十种。清代福州学者郭柏苍在其《葭跗墓堂集》和《闽产录异》中列举了在清中叶嘉庆年间，其亲见的寿山石品种亦达20余种。但到了晚清，寿山石的开采又消歇下去。

民国期间，寿山石的开采逐渐复苏。据有关资料记载：1917年，寿山一年出产雕刻用石3000斤，品种有40余种，采掘坑洞达140余处。但是自抗战爆发后，寿山石的开采一落千丈。这种情况一直延续到新中国成立之后。进入本世纪80年代，国家实行改革开放政策，寿山石名闻海外，石价跃升，高过了以前的几十几百倍，开采超过了历史上任何一次的采石热潮。最兴旺时，全乡除了老幼外，所有男女都上山采石，出产品种已达百来种。断产许久的芙蓉石又恢复出石了，还出现了寿山石开史上从未有过的上等好石荔枝洞等。这时又一次掀起了挖田黄热，而且给村民带来了很好的经济效益，乡村出现了一片繁荣兴旺的好景象。正如金石家潘主兰先生所言：“往时尚见竹篱茅舍，今已高楼广厦，美轮美奂遍一村。玉宇风清，石得时愈显。”