1981年8月24日至26日，原建筑材料工业部在北京召开了中国砂石协会成立大会。参加会议的有福建、江苏、玩滚球的十大平台、山东、河北、辽宁、广东等七个省的代表共30多人。

　　原建筑材料工业部杜春永副部长主持了会议，对协会的宗旨、章程和任务等作了明确的指示，指出了成立协会的必要性，勉励与会同志为发展砂石生产、扩大出口，为国家创造外汇作出贡献。

　　当时成立中国砂石协会的目的，是为了促进中日两国砂石工业的技术交流往来，便于与日本“砂利协会”对口开展工作。在当时国家外汇资金不足的情况下，扩大出口，与外资合作开发，组织小量天然砂石出口应是一个好的创汇方式，当年全国砂石产量约在4亿多吨。

　　1981年9月21日，原建筑材料工业部以“建材出字722号文件”向国家进出口委员会、国家经委呈报了中国砂石协会成立函及协会章程和理事会人选备案名单。中国砂石协会宣告成立。

　　1981年中国砂石协会在有关部门的备案名称是“中国砂石协会”。随着社团组织管理的变革，1985年中国建筑材料工业协会成立，1986年做为建材专业协会之一，中国砂石协会改称为“中国建筑材料工业协会砂石协会”。1991年11月，国家建筑材料工业局建材人事发【1991】585号“玩滚球的十大平台：同意中国砂石协会登记的批文”文件同意到民政部登记注册。当时根据国务院办发【1990】32号文件和民政部民社函【1991】71号文件精神，按《社会团体登记管理条例》的有关规定，到民政部办理了登记手续，经国家建材局同意，民政部批准注册(社证字第1098号)协会重新更名为“中国砂石协会”。

　　2000年1月31日，经民政部重新批准并颁发了新的社会团体法人登记证书，协会注册登记号为社证字第4197号。