在距今2亿年前的三叠纪末期，也就是恐龙时代的初期。华北板块与华南板块相撞、拼合，导致华南板块褶皱成山，宁镇山脉(南京至镇江一带的山)就是那个时候形成的。接着，在距今1.5亿年至1亿年间，由于太平洋板块与欧、亚板块相撞，致使我国东部的地幔层岩浆大规模地顺着地壳的薄弱带侵入地表，有的还喷出地表形成了大片火山岩，如浙江和江苏南部等地的流纹岩、安山岩等。有的未喷出的岩浆就在地表内形成了大面积的花岗岩，如福建、江苏和安徽南部等地。由于这次上升的是中酸性岩浆，其成份中含的二氧化硅高达60％～70％，所以在岩浆后期所形成的热水液中含有大量的二氧化硅，都流进了岩石裂缝和岩洞中。由于迅速冷却，二氧化硅就以胶体形式(不结晶)一层层凝固起来，最终形成了玛瑙石。热水液中含有少量铁质(易形成红色)、铜(蓝色、绿色)、锰(紫色)等，所以每一层在凝固时就会因所含的金属成分和分量不同而形成不同颜色，这就是玛瑙石每层颜色不同的缘故。含硅热水液渗入地层和化石中，就会形成不同颜色的硅化岩石和化石。

形成玛瑙石、硅化岩石及化石的时间，都是在距今1亿年前后。这些玛瑙石和硅化岩石及化石，经阳光、雨水等照射和浸蚀后，裂成许多小块。在距今2千多万年前后，由于宁镇山脉上升，自然力的作用加快，这些小块的玛瑙石、化石等就被流水从山上带至低凹的河流中。随着岁月的流逝，这些静静地躺在河流中的玛瑙石、化石，由于受到水不断地冲刷而形成了卵石。后来，这些卵石集中沉积在一起，就成了雨花台砾石层。雨花台砾石层分布在南京市和仪征县的长江两岸地区，厚度在12米以上。砾石层形成于两干万年前，多未胶结成岩，开采极方便。当然，要在成堆的砾石里寻找珍品也不容易。

岩浆后期的热水液由地壳深处上升，通过复杂的地球化学反应，改变了地表不同地层和化石的成分、结构等特征，所以雨花石中的化石可以来自寒武纪，也可以采自岩浆活动之前的侏罗纪。古生物学家发现，绝大部分雨花石中的化石形成于二叠纪。尽管二叠纪地层之上还有三叠纪和早侏罗纪，但这些地层中化石极少。在南京地区，二叠纪地层大致可分上下两部分：下部为浅海形成的灰岩，这一地层中的化石都是浅海生物，如珊瑚、螺、蚌壳、海绵、海百合、钙藻、蓝藻等等。而上部主要为砂岩和煤系地层，故地层中产有辉木等植物。尽管二叠纪地层之下有石炭纪等地层，有的地层中化石也很多，但由于它们所在的位置都在地表较深处，上升的热水液光顾它们机会就少得多。当然，地质情况是极其复杂的，也可能还会有别的原因。

雨花石中的化石形成几率比形成玛瑙石小得多，所以弥足珍贵。

在2006年第一期的《雨花石专报》上，南宁、马鸿斌等先生撰文呼吁，雨花石文化应申报非物质文化遗产名录。他们认为，从南京北阴阳营出土的、距今5000年的雨花石，体现了原始宗教、原始审美和社会功利等意识和价值，而且这些价值非但没有因年代久远而衰减，而且历久弥新、经久不衰。而且，根据“扎根于相关的文化传统、世代相传，具有鲜明的地方特色和具有见证中华民族文化传统的独特价值”的标准，南京雨花石应申请成为中国和联合国非物质文化遗产名录的赏石项目。形成玛瑙石或者地层以及化石被硅化，并不罕见，但能形成像南京地区如此大量、如此美丽的雨花石(砾石)，雨花石中还偶尔含有如此漂亮的化石，这在世界上恐怕是绝无仅有的，这是大自然赐给我们的一大财富。而且，雨花石作为一种与中华民族的文化传统息息相关的赏石文化，延续了长达5000年的时间，也是举世无双的。希望有关方面对这个问题给予重视，更祝愿南京雨花石能早日进入中国和联合国文化遗产名录。