泥沙状肾结石的形成与常规结石类似。从机理上说，结石都是从肾脏内、尿液里的一些有形成分沉积下来，类似于过饱和糖水形成的沉积。若同时泌尿系统内合并细菌感染，或出血性病变等其他异常情况，会加速有形物质的沉积。

物质沉积后呈现出的性状，主要由有形成分中的含钙量以及其物理特性、化学特性等有关。若有形成分黏度及含钙量较高，可能较容易形成单块坚硬的结石；若黏度较低，难以凝聚，则可能表现为泥沙状结石。