Os sedimentos que compõem os aqüíferos devem ser permeáveis e porosos, permitindo que a água se mova através deles. A água de um aqüífero é geralmente extremamente limpa, pois os sedimentos finos retêm partículas e bactérias, atuando como um filtro natural. Os sedimentos que tendem a formar os melhores aqüíferos incluem arenito, calcário, cascalho e, em alguns casos, rochas vulcânicas fraturadas.
Arenitos
Embora a areia seja muito porosa, uma vez compactada e cimentada na rocha, perde muito do seu espaço poroso. No entanto, a água subterrânea ainda pode ser transmitida através de articulações e fraturas. O arenito pode ser muito grande, pois as camadas de arenito podem se espalhar por áreas extensas. Muitos dos aqüíferos de arenito nos Estados Unidos estão embutidos no xisto e no siltito. Como resultado, a água nesses aquíferos é considerada em estado restrito, porque a rocha circundante é impermeável.
Calcário
O calcário é o tipo mais comum de aquífero carbonato-rocha. Muitos deles começam como depósitos em antigos ambientes marinhos, onde os sedimentos são litificados e compactados. As fissuras e articulações em calcário são geralmente feitas à medida que a rocha se dissolve lentamente em água ligeiramente ácida, deixando locais onde a água subterrânea flui. Às vezes, formam-se cavernas que retêm a água e se estendem por milhares de metros. Muitas vezes, as fendas e articulações em calcário formam uma rede de conexão, aumentando ainda mais o fluxo de água.
Gravel
O cascalho faz um bom aqüífero porque é extremamente permeável e poroso. Os grandes pedaços de sedimentos criam espaços porosos significativos pelos quais a água pode passar. Muitas vezes, o cascalho deve ser cercado por um tipo de solo menos permeável, como argila rica ou rocha impenetrável. Quando os cimentos de cascalho, no entanto, tornam-se conglomerados e perdem sua permeabilidade.
Rochas vulcânicas fraturadas
Em alguns casos, rochas vulcânicas fraturadas, como basaltos colunares, produzem bons aqüíferos. As zonas de escombros cercam os vulcões e consistem em partículas grandes, que, como cascalho, são muito porosas e permeáveis. A variação entre os sedimentos de rochas vulcânicas resulta em grande parte do tipo específico de sedimento e do modo como foi ejetado. Rochas piroclásticas têm alta permeabilidade e grandes poros. Fluxos basálticos são geralmente fluidos e possuem grandes poros que permitem a passagem da água.