Die Lockergesteinsfüllung des Oberrheingrabens besteht aus den pliozänen bis unterpleistozänen, überwiegend feinklastischen Sedimenten der Iffezheim-Formation und den darüber folgenden jüngeren quartären Kiesen und Sanden. Diese wurden vom Rhein sowie seinen Nebenflüssen aus dem Schwarzwald und den Vogesen abgelagert.
Im südlichen Oberrheingraben wird die Iffezheim-Formation von der quartären Breisgau-Formation überlagert, darüber folgt die Neuenburg-Formation. Im mittleren Oberrheingraben besteht die quartäre Grabenfüllung über der Iffezheim-Formation ausschließlich aus der Ortenau-Formation. Im nördlichen Oberrheingraben folgt über der Iffezheim-Formation die Viernheim-Formation, die von der Ludwigshafen-Formation und der Mannheim-Formation überlagert wird.
Die Iffezheim-Formation besteht überwiegend aus kalkfreien, stark schluffig-tonigen, z. T. schwach kiesigen Sanden und Schluffen, stellenweise mit humosen Einlagerungen. Sie bildet im Süden des Oberrheingrabens die Sohlschicht des Lockergesteinsaquifers und wird von ebenfalls meist gering durchlässigen Sedimenten des Oberrheingraben-Tertiärs unterlagert. Nördlich von Karlsruhe besteht die Iffezheim-Formation aus einer Wechsellagerung von Sanden, Schluffen und Tonen. Sie bildet dort den Unteren Grundwasserleiter. Über der Iffezheim-Formation folgen Kiese und Sande, im Nordgraben zunehmend mit feinklastischen Einschaltungen. Diese können als hydraulische Trennschicht wirken (insbesondere die Ludwigshafen-Formation, früher: Oberer Zwischenhorizont).
Wegen der Nähe zu den Alpen als Liefergebiet überwiegen im Süden in den quartären Kiesen und Sanden die Komponenten alpinen Ursprungs. Weiter im Norden gewinnen die lokalen Komponenten aus den Vogesen, dem Schwarzwald und dem Odenwald an Bedeutung. Die Korngröße der alpinen Komponenten nimmt generell mit zunehmender Entfernung vom Hauptliefergebiet der Alpen von Süden nach Norden ab.
In den Tälern der Nebenflüsse des Rheins (z. B. Zartener Becken, Kinzigtal oder Schuttertal) bestehen die Schotter ausschließlich aus Schwarzwaldmaterial. Mit zunehmender Entfernung vom Grabenrand nimmt ihr Anteil zur Grabenmitte hin ab und es dominieren alpine Komponenten. Damit geht eine Zunahme der Durchlässigkeit der Schotter von den Grabenrändern zur Grabenmitte einher. Die Verzahnung zwischen den Lithofaziesbereichen fällt z. T. mit der Position von Störungen im präquartären Untergrund zusammen, so dass davon auszugehen ist, dass diese noch im Quartär wirksam waren.