Rexingen liegt im Gebiet des oberen und mittleren Muschelkalks. Dieses sehr wasserdurchlässige Grundgestein wird teilweise von tonigen Schichten durchzogen, die das Wasser ableiten und an den Hangkanten austreten lassen. So entsteht in der Tallage des Ortes eine umlaufende Quelllinie, an der zahlreiche Quellen austreten. Die geschützte Lage wie auch das Wasservorkommen waren maßgeblich für die Besiedelung dieses Tales. Diese Linie verläuft im Bereich der heutigen Osterhalde, der oberen Schafblumenhalde über die Straße Im Mitteldorf bis zur unteren Allmendstraße. Die Quellen wurden in Brunnen gefasst, so hatten viele Häuser, allen voran die landwirtschaftlichen Hofstellen ihre privaten Quellen und Brunnen. Daneben gibt es noch öffentliche Brunnen wie z. B. der Rosenbrunnen in der Lichtenbergstraße, der Tiefbrunnen (10 m) in der Allmendstraße. Andere Brunnenstandorte, wie der denkmalgeschützte Mitteldorfbrunnen, der Gaißgassenbrunnen in der Osterhalde oder Sonnenbrunnen an der Einmündung der Schöllerstraße in die Freudenstädter Straße werden über längere Zuleitungen von entfernt liegenden Quellen versorgt.

Diese Art der lokalen Wasserversorgung war bei der wachsenden Gemeinde weder qualitativ noch quantitativ ausreichend; andere Quellen, wie die Loch- und Seltenbrunnenquelle des Rexinger Bachs lieferten jedoch keine gleichmäßige, verlässliche Schüttung, da es sich hier um niederschlagsabhängige Karstquellen handelt. Eine gute Trinkwasserqualität bei starker Schüttung liefert hingegen der Katzenbrunnen unterhalb der Rexinger Markung bei Ihlingen. So wurde 1903 eine zentrale Wasserversorgung mit einem damals innovativen System eingerichtet. Der Schlossquellenbrunnen, der von den Quellen oberhalb der Kapfstraße gespeist wird wurde der Triebwasserleitung im Stollen oberhalb der katholischen Kirche zugeleitet. Das Wasser fließt von hier 83 Höhenmeter nach Ihlingen ins Tal, wo es im Pumpwerk eine Turbine antreibt, die das zugeleitete Wasser aus dem Katzenbrunnen nach Rexingen beförderte. An diese Druckleitung wurden alle Häuser des Ortes direkt angeschlossen, einen Druckausgleichsspeicher gab es anfangs nicht.

Heute ist Rexingen an die Wasserversorgung Kleine Kinzig angeschlossen. Die alte Turbine im Pumpwerk liefert nunmehr Strom. Viele der alten Brunnen sind heute noch intakt und bereichern das Dorfbild.