Schwarz wurde in Heilbronn als Sohn des Kaufmanns Josef Schwarz geboren. Nach seinem Abitur macht er eine Ausbildung im väterlichen Betrieb. 1962 erhielt er Prokura und wurde ein Jahr später persönlich haftender Gesellschafter der Lidl & Schwarz KG, einem Handels- und Fruchthof. Weil der Name „Schwarz-Markt“ keine Option war, taufte er das Geschäft auf den Namen des früheren Partners „Lidl“. 1968 schaffte Schwarz mit der Kette „Handelshof“ den Einstieg in den Einzelhandel.
Nach dem Tod des Vaters übernahm Dieter Schwarz 1977 die Unternehmensführung – und machte Lidl zu einem der großen Discounter.
Schon 1999 zog er sich aus der operativen Konzernleitung zurück und übertrug die Verantwortung einem Management. In den strategischen Führungsfragen mischte er aber auch danach noch mit. Heute ist die Schwarz-Gruppe, zu der neben Lidl auch die Warenhaus-Kette Kaufland gehört, ein Handelsgigant, der sich mit Größen wie Wal-Mart messen kann. Im vergangenen Geschäftsjahr knackte die Schwarz-Gruppe die Marke von 100 Milliarden Euro Umsatz und beschäftigt nun weltweit 429.000 Mitarbeiter.
Der Erfolg hat Schwarz, von dem es keine offiziellen Pressefotos gibt, nicht nur zu einem der reichsten Männer Deutschlands, sondern weltweit gemacht. Das US-Magazin Forbes führt ihn mit einem Vermögen von rund 17 Milliarden Euro (19 Milliarden US-Dollar) auf Platz 36 der weltweiten Liste der Milliardäre.