Gröb hat seine gesamte berufliche Laufbahn in der Sparkassenorganisation absolviert. In den Vorstand der Helaba wurde er im Oktober 2004 berufen. Er war verantwortlich für die Verbundbank und die LBS sowie das Geschäft mit der öffentlichen Hand. Davor war der diplomierte Sparkassenbetriebswirt zwölf Jahre Vorstandsvorsitzender der Sparkasse Wetterau in Friedberg. Gröb hat in einer Reihe von Sparkassengremien mitgewirkt und war u.a. Landesobmann der Sparkassen in Hessen und Thüringen.
Gerhard Grandke, Präsident des Sparkassen- und Giroverbandes Hessen-Thüringen und Verwaltungsratsvorsitzender der Helaba, dankt Gröb für seine Leistungen und seine Verdienste um den Verbund: "Seine fast ein Jahrzehnt währende Tätigkeit als Vorstand der Helaba stand immer im Zeichen der breiten Anerkennung und Unterstützung, die dem Verbundkonzept von Helaba und Sparkassen entgegengebracht wird." Gröb hat das Verbundkonzept als Landesobmann maßgeblich mitgestaltet.
Hans-Dieter Brenner, Vorsitzender des Vorstandes der Helaba, hebt die Verdienste seines Vorstandskollegen bei der Übernahme der Verbundbankfunktion der Helaba für die Sparkassen in Nordrhein-Westfalen und Brandenburg hervor: "Dass wir hier gut vorangekommen sind, haben wir nicht zuletzt der Erfahrung und dem Einsatz von Klaus-Dieter Gröb zu verdanken. Sein letztes Arbeitsjahr für die Bank war sicher auch für ihn ein persönlicher Kraftakt. Die Bank ist ihm hierfür zu großem Dank verpflichtet."