Geboren am 2. April 1938 in Fürstenwalde/Spree als eines von sechs Kindern des Schriftstellers Hans Rehberg und seiner Frau Maria Ohly, wuchs Hans-Michael Rehberg in Brandenburg, Schlesien, am Starnberger See und in Duisburg auf. Nachdem er die Schule abgebrochen hatte, begann er seine Schauspielausbildung an der Folkwangschule in Essen.
Von da an begann eine schnelle und erfolgreiche Laufbahn mit zahlreichen Engagements an vielen deutschen Theatern, aber auch am Wiener Burgtheater und bei den Salzburger Festspielen. Schon im Alter von 25 Jahren wurde er am Bayerischen Staatsschauspiel Mitglied des Ensembles und mit 30 erhielt er die Nominierung zum Bayerischen Staatsschauspieler. Drei Jahre später feierte er als Regisseur am Münchner Residenz-Theater Premiere und weitere zwei Jahre später arbeitete er als Regisseur und Schauspieler am Hamburger Schauspielhaus. Rehberg beherrscht das ernste Fach ebenso wie die Komödie. Seit 2003 spielt er erfolgreich den Bischof Hemmelrath in der ARD-Reihe "Pfarrer Braun". 2004 war er in der erfolgreichen Kinokomödie "(T)Raumschiff Surprise" als Rogul zu sehen. Mit "Der Totmacher", "Schindlers Liste" oder "Die Manns" feierte er Erfolge im ernsten Fach.
Zahlreiche Engagements machten Rehberg auf den deutschen Theaterbühnen zu einem bedeutenden deutschen Theaterschauspieler. Sein Weg führte über die Städtischen Bühnen Krefeld-Mönchengladbach, Burgtheater Wien, Thalia Theater Hamburg, Deutsches Schauspielhaus Hamburg, Freie Volksbühne Berlin, Schauspielhaus Zürich, Kammerspiele München, Residenztheater München, Münchner Volkstheater, Württembergisches Staatstheater Stuttgart und die Salzburger Festspiele. Rehberg arbeitete mit den Regisseuren Heinz Hilpert, Karl-Heinz Stroux, Peter Zadek, Ingmar Bergman, Franz Xaver Kroetz, Dieter Giesing, Michael Haneke, Luc Bondy, Hans Lietzau, Peter Stein und Claus Peymann.
Heute lebt er in Berlin.