Gerold Huber estudió piano con Friedemann Berger en la Musikhochschule de Munich y asistió a las clases de lied de Dietrich Fischer-Dieskau en Berlín. En 1998 fue galardonado con el Premio Internacional Pro Música junto con Christian Gerhaher. Desde 2013 es profesor de acompañamiento de lied en la Hochschule für Musik de Würzburg. Ha aparecido en festivales de renombre e importantes salas de conciertos, como el Konzertverein de Viena, el Wigmore Hall Londres o la Ópera de Múnich, actuando con Christian Gerhaher, Franz-Josef Selig, Mojca Erdmann, Diana Damrau, Ruth Ziesak, Maximilian Schmitt, Christiane Karg, Rolando Villazón y otros. Es el director artístico del festival Pollinger Tage Alter und Neuer Musik. Sus grabaciones con Christian Gerhaher, todas ellas publicadas por Sony Classic, han sido galardonadas con varios premios, entre ellos el Premio Gramophone en 2015 por Nachtviolen.