Ханс Граф био је музички директор Хјустонског симфонијског оркестра од 2001. до 2013. године, а од тада носи титулу почасног диригента овог оркестра. Такође је био музички директор Оркестра Моцартеум Салцбург (1984-94), Баскијског националног оркестра (Сан Себастијан) (1994-96), Филхармоније из Калгарија (1994-2002) и Националног оркестра Аквитен из Бордоа (1998- 2004).

Дириговао је водећим америчким оркестрима (Кливленд, Њујорк, Филаделфија, Лос Анђелес, Сан Франциско, Сент Луис, Питсбург, Далас, Детроит и др.) и остварио дугу и блиску везу са Симфонијским оркестром из Бостона.

У Европи, Ханс Граф је предводио Бечку филхармонију, Бечки симфонијски оркестар, Краљевски Концертгебау оркестар, Будимпештански фестивалски оркестар, Симфонијски оркестар Баварског радија, Немачки симфонијски оркестар из Берлина, Лондонску филхармонија, Лондонски симфонијски оркестар, Краљевску филхармонију и Хале оркестар, и многе друге велике оркестре. Често је наступао на важним европским фестивалима (Салцбург, Екс-ан-Прованс, Мађо музикале, итд.), затим у Бечкој државној опери и оперским куćама у Минхену, Паризу, Риму и Цириху.

Дискографија Ханса Графа укључује све симфоније Моцарта и Шуберта, оркестарска дела Анрија Дитијеа и премијерни снимак опере Александра Цемлинског Једном давно.

Са Хјустонским симфонијским оркестром снимио је Бартока, Цемлинског, Малера и оперу Воцек Албана Берга, која је добила награду Ехо Класик 2017. године и Греми за најбољи оперски снимак 2018. године.

Ханс Граф је студирао клавир и дириговање у Грацу, затим у Сијени са Франком Фераром, у Болоњи са Серђуом Челибидакеом и у Лењинграду са Арвидом Јансонсом.

Од 2013. године био је професор оркестарског дириговања на Универзитету Моцартеум Салцбург.