De dirigentenloopbaan van Haitink begon in de jaren vijftig met de dirigentencursus van de Nederlandse Radio Unie, waarna hij al snel chef-dirigent werd van het Radio Filharmonisch Orkest. Met het Concertgebouworkest in zijn geboorteplaats Amsterdam heeft Haitink een langdurige band. Hij was er chef-dirigent van 1961 tot en met 1988. In 1999 kreeg hij van het orkest de titel van eredirigent. 

Dat Haitink in 1956 op 27-jarige leeftijd zijn debuut maakte op de bok van het Concertgebouworkest, was eigenlijk puur toeval. Het Requiem van Cherubini stond op het programma en wegens ziekte van de beroemde Italiaanse dirigent Carlo Maria Giulini was dringend een vervanger nodig. De keus viel op Haitink, die kort daarvoor had laten zien dit stuk te beheersen.

Zijn debuut voor het Concertgebouworkest bleek het begin van een glansrijke carrière. De piepjonge Haitink kreeg lovende recensies. Het bleek ook het begin van een lange relatie met het Concertgebouworkest. In 1959 werd Haitink er samen met Eugen Jochum chef-dirigent toen Eduard van Beinum overleed. Haitink zou 28 jaar als dirigent aan het orkest verbonden blijven, zij het niet altijd in harmonie.

In muzikaal opzicht was Haitink met het Concertgebouworkest echter zeer succesvol. Met dit orkest maakte hij gezaghebbende opnamen van alle symfonieën van Mahler, Bruckner en Beethoven. Het grote publiek leerde Haitink vooral kennen tijdens de kerstmatinees.

Maar Haitink stond ook bekend als een lastpak. In 1982 dreigde Haitink met opstappen, omdat de geldkraan zou worden dichtgedraaid. ,,Ik ben inderdaad een driftkikker”, liet Haitink zich eens ontvallen. In 1988 ging het opnieuw mis toen Haitink vertrok naar de Royal Opera in Londen en er ruzie ontstond over zijn opvolging als dirigent. Het Concertgebouworkest en Haitink gingen in een vertroebelde sfeer uiteen. De ruzie werd uiteindelijk bijgelegd, maar Haitink bleef lang weg bij het orkest waar hij groot was geworden.

In 1994 keerde hij terug bij het Concertgebouworkest, waarvan hij in 1999 werd benoemd tot eredirigent. Maar Haitink bleef voor dissonanten zorgen. Zo zou in 2006 ter ere van zijn vijftigjarig jubileum als dirigent een nieuwe biografie over hem worden gepresenteerd in het Concertgebouw. Maar de maestro zei niet achter de inhoud van het boek te staan en de uitreiking tijdens het gala ging op de valreep niet door.

In 2014 zorgde Haitink opnieuw voor een relletje toen hij zei nooit meer het Concertgebouworkest te willen dirigeren. Hij voelde zich vernederd, omdat de directie hem naar eigen zeggen ‘totaal heeft genegeerd’ tijdens het 125-jarig jubileum van het muziekpaleis waaraan hij zo lang verbonden was.

In datzelfde jaar was eerder zijn zestigjarig jubileum als dirigent gevierd met een uitvoering in het Concertgebouw.

Ook in het buitenland boekte Haitink, die onder meer was benoemd tot Commandeur in de Orde van de Nederlandse Leeuw, gedurende zijn loopbaan veel grote successen met vermaarde orkesten, waaronder het London Philharmonic Orchestra en de Metropolitan Opera in New York. Zelfs op 85-jarige leeftijd dirigeerde hij in 2014 nog tal van internationaal vermaarde orkesten.

In 2019 dirigeerde hij in het Zwitserse Luzern zijn laatste concert, wat live werd uitgezonden op NPO Radio 4. Hij klom voor het laatst de bok op om met de Wiener Philharmoniker het vierde pianoconcert van Ludwig van Beethoven en de zevende symfonie van Anton Bruckner ten gehore te brengen. ,,Ik heb geen zin in al die officiële afscheidsdingen, maar het is een feit dat ik niet meer zal dirigeren’’, verklaarde de maestro toen.

Haitink overleed op donderdag, op 92-jarige leeftijd. Hij is vreedzaam gestorven, thuis in Londen, omringd door zijn vrouw en familie.