Job ter Haar studeerde cello aan het Koninklijk Conservatorium te Den Haag bij René van Ast, Lidewij Scheifes en Anner Bijlsma. Ook volgde hij masterclasses bij Heinrich Schiff en Valentin Berlinsky. Na het behalen van het diploma Uitvoerend Musicus legde hij zich geheel toe op het spelen van kamermuziek uit alle stijlperioden. Met zijn ensembles maakte hij diverse plaatopnamen en gaf hij concerten in alle delen van de wereld. Momenteel is hij de vaste cellist van het Ives Ensemble, Trio Uccellini, Musica ad Rhenum en de Van Swieten Society. Job ter Haar speelt op een cello, in 1997 gebouwd door Guust Francois, welk instrument beschikbaar is gesteld door het Nationaal Muziek-instrumenten Fonds. Behalve als cellist is Job ter Haar ook actief als bespeler van de lirone.