Zubin Mehta fue director musical de la Orquesta Sinfónica de Montreal de 1961 a 1967 y también asumió la dirección musical de la Filarmónica de Los Ángeles en 1962, cargo que conservó hasta 1978. En octubre de 2019 celebró su despedida de la Orquesta Filarmónica de Israel, a la que había servido durante 50 años. En esta ocasión fue nombrado director musical emérito de la OPI. En 1978 asumió el cargo de director musical de la Filarmónica de Nueva York, iniciando un mandato que duraría 13 años, el más largo de la historia de la orquesta. De 1985 a 2017, fue jefe director de orquesta de la Orchestra del Maggio Musicale Fiorentino de Florencia, donde continuó trabajando como "Direttore onorario a vita".  

Zubin Mehta debutó en la ópera director de orquesta con Tosca en Montreal en 1963. Desde entonces ha dirigido en la Metropolitan Opera de Nueva York, la Ópera Estatal de Viena, la Royal Opera House, el Covent Garden, La Scala de Milán y las óperas de Chicago y Florencia, así como en el Festival de Salzburgo. Entre 1998 y 2006 fue Director Musical de la Ópera Estatal de Baviera, en Múnich. En octubre de 2006 inauguró el Palau de les Arts Reina Sofia de Valencia, y fue presidente del Festival del Mediterrani de Valencia hasta jun 2014. Allí dirigió un célebre Anillo con la Fura del Baus en coproducción con la ópera de Florencia.. Otros Anillo en la Ópera de Chicago y la Ópera Estatal de Baviera.

El palmarés de Zubin Mehta es extenso e incluye el "Nikisch-Ring" que le legó Karl Böhm. Es ciudadano honorario de Florencia y Tel Aviv, y fue nombrado miembro honorario de la Ópera Estatal de Viena en 1997, de la Ópera Estatal de Baviera en 2006 y de la Gesellschaft der Musikfreunde Wien en 2007. El título de honorífico director de orquesta le fue concedido por las siguientes orquestas Orquesta Filarmónica de Viena (2001), Orquesta Filarmónica de Múnich (2004), Filarmónica de Los Ángeles (2006), Teatro del Maggio Musicale Fiorentino (2006), Staatskapelle de Berlín (2014) y Orquesta Estatal de Baviera (2006), con esta última actuó en Srinagar, Cachemira, en septiembre de 2013. En 2016 el Teatro di San Carlo de Nápoles nombró a Zubin Mehta Director Musical Honorario, y la Orquesta Filarmónica de Israel y la Filarmónica de Los Ángeles le honraron en 2019 como director de orquesta Emeritus. En febrero de 2019, la Filarmónica de Berlín le nombró su Director Honorario director de orquesta. En 2022 se le rindió un particular homenaje al bautizar con su nombre la nueva sala de conciertos del Teatro del Maggio Musicale de Florencia.

En octubre de 2008, Zubin Mehta fue honrado por la Familia Imperial Japonesa con el Praemium Imperiale. En marzo de 2011 Zubin Mehta recibió una distinción especial, al conseguir una estrella en el Paseo de la Fama de Hollywood. La Cruz de Comendador de la Orden del Mérito de la República Federal de Alemania le fue concedida en jul 2012. El Gobierno indio le honró en septiembre de 2013 con el Premio Tagore a la armonía cultural que el año anterior se había concedido a Ravi Shankar. El Gobierno australiano le nombró Compañero Honorario de la Orden de Australia en 2022.  

Zubin Mehta sigue apoyando el descubrimiento y la promoción de talentos musicales en todo el mundo. Junto con su hermano Zarin, es copresidente de la Fundación Musical Mehli Mehta de Bombay, donde más de 200 niños reciben educación en música clásica occidental. La Escuela de Música Buchmann-Mehta de Tel Aviv desarrolla jóvenes talentos en Israel y está estrechamente relacionada con la Orquesta Filarmónica de Israel, al igual que un proyecto de enseñanza a jóvenes árabes israelíes en las ciudades de Shwaram y Nazaret con profesores locales y miembros de la Orquesta Filarmónica de Israel.