En tant que musicien, il a travaillé avec des artistes tels que Jackson Browne, Willie Nelson, Bruce Hornsby, Elvis Costello, Dolly Parton, Emmylou Harris, Charlie Haden, David Crosby, Levon Helm, Edie Brickell, Paul Simon, Patty Larkin, Susan Tedeschi, le Tedeschi Trucks Band, Steve Forbert, Kelly Willis, Donald Fagen, Ry Cooder et Johnny Cash.
En tant que compositeur, plus de 200 de ses chansons ont été enregistrées par divers artistes, notamment Rosanne Cash, Shawn Colvin, Marc Cohn, Michelle Branch, The Tedeschi Trucks Band, Vince Gill, George Strait, Shelby Lynne, Patty Loveless, Jim Lauderdale, Joe Cocker et William Bell.
En 1988, il a produit et coécrit le premier album de Shawn Colvin, Steady On, qui a remporté un Grammy. Il a arrangé et joué de multiples instruments sur le tube « Walking in Memphis » de Marc Cohn en 1991. En 1998, il a remporté un Grammy Award pour le disque et la chanson de l’année pour avoir produit et coécrit la chanson « Sunny Came Home » (un succès de 1997 pour Colvin). Leventhal a produit et coécrit toutes les chansons de l’album The River & the Thread, sorti en 2014 par Rosanne Cash. Le 8 février 2015, The River & the Thread a remporté trois Grammy Awards : Album Americana de l’année, Meilleure chanson roots américaine pour « A Feather’s Not a Bird » et Meilleure performance roots américaine pour « A Feather’s Not a Bird ».
Il a produit et coécrit la plupart des chansons de l’album This Is Where I Live, sorti en 2016 sur Stax Records, du chanteur soul William Bell, qui a remporté le Grammy 2017 de l’Album Americana de l’année. En 2018, Leventhal a produit la chanson « Let My Mother Live », coécrite avec Marc Cohn et interprétée par The Blind Boys Of Alabama ; la chanson a été nommée pour un Grammy de la meilleure performance roots américaine. La chanson « Crossing To Jerusalem » écrite avec Rosanne Cash a été nommée pour la meilleure chanson Roots américaine pour les Grammys 2019.
Leventhal a produit des albums qui ont été nominés pour un total de 18 Grammy Awards.
En septembre 2015, Leventhal a reçu le prix de l’Americana Music Association pour l’instrumentiste de l’année.
Leventhal a également composé les partitions des films Winter Solstice (2004), et Big Stone Gap (2014).
Les chansons de John Leventhal sont représentées par Downtown Music Publishing.
Les chansons de John Leventhal sont représentées par Downtown Music Publishing.
Les chansons de John Leventhal sont représentées par Downtown Music Publishing.