John Scofield si avvicina al jazz nel 1969, provenendo da esperienze R&B e soul. Suona il jazz puro con Gary Burton e Gerry Mulligan, ma assiste e partecipa all’età d’oro della fusione di rock, soul e jazz. Debutta quindi nel jazz-rock con la band del tastierista George Duke e del batterista Billy Cobham, che vede nella stessa formazione anche il bassista Alphonso Johnson.
Dopo lo scioglimento del trio, rimane a New York a lavorare su pezzi di jazz acustico col suo gruppo e con musicisti come Dave Liebman. In quegli anni inizia una intensa collaborazione con il bassista Steve Swallow che influenza Scofield sia a livello stilistico che a livello compositivo: questa collaborazione continua a tutt’oggi.
Nel 1982 si unisce alla Miles Davis Band, rispondendo alla richiesta di funk-jazz di quel momento. I tre anni passati con Miles Davis convincono Scofield della validità di questo genere musicale, dove l’improvvisazione jazzistica si unisce al groove della ritmica funk.
Quando firma il contratto con la Blue Note Records nel 1989, decide di esplorare stili più vicini allo swing e si unisce al suo amico, nonché ex compagno alla Berklee School of Music, il sassofonista Joe Lovano. Formano un gruppo con il batterista Bill Stewart e registrano tre album che, a detta dello stesso Scofield, risultano tra i migliori in assoluto della sua, peraltro prolifica, carriera di jazzista.
Successivamente si avvicina al soul jazz, influenzato dalla musica degli anni sessanta del sassofonista Eddie Harris e del pianista Les McCann; non a caso nell’album Hand Jive troviamo tra gli esecutori anche Eddie Harris. Intanto anche Larry Goldings si unisce a Scofield all’organo Hammond. Il nuovo gruppo combina il suo jazz ai ritmi di New Orleans, dando vita ad un groove molto personale.
In questo periodo lavora anche con Pat Metheny, che Scofield annovera tra i suoi chitarristi preferiti, così come Bill Frisell, Jim Hall, Mike Stern, John Abercombie, Kurt Rosenwinkel, Peter Bernstein, Albert King, Carlos Santana e Tom Morello.
Quando sente l’album Shack Man di Medeski Martin and Wood, rimane folgorato e decide di collaborare con il trio perché il loro swampy groove (letteralmente groove paludoso), rallentato e sincopato, si fonde alla perfezione con il suo stile musicale. Con loro Scofield incide A Go Go, che resta uno dei suoi dischi preferiti.
Tra le sue ultime produzioni c’è un album tributo a Ray Charles, That’s What I Say: John Scofield Plays the Music of Ray Charles.
L’album Country for Old Men, pubblicato nel settembre 2016, gli vale due premi Grammy.
