Fils d'un saxophoniste panaméen, José James grandit à Minneapolis. C'est à l'âge de quatorze ans qu'il découvre le jazz et commence à chanter à dix-sept. Il se passionne un temps pour le rap, mais conserve un amour indéfectible pour le jazz, et la soul. Pour John Coltrane et Marvin Gaye en particulier.