La mère de Pettiford était choctaw et son père mi cherokee mi afro-américain.

En 1942 il intègre l’orchestre de Charlie Barnet et en 1943 attire l’attention après avoir enregistré avec Coleman Hawkins sur “The Man I Love”, une composition de Hawkins. A la même période, il a aussi enregistré avec Earl Hines et Ben Webster. Lui et Dizzy Gillespie dirigeaient un groupe bop en 1943. En 1945 Pettiford se rend en Californie avec Hawkins. Il apparaît dans The Crimson Canary un film connu pour sa musique originale. Il a ensuite joué avec Duke Ellington de 1945 à 1948 et avec Woody Herman en 1949 avant de jouer surtout comme leader dans les années 1950.

Pettiford est considéré comme le pionnier du violoncelle en tant qu’instrument soliste en jazz. En 1949, alors qu’il s’était cassé un bras, Pettiford ne put jouer de la basse et s’essaya au violoncelle, prêté par un ami. Il l’accorda en quartes, comme une contrebasse mais une octave plus haut. Il enregistra pour la première fois avec un violoncelle en 1950. Le violoncelle devint alors son second instrument et il continuera à en jouer tout au long de sa carrière.

Dans les années 1950 il enregistre intensément  pour des labels Debut, Bethlehem and ABC Paramount puis déménage à Copenhague en 1958 ou il enregistrera pour d’autres  labels  européens Parmi ses contemporains tel que Charlie Mingus, Oscar Pettiford sera l’un des  bassistes, compositeur et groupe leader les plus prolifiques  pour le jazz.

Parmi ses compositions, on peut citer “Tricotism,” “Laverne Walk,” “Bohemia After Dark“, “Blues In The Closet “et “Swingin’ Till the Girls Come Home.”

Oscar Pettiford est mort de d’un virus proche de celui de la poliomyélite.

Oscar Pettiford est le premier bassiste à faire bénéficier le be-bop naissant des innovations apportées par Jimmy Blanton, dans la filiation duquel il s’inscrit directement. Avant Ray Brown et Charlie Mingus, sur lesquels il exercera une influence profonde, Pettiford confère à la contrebasse le statut d’instrument soliste, capable de rivaliser avec les bois et les cuivres. S’il dispose bien entendu d’une technique éprouvée et d’une très enviable agilité, il reste avant tout un incomparable mélodiste. Ce musicien raffiné et rompu aux plus fines subtilités harmoniques sidère par son prodigieux sens de l’anticipation. Grâce à une sonorité d’une remarquable plénitude –  que ce soit à la contrebasse ou au violoncelle –, à une imagination toujours en éveil, à l’intelligence de ses interventions, son instrument parle avec une force de conviction rare.