Charles Gray recebeu sua formação vocal pela Royal Shakespeare Company em Stratford-upon-Avon e no Old Vic, tendo há muito abandonado seu primeiro emprego como escriturário de uma imobiliária. Sua voz se tornaria uma de suas ferramentas mais valiosas. De fato, a partir de janeiro de 1966, ele dublou sutil e quase imperceptivelmente Jack Hawkins depois que este ator ficou incapaz de falar suas falas devido a um câncer na garganta. Em anos posteriores, a voz característica de Gray era regularmente ouvida em comerciais de televisão.

A estreia teatral de Gray ocorreu em 1952 no papel de Charles the Wrestler (ele media 1,85 m de altura) em "As You Like It", aparecendo sob seu nome original, 'Donald Gray'. A partir de 1956, como 'Charles' Gray (já que havia um ator chamado Donald Gray), ele passou a assumir papéis dramáticos principais e conquistou elogios da crítica como Aquiles em "Troilus and Cressida", Macduff em "Macbeth" e como o glutão Sir Epicure Mammon na versão atualizada de Tyrone Guthrie de "The Alchemist", em 1962. Ele repetiu sua atuação no Old Vic como Henry Bolingbroke para sua estreia na Broadway no Winter Garden Theatre em 1956. Uma atuação notável posterior, em turnê pelos EUA e Canadá, foi como o Príncipe de Gales na história de Peter Stone sobre o famoso ator do século XIX Edmund Kean ("Kean", 1961). Em 1964, Gray ganhou o Clarence Derwent Award de Melhor Ator Coadjuvante por seu papel na controversa peça "Poor Bitos", de Jean Anouilh, coestrelada por Donald Pleasence. Ele recebeu seu primeiro papel na tela grande, reprisando um sucesso no palco do West End em 1958, como o Capitão Cyril Mavors, no musical satírico Expresso Bongo (1959).

Pelos quarenta anos seguintes, o corpulento, grisalho e de queixo saliente Charles Gray usou sua imponente figura e voz melíflua com grande efeito na criação para a tela de uma memorável galeria de aristocratas egocêntricos e imperiosos, e supervilões suaves e sardônicos. Embora suas atuações às vezes beirassem o camp, Gray alegremente se permitia ser escalado dentro de sua gama de personagens basicamente antipáticos, que ele podia interpretar bem e com facilidade. Ele tendia a favorecer a televisão como seu meio preferido, embora alguns de seus papéis mais populares tenham sido para a tela grande. Entre seu nicho de personagens de estimação estavam os militares friamente pomposos (General Gabler em The Night of the Generals (1967)), ou os eternamente escarnecedores e arrogantes esnobes da alta sociedade (fiel à forma, como o espião desertor Hillary Vance no episódio "Night is the Time for Killing" de Thriller (1973)). No auge de sua maldade, ele era imponente como o acólito demoníaco Mocata, em The Devil Rides Out (1968) e como o inimigo de James Bond que acariciava gatos e tinha voz aveludada, Ernst Stavro Blofeld, em Diamonds Are Forever (1971). Ele também foi adequadamente sinistro como Bates the Butler, uma das pistas falsas de The Mirror Crack'd (1980), de Agatha Christie.

Os papéis recorrentes de Gray incluíram Lord Seacroft (sênior e júnior) na minissérie satírica de curta duração The Upper Crusts (1973) como um aristocrata decadente, mantendo as aparências depois de ser forçado a morar em um conjunto habitacional; e como o irmão sedentário do famoso detetive em 221b Baker Street, Mycroft, em The Seven-Per-Cent Solution (1976). Mais tarde, ele foi utilizado como substituto temporário, primeiro para Edward Hardwicke e, subsequentemente, para a estrela hospitalizada Jeremy Brett, nas várias produções da saga Sherlock Holmes da Granada Television (1985-1994). Gray morreu de câncer em março de 2000, aos 71 anos.