A carreira profissional de Clement Arnaud arrancou em 1996, embora tenha começado a colher seus primeiros resultados de destaque somente um ano depois.
Deste modo, chegou às quartas-de-final nos campeonatos de São Petersburgo e de Toulouse, obtendo o passaporte para o primeiro Grand Slam de sua carreira: Wimbledon, no qual obteve um bom registro, ao chegar até a terceira etapa.
Em 1998, chegou a disputar as semifinais no torneio de Moscou, o que constituiu seu melhor resultado nessa temporada, enquanto que na temporada seguinte conseguiu chegar à primeira final de sua carreira, em Marselha.
Em 2000, Arnaud obteve sua primeira vitória em um torneio da ATP ao vencer em Lyon depois de derrotar André Agassi nas semifinais, embora o norte-americano tenha abandonado o torneio por lesão, e Santoro, na final.
Também teve uma grande atuação no Aberto dos Estados Unidos até as quartas-de-final, etapa na qual esbarrou no australiano Lleyton Hewitt.
Em 2001, Arnaud tornou-se o segundo melhor tenista francês, depois de seu amigo Sebastien Grosjean. O jogador francês chegou à final no Aberto da Austrália, mas perdeu para Agassi. Além disso, disputou a Copa Davis com sua seleção e chegou às semifinais no torneio de Long Island, em Nova York.
Em 2002, Arnaud foi um dos integrantes da equipe francesa que disputou a final da Copa Davis, embora tenha perdido para a Rússia. 2003 foi um ano de azar para o tenista francês, pois disputou também as finais dos campeonatos de Lyon e Hertogenbosch sem poder vencer em nenhuma delas e, devido a uma lesão, perdeu dois meses de competição.
Em 2004, confirmou-se a queda no nível de jogo do francês, que acabou, pela primeira vez em seis anos, ficando de fora da lista dos cem primeiros tenistas da ATP. Chegou à final no torneio Challenger de sua cidade natal, Aix. Sobre a grama, chegou às quartas-de-final nos campeonatos de Halle e de Hertogenbosch.
Nesse mesmo ano, representou seu país nas Olimpíadas de Atenas, sendo eliminado na segunda etapa. Na modalidade de duplas, conseguiu o primeiro torneio da ATP de sua carreira, ao vencer no Masters Series de Indian Wells jogando com seu conterrâneo Grosjean.
Em 2005, pôde ser observada uma melhora no jogo do francês, que voltou a figurar entre as cem primeiras raquetes da ATP.
Conseguiu chegar à terceira etapa do Masters Series de Miami e às quartas-de-final em Casablanca. No circuito Challenger, chegou à final do troféu de Nova Orleães e, em duplas, disputou as finais de Sydney e Milão.