Em 1999, Jarkko Nieminen chegou às semifinais do Challenger de Tampere. Estreou na Copa Davis contra a Itália. No ano seguinte, ganhou sua primeira partida da Copa Davis contra o sueco Tillstrom e chegou às semifinais do Challenger de Espinho.
Em 2001, terminou no Top 100 pela primeira vez, após uma participação de destaque no Challenger, e tornou-se o primeiro finlandês a chegar a uma final da ATP desde Leo Palin em dezembro de 1981, em Sofia. Também foi o primeiro a situar-se no Top 100 desde Veli Paloheimo em 1991. Conseguiu um registro de 38-12 no Challenger, ganhando quatro títulos: Wolfsburg, Tampere, Córdova e Maia. Classificou-se para a final de Estocolmo, onde perdeu para Schalken em seu segundo evento da ATP.
Em 2002, foi o primeiro jogador finlandês na história dos rankings da ATP a terminar a temporada no Top 50. Chegou às finais no saibro em Estoril e Maiorca, sendo derrotado na primeira por Nalbandian e na segunda por Gaudio. No Challenger, ganhou títulos em seu país, em Tampere e Helsinque.
Em 2003, ganhou 41 partidas e chegou a sua quarta final da ATP em Munique, onde perdeu para Federer. Abriu os três primeiros meses da temporada chegando à terceira etapa do Aberto da Austrália e às semifinais em Milão. Em Roland Garros, chegou a ser o segundo tenista finlandês a alcançar a quarta etapa de um Grand Slam. Terminou a temporada com as semifinais de Bangkok e as quartas-de-final em Viena. Conseguiu um registro de 18-8 no saibro, 15-15 no cimento, 5-3 na grama sintética e 3-3 na grama.
Em 2004, Nieminen entrou para o Top 100 pela quarta temporada consecutiva, apesar de ter ficado três meses fora das quadras por uma fratura no pulso. Seus melhores resultados foram as chegadas às semifinais em Adelaide, Dubai e Beijing, e às quartas-de-final em Roterdã. No Aberto da Austrália, derrotou Massú na primeira etapa, antes de perder para aquele que seria o finalista, Safin, em quatro sets. Sofreu uma torção de pulso em 19 de abril, na primeira etapa do AMS de Monte Carlo, no qual venceu Uros Vico.
Escorregou e caiu para trás. Isso o obrigou a retirar-se antes da segunda etapa, onde enfrentaria Moyà. Tinha um registro de 12-9 antes da lesão. Perdeu onze semanas devido à lesão, antes de poder regressar à ativa em Bastad e chegar à segunda etapa. Sua marca foi de 8-9 depois da lesão. Participou dos Jogos Olímpicos de Atenas, perdendo para Mirnyi na segunda etapa.
Em 2005, Nieminen voltou a ser o número 1 finlandês e, pelo terceiro ano nos últimos quatro, entrou para o Top 40, destacando-se por chegar a quatro semifinais da ATP e às quartas-de-final de um Grand Slam.
Começou a temporada chegando à terceira etapa no Aberto da Austrália, mas teve que se retirar por sofrer um estiramento em um músculo estomacal.
Esteve afastado por um mês antes de voltar à primeira etapa da Copa Davis. Em abril, chegou às semifinais em Munique, onde foi derrotado por Nalbandian e, um mês mais tarde, venceu o número 7 Agassi na primeira etapa de Roland Garros.
Em Wimbledon, perdeu para Henman em cinco sets na primeira etapa. Voltou ao saibro em julho e chegou às semifinais em Stuttgart, onde foi eliminado por Nadal, e às quartas-de-final em Sopot. No Aberto dos Estados Unidos, chegou pela primeira vez às quartas-de-final, mas perdeu para o número 4, Hewitt, em cinco sets.
No circuito asiático, chegou às semifinais em Bangkok, perdendo para Federer, e em Tóquio, onde foi eliminado por Moodie.