A vida profissional de Thomas Johansson decolou em 1994, com um bom desempenho no circuito sueco na modalidade de duplas, com Renstrom como parceiro.
Em 1996, o tenista conseguiu vencer seu primeiro encontro num torneio do Grand Slam, especificamente no Aberto da Austrália, após vencer Eltigh. Chegou a disputar a final do Challenger de Wolfsburg e avançou até as semifinais dos campeonatos da ATP de Cingapura, Beijing e Estocolmo.
Obviamente, as vitórias para um jogador da qualidade de Johansson acabariam chegando; e não demoraram muito, porque em 1997 obteve a vitória nos torneios da ATP de Copenhague e de São Petersburgo. Além disso, disputou nessa temporada as semifinais de Hong Kong, Tóquio, Beijing e Cingapura.
Em 1998, em compensação, a sorte não esteve ao lado do sueco e ele não pôde somar nenhum título a sua coleção, apesar de haver chegado à final em Roterdã e Estocolmo. Conseguiu seu melhor resultado em Grand Slam ao alcançar as quartas-de-final no Aberto dos Estados Unidos. No ano seguinte, Johansson obteve uma importante vitória no Tennis Masters Series de Montreal, eliminando o russo Yevgeny Kafelnikov. Disputou também a última etapa no indoor de Londres, Tóquio e Toulouse.
Na campanha de 2000, Johansson pôde levantar o troféu do principal campeonato de seu país natal, disputado em Estocolmo, depois de vencer novamente Yevgeny Kafelnikov. Voltou a chegar às quartas-de-final no Aberto dos Estados Unidos, embora a mancha da temporada tenha surgido em sua ineficiente participação nas Olimpíadas de Sydney, perdendo na primeira etapa.
Em 2001, o jogador sueco abriu a temporada chegando às quartas-de-final em Adelaide, Auckland e no Aberto da Austrália, quando perdeu para o francês Grosjean. Disputou a Copa Davis para ganhar a eliminatória perante a República Tcheca e chegou às semifinais em Doha. Chegou à quarta etapa no Aberto dos Estados Unidos, as semifinais em Long Island e as quartas-de-final no Masters Series de Hamburgo.
No ano seguinte, em 2002, Johansson avançou até a posição de número 14 da ATP e coroou-se como o primeiro jogador de seu país, após sua vitória no Aberto da Austrália sobre Marat Safin na final. Chegou às semifinais em Dubai e as quartas-de-final no Masters Series de Monte Carlo.
Menos sorte teve em 2003, já que Johansson passou a maior parte da temporada sem participar de nenhum torneio em função de uma lesão, o que foi um forte contratempo em seu excepcional progresso na ATP.
Em 2004, voltou à atividade e se reencontrou com a vitória ao enfrentar Andre Agassi, em seu país, no torneio de Estocolmo. Disputou também a final em Nottingham e chegou às semifinais no torneio de Milão e na ATP Masters Series de Toronto.
Em 2005, o sueco voltou a estar entre os melhores ao alcançar as semifinais em Wimbledon. Teve uma etapa idêntica em Roterdã e chegou às quartas-de-final em Sydney e no Masters Series de Miami. Disputando o campeonato de São Petersburgo, conseguiu a bela cifra de 300 vitórias em torneios da ATP.