Em 24 de junho de 1894 foi constituído o Comitê Olímpico Internacional, e depois de alguns contratempos, o grego Demetrius Bikelas foi eleito presidente do órgão. Junto ao Barão de Coubertain, Bikelas organizou os primeiros Jogos Olímpicos da Idade Moderna, ainda tendo o amadorismo como norma para a participação.

Os organizadores determinaram que a Grécia seria o lugar onde ocorreria o renascimento dos Jogos. Não obstante, havia muito trabalho por fazer, como por exemplo construir um local apropriado, incluindo um estádio grande o suficiente para acolher a celebração. As instalações deveriam ser construídas pelos anfitriões.

Como era de se esperar, os gregos enfrentaram problemas econômicos, que frearam suas pretensões; o presidente do governo, Tricoupus, argumentava sobre o alto custo que a organização dos Jogos significaria para um país arruinado. Mas as colaborações chegaram em tempo. Inicialmente a do rei Jorge I, e depois a de George Averoff, um comerciante grego que vivia em Alexandria. Averoff contribuiu com um milhão de dracmas (moeda grega substituída pelo euro) para que se pudesse reconstruir o estádio às margens de Atenas.

A Olimpíada foi inaugurada pelo rei grego Jorge I, em 6 de abril de 1896, diante de 70 mil espectadores reunidos no estádio Panathinaikos, reconstruído havia pouco; segundo cifras extra-oficiais, nas colinas limítrofes se congregaram cerca de 150 mil espectadores mais.

Nesta primeira edição dos Jogos na Idade Moderna, participaram 241 atletas provenientes de 14 países, em 43 eventos esportivos divididos em nove modalidades: atletismo, natação, ciclismo, esgrima, ginástica, halterofilismo (levantamento de peso), natação (estas provas se realizaram no mar), luta e tiro. Cabe assinalar que nenhuma mulher participou.

O primeiro campeão olímpico foi o norte-americano James B. Connolly, que ganhou a prova do salto triplo e começou a impor a supremacia de seu país no atletismo. O domínio norte-americano foi total: Tom Burke ganhou os 100m e os 400m, Tom Curtis os 110m com barreiras e W.T. Hoyt obteve a medalha de ouro com um salto de 3,29m.

Por sua parte, os franceses venceram em ciclismo e esgrima, os alemães na ginástica, os britânicos no tênis e os húngaros na natação.

Na história de Atenas-1896, há um acontecimento interessante: na prova de lançamento de disco, que por tradição deveria ser vencida por um grego, o título foi para o norte-americano Bob Garret, que obteve também o primeiro lugar no arremesso de peso. Com a chegada do último dia de competição, os gregos não haviam vencido uma prova sequer no atletismo, o que era uma afronta para um país com tradição milenária neste quesito.

O moral do povo grego estava quase no chão. No entanto, chegava o momento da maratona (prova que tem origem na corrida do soldado ateniense Phidippides entre a planície de Maratona e Atenas para anunciar vitória durante batalha contra os persas). A idéia de recordar esportivamente esta façanha ocorreu a um estudante francês de Filologia apaixonado pela mitologia grega, e que ofereceu uma taça de prata ao primeiro atleta que corresse a distância entre Maratona e Atenas.

Ainda que o barão de Coubertain não estivesse muito convencido, acreditava que a distância era muito longa e que poderia haver incidentes graves entre os corredores pela dureza da prova. Fez um ensaio com dois corredores voluntários e apenas um conseguiu percorrer a distância. Conseqüentemente, antes do início da competição, preveniu os atletas estrangeiros sobre o risco que sofreriam, enquanto os gregos participariam nesta prova por uma simples questão de honra.

Desta forma, a corrida começou sobre uma distância de 40km, e participaram 25 atletas. Um deles era um magro pastor grego chamado Louis Spiridon. Enquanto a prova avançava e a distância diminuía, os participantes, esgotados, foram abandonando aos poucos a competição. Então, a grande surpresa: faltando 7km para concluir, um mensageiro chegou até o camarote real, onde se encontravam Jorge I e família, além de convidados, comunicando que o pastor grego ia na primeira posição. Spiridon ganhou e se converteu em herói nacional.

País Ouro Prata Bronze 1. Estados Unidos USA 11 7 2 2. Grécia GRE 10 17 19 3. Alemanha GER 6 5 2 4. França FRA 5 4 2 5. Grã-Bretanha GBR 2 3 2 6. Hungria HUN 2 1 3 7. Áustria AUT 2 1 2 8. Austrália AUS 2 0 0 9. Dinamarca DEN 1 2 3 10. Suíça SUI 1 2 0 11. Equipes mistas ZZX 1 1 1