Na kongrese v Sorbonne v roku 1894 bol do programu v Aténach navrhnutý veľký počet športov. V prvých oficiálnych oznámeniach o plánovaných športových podujatiach sa uvádzali športy ako futbal a kriket, ale tieto plány neboli nikdy dokončené a tieto športy sa nedostali do konečného zoznamu hier. Naplánované boli aj veslovanie a jachting, ktoré však museli byť zrušené kvôli zlému počasiu v plánovaný deň súťaže.
Atletika
Atletické disciplíny mali najpočetnejšie medzinárodné zastúpenie zo všetkých športov. Hlavným vrcholom bol maratón, ktorý sa po prvýkrát konal v medzinárodnej konkurencii. Spyridon Louis bol jediným gréckym atletickým šampiónom a národným hrdinom. Hoci Grécko bolo favorizované na víťazstvo v hode diskom alebo vrhu guľou, najlepší grécki atléti skončili v oboch disciplínach tesne za Američanom Robertom Garrettom.
Nepadli žiadne svetové rekordy, keďže sa na preteky vybralo len niekoľko špičkových medzinárodných pretekárov. Okrem toho boli zákruty trate veľmi tesné, čo sťažovalo dosahovanie rýchlych časov v bežeckých disciplínach. Napriek tomu Thomas Burke z USA vyhral beh na 100 metrov za 12,0 sekundy a beh na 400 metrov za 54,2 sekundy. bol jediným, kto použil "krkolomný štart" (položenie kolena na zem), čím zmiatol porotu. Nakoniec mu bol povolený štart z "nepohodlnej polohy".
Cyklistika
Pri cyklistických súťažiach sa používali pravidlá Medzinárodnej cyklistickej asociácie. Cyklistické preteky na dráhe sa konali na novopostavenom velodróme Neo Phaliron. Uskutočnili sa len jedny cestné preteky, a to preteky z Atén do Maratónu a späť (87 km).
V dráhových disciplínach bol najlepším cyklistom Francúz Paul Masson, ktorý vyhral časovku na jedno kolo, šprint a beh na 10 000 metrov. V pretekoch na 100 kilometrov Masson nastúpil ako tempár svojho krajana Léona Flamenga. Flameng zvíťazil po páde a po tom, čo zastavil a počkal, kým jeho grécky súper Georgios Kolettis odstráni mechanickú poruchu. Rakúsky šermiar Adolf Schmal vyhral 12-hodinové preteky, ktoré absolvovali len dvaja cyklisti, zatiaľ čo podujatie cestných pretekov vyhral Aristidis Konstantinidis.
Oplotenie
Šermiarske súťaže sa konali v Zappeione, ktorý bol postavený z peňazí, ktoré dal Evangelis Zappas na oživenie starovekých olympijských hier. Na rozdiel od iných športov (v ktorých sa na olympijských hrách mohli zúčastniť len amatéri), v šerme mohli súťažiť aj profesionáli, hoci v samostatnej disciplíne. Títo profesionáli boli považovaní za džentlmenov-športovcov, rovnako ako amatéri.
Naplánované boli štyri podujatia, ale podujatie épée bolo z neznámych dôvodov zrušené. Súťaž v hre na ranoch vyhral Francúz Eugène-Henri Gravelotte, ktorý vo finále porazil svojho krajana Henriho Callota. Ostatné dve disciplíny, šabľu a majstrovský šerm, vyhrali grécki šermiari. Leonidas Pyrgos, ktorý zvíťazil v poslednej menovanej disciplíne, sa stal prvým gréckym olympijským víťazom v modernej ére.
Gymnastika
Gymnastika bola na ihrisku štadióna Panathinaiko. Nemecko vyslalo 11-členný tím, ktorý vyhral päť z ôsmich disciplín vrátane oboch tímových. V tímovej súťaži na vodorovnej hrazde nemecký tím nemal konkurenciu. Traja Nemci pridali individuálne tituly: Hermann Weingärtner zvíťazil na vodorovnej tyči, Alfred Flatow na bradlách a Carl Schuhmann, ktorý úspešne súťažil aj v zápasení, vyhral preskok. Švajčiarsky gymnasta Louis Zutter zvíťazil na pomedzí, zatiaľ čo Gréci Ioannis Mitropoulos a Nikolaos Andriakopoulos zvíťazili na kruhoch, resp. v šplhu na lane.
Streľba
Strelecká súťaž sa konala na strelnici v Kallithei a pozostávala z piatich disciplín - dvoch s použitím pušky a troch s pištoľou. V prvej disciplíne, v streľbe z vojenskej pušky, zvíťazil Pantelis Karasevdas, ktorý ako jediný zasiahol terč všetkými výstrelmi. Druhú disciplínu, pre vojenské pištole, ovládli dvaja americkí bratia: John a Sumner Paineovci sa stali prvými súrodencami, ktorí skončili na prvom a druhom mieste v rovnakej disciplíne. Aby bratia neurobili hanbu svojim hostiteľom, rozhodli sa, že v ďalšej disciplíne, v streľbe z voľnej pištole, bude súťažiť len jeden z nich. Sumner Paine túto súťaž vyhral.
Bratia Paineovci nesúťažili v pištoli na 25 metrov, pretože rozhodcovia usúdili, že ich zbrane nemajú požadovaný kaliber. V ich neprítomnosti zvíťazil Ioannis Phrangoudis. V ten istý deň sa začala aj záverečná disciplína, voľná puška. Pre tmu sa však podujatie nedokončilo a finišovalo až na druhý deň ráno, keď sa víťazom stal Georgios Orphanidis.
Plávanie
Súťaž v plávaní sa konala na otvorenom mori. V zálive Zea pri pobreží Pirea sa na preteky prišlo pozrieť takmer 20 000 divákov. Voda v zálive bola studená a pretekári počas pretekov trpeli. Okrem troch otvorených pretekov (100 m voľný štýl mužov, 500 m voľný štýl mužov a 1 200 m voľný štýl mužov) sa v ten istý deň (11. apríla) konali aj špeciálne preteky určené len pre gréckych námorníkov.
Pre Maďara Alfréda Hajósa znamenalo, že v ten istý deň mohol súťažiť len v dvoch disciplínach. Vyhral dve disciplíny, v ktorých plával, 100 a 1200 metrov voľným štýlom. Hajós sa neskôr stal jedným z dvoch olympionikov, ktorí získali medailu v atletických aj umeleckých súťažiach, keď v roku 1924 získal striebornú medailu za architektúru. Na 500 metrov voľným štýlom zvíťazil rakúsky plavec Paul Neumann, ktorý svojich súperov porazil o viac ako minútu a pol.
Tenis
Hoci bol tenis koncom 19. storočia už významným športom, na turnaji v Aténach sa neobjavil žiadny z najlepších hráčov. Súťažilo sa na kurtoch aténskeho tenisového klubu a na ihrisku velodrómu, ktorý sa používal na cyklistické podujatia. Johna Piusa Bolanda, ktorý toto podujatie vyhral, prihlásil do súťaže jeho spolužiak z Oxfordu. V prvom kole Boland porazil Friedricha Trauna, nádejného tenistu z Hamburgu, ktorý bol vyradený v súťaži v šprinte na 100 metrov. Boland a Traun sa rozhodli spojiť v súťaži štvorhry, v ktorej sa dostali do finále a po prehratom prvom sete porazili svojich gréckych a egyptských súperov.
Vzpieranie
V roku 1896 bol vzpieračský šport ešte mladý a pravidlá sa líšili od tých, ktoré sa používajú dnes. Súťaže sa konali vonku, na ihrisku hlavného štadióna, a neexistovali žiadne hmotnostné limity. Prvé preteky sa konali štýlom, ktorý je dnes známy ako "clean and jerk". Vynikali dvaja súťažiaci: Škót Launceston Elliot a Viggo Jensen z Dánska. Obaja zdvihli rovnakú váhu, ale porota, ktorej predsedal princ George, rozhodla, že Jensen to urobil lepším štýlom. Britská delegácia, ktorá toto pravidlo o rovnosti bodov nepoznala, podala protest. Vzpieračom bolo nakoniec umožnené vykonať ďalšie pokusy, ale ani jeden z nich sa nezlepšil a za šampióna bol vyhlásený Jensen.
Elliot zvíťazil v súťaži jednoručiek, ktorá sa konala hneď po súťaži dvojručiek. Jensen sa pri svojom poslednom pokuse s dvoma rukami mierne zranil a nemohol sa rovnať Elliotovi, ktorý súťaž ľahko vyhral. Grécke publikum bolo očarené škótskym víťazom, ktorého považovalo za veľmi atraktívneho. Počas súťaže vo vzpieraní došlo ku kurióznemu incidentu: sluha dostal príkaz, aby odstránil závažia, čo sa pre neho zdalo byť náročnou úlohou. Princ George mu prišiel na pomoc; zdvihol závažie a na radosť davu ho s ľahkosťou odhodil do značnej vzdialenosti.
Zápasenie
V zápasníckej súťaži, ktorá sa konala na štadióne Panathinaiko, neexistovali žiadne váhové kategórie, čo znamenalo, že medzi súťažiacimi všetkých veľkostí bol len jeden víťaz. Používali sa pravidlá podobné modernému grécko-rímskemu zápasu, hoci neexistoval časový limit a neboli zakázané všetky chvaty na nohách (na rozdiel od súčasných pravidiel).
Okrem dvoch gréckych účastníkov sa všetci súťažiaci predtým venovali iným športom. Šampión vo vzpieraní Launceston Elliot čelil šampiónovi v gymnastike Carlovi Schuhmannovi. Ten zvíťazil a postúpil do finále, kde sa stretol s Georgiosom Tsitasom, ktorý predtým porazil Stephanosa Christopoulosa. Tma si vynútila prerušenie finálového zápasu po 40 minútach; pokračovalo sa na druhý deň, keď Schuhmann potreboval na ukončenie zápasu len štvrťhodinu.