Čeprav se podobna igra z žogo omenja že v pesmih iz antike, velja za uradno leto rojstva rokometa 1898. leto. Nato je bilo tekmovanje v ekipi s skoraj sodobnimi pravili vključeno v program pouka fizične vzgoje na eni od šol na Danskem. Danci so zaslužni tudi za samo idejo igranja rok z žogo in gola - igralci te države so jo uporabili za ohranjanje forme pozimi.
Prvi nastop rokometa v programu Olimpija se je zgodil na zadnjih poletnih igrah pred izbruhom druge svetovne vojne. V Berlinu so igrale ekipe, sestavljene iz enajstih igralcev, zmagovalec turnirja pa je bila ekipa gostiteljev tekmovanja. Ta šport se je na olimpijske športne počitnice vrnil šele 36 let pozneje. In spet se je to zgodilo v Nemčiji - v Münchnu so tekmovale moške ekipe, ki jih je v skladu s sodobnimi pravili sestavljalo 7 igralcev. Nato je zmagala ekipa Jugoslavije. Že na naslednjih olimpijskih igrah v kanadskem Montrealu je na moški rokometni turnir dodala samico. V tistem letu so bile ekipe ZSSR močnejše od tekmecev tako v ženski kot moški konkurenci.
Sovjetska ženska ekipa je osvojila tudi naslednji olimpijski turnir leta 1980 v Moskvi, v vseh ekipah Sovjetske zveze pa je štirikrat osvojila zlata priznanja in enkrat postala srebrna in bronasta medalja. To je najboljši pokazatelj med vsemi državami, ki sodelujejo na olimpijskih rokometnih turnirjih. Potem ko je Sovjetska zveza prenehala obstajati, so zmagovito tradicijo najprej nadaljevale ekipe, sestavljene iz igralcev iz nekdanjih republik ZSSR - osvojile so eno zlato in bronasto priznanje. Nato so precej uspešno nastopile reprezentance Rusije na poletnih igrah, saj so osvojile po eno medaljo vsakega dostojanstva.
Jugoslovanska republika je z drugimi državami dosegla najvišje kazalnike, saj je na olimpijadah osvojila pet medalj različnih poimenovanj. Po razpadu te države je ena od nekdanjih republik nadaljevala tradicijo - reprezentance Hrvaške so na seznam dodale še dve zlati priznanji. Tako Rusija kot Hrvaška imata vse možnosti, da svoje prašičke napolnijo z medaljami iger na XXX poletnih olimpijskih igrah v Londonu - moška in ženska rokometna reprezentanca teh držav sta dobila pravico do udeležbe na turnirjih 2012.
