Mặc dù một trò chơi bóng tương tự được đề cập đến ngay cả trong các bài thơ cổ, năm chính thức ra đời của môn bóng ném được coi là năm 1898. Sau đó phần thi đồng đội với luật chơi gần như hiện đại đã được đưa vào chương trình giáo dục thể chất của một trong những trường học ở Đan Mạch. Người Đan Mạch cũng được cho là có ý tưởng chơi bóng bằng tay và ghi bàn - các cầu thủ nước này đã sử dụng nó để giữ thể lực trong mùa đông.
Sự xuất hiện đầu tiên của môn bóng ném trong chương trình Thế vận hội diễn ra vào các trận đấu mùa hè cuối cùng trước khi Thế chiến thứ hai bắt đầu. Các đội gồm mười một cầu thủ đã chơi ở Berlin, với đội chủ nhà đã giành chiến thắng trong giải đấu. Môn thể thao này quay trở lại các ngày lễ của các môn thể thao Olympic chỉ 36 năm sau đó. Và điều này lại xảy ra ở Đức - ở Munich, các đội nam thi đấu, theo quy định hiện đại, gồm 7 cầu thủ. Sau đó, đội tuyển quốc gia Nam Tư đã trở thành đội chiến thắng. Tại Thế vận hội tiếp theo ở Montreal, Canada, một giải đấu bóng ném nữ đã được thêm vào giải bóng ném nam. Năm đó, các đội Liên Xô tỏ ra mạnh hơn các đối thủ của họ ở cả nội dung thi đấu của nữ và nam.
Đội tuyển nữ Liên Xô đã giành chiến thắng trong giải đấu Olympic tiếp theo vào năm 1980 tại Moscow, và các đội Liên Xô đã giành huy chương vàng bốn lần và một lần trở thành đội giành huy chương bạc và đồng. Đây là chỉ số tốt nhất trong số tất cả các quốc gia tham dự các giải đấu bóng ném Olympic. Sau khi Liên Xô chấm dứt tồn tại, truyền thống chiến thắng lần đầu tiên được tiếp tục bởi các đội gồm các cầu thủ đến từ các nước cộng hòa cũ của Liên Xô - mỗi người giành được một huy chương vàng và một huy chương đồng. Sau đó, các đội tuyển quốc gia của Nga, đội giành được một huy chương mỗi hạng, đã thi đấu khá thành công tại các trận đấu mùa hè.
Trong số các quốc gia khác, Nam Tư đạt kết quả cao nhất, khi giành được 5 huy chương các mệnh giá khác nhau tại các kỳ Olympic. Sau khi nhà nước này sụp đổ, một trong những nước cộng hòa cũ vẫn tiếp tục truyền thống của mình - các đội tuyển quốc gia của Croatia đã bổ sung thêm hai giải vàng vào danh sách. Cả Nga và Croatia đều có cơ hội bổ sung huy chương cho Thế vận hội mùa hè lần thứ XXX ở London - đội tuyển bóng ném nam và nữ của các quốc gia này đã nhận được quyền tham dự giải đấu năm 2012.
