1894年6月23日在巴黎召開的國際體育代表大會上成立。發起人是法國的教育家皮埃爾·德·顧拜旦男爵。
1894年成立後，總部設在巴黎。
1914年第一次世界大戰爆發，為了避免戰火的洗劫，1915年4月10日總部遷入有“國際文化城”之稱的瑞士洛桑。這裡有奧林匹克博物館，奧林匹克研究中心，還有以顧拜旦名字命名的大街，體育場等等。數十年來，洛桑為奧林匹克運動的發展，作出了重大貢獻，稱為"奧林匹克之都"。國際奧委會也是在這個美好的城市逐漸發展、壯大而聞名於世的。國際奧林匹克委員會，簡稱國際奧委會，是奧林匹克運動的領導機構，是一個不以營利為目的、具有法律地位和永久繼承權的法人團體。國際奧委會根據現代奧林匹克運動創始人顧拜旦的理想，恢復奧林匹克運動的目的，在於增強各國運動員之間的友誼與團結，促進世界和平以及各國人民之間的相互瞭解，發展世界體育運動。
