Первая олимпиада по химии была проведена в 1938 году по инициативе профессора химического факультета МГУ Александра Петровича Терентьева с целью не столько выявить лучших учеников, сколько вообще заинтересовать детей серьезным изучением этого предмета. В 1944 году химический факультет МГУ провел I Московскую городскую олимпиаду. В 1960 году к её проведению подключилась Московская область. С утверждением положения о проведении всероссийских олимпиад школьников в 1964 году официальный статус получила Всероссийская химическая олимпиада школьников по химии.
Первая Всесоюзная олимпиада школьников по химии была проведена в Днепропетровске в 1967 году. Именно ее преемницей и стала Международная Менделеевская олимпиада, которая продолжает традиции и нумерацию Всесоюзной химической олимпиады. Своё название олимпиада получила в честь великого русского химика Дмитрия Ивановича Менделеева.
В 1992—1993 году Менделеевская олимпиада выступала последним отборочным этапом к Международной олимпиаде по химии. В 1994 году страны СНГ получили право выставлять команды самостоятельно. С 2004 года в Менделеевских олимпиадах, кроме стран СНГ и Балтии, начали принимать участие команды Болгарии, Македонии и Румынии.