L’idée de regrouper les Comités Nationaux Olympiques (CNO) européens sous une même structure, née de l’inspiration de Giulio Onesti (ITA), Raoul Mollet (BEL) et Raymond Gafner (SUI), a pris forme pour la première fois en 1967 à Téhéran où a été amorcée la création de ce qui allait devenir l’ACNO (Association des Comités Nationaux Olympiques).

L’Assemblée générale de 1980, composée de 33 membres, élit Franco Carraro (ITA) comme président, tandis que le secrétariat est confié à Adrien Vanden Eede (BEL).
During the ‘80s, the Association’s key meetings – the General Assembly and the Seminar for Secretaries General and Chefs de Mission – helped the EOC establish its value to its members. The meetings regularly addressed themes critical to the success of the Olympic Movement, including preparations for an Olympic Games, Olympic Solidarity and marketing. The Organising Committees for future Olympic Games became regular guests at these meetings. Then, from 1987 Kurt Heller (AUT) led the Association.

En 1989, la présidence est confiée à M. Jacques Rogge (BEL)
et le secrétariat s’installe à Rome, auprès du bureau du Secrétaire Général Mario Pescante (ITA). Les activités des CNO européens augmentent considérablement sous leur direction.

Les changements politiques en Europe, à partir de 1991, permettent à 15 autres CNO de rejoindre l’Association, portant le total de ses membres à 48 en 1994.

En 1995, l’ACNOE change son nom en Comités Olympiques Européens (COE).

A cette même époque, son siège légal, précédemment lié à la résidence du secrétaire général, est établi à Rome, Italie où se trouve également son siège opérationnel, dans les locaux du Comité national olympique italien.

En juillet 2001, lors de la 112ème Session du CIO à Moscou, Jacques Rogge devient président du CIO. Quatre mois plus tard, à Monte-Carlo, la 30ème assemblée générale des COE élit Mario Pescante Président des Comités Olympiques Européens, tandis que le Secrétariat Général est confié au Président du Comité olympique irlandais, Patrick Hickey (IRL).

En décembre 2005, l’Assemblée générale des COE, à Dublin (Irlande) élit le Comité exécutif pour 2005-2009. Le Président Mario Pescante, le Vice-président Alexander Kozlovsky (RUS) et le Secrétaire général Patrick Hickey sont tous reconfirmés à leurs postes.

En 2007, l’Association se modernise : elle modifie ses statuts, adopte un logo plus moderne et crée le poste de trésorier des COE distinct de celui de secrétaire général.

En 2014, le CNO du Kosovo, ayant été reconnu par le CIO, devient le cinquantième membre des COE.

À Zagreb, la 46e assemblée générale de l’Association confie la présidence des COE à Janez Kocijancic

Janez Kocijančič, le huitième président des COE, est décédé le 1er juin 2020 à l’âge de 78 ans. Il a rejoint les COE en 1997, d’abord en tant qu’auditeur, puis en 2005 en tant que membre du Comité Exécutif.

Il était un grand ambassadeur et promoteur du Mouvement Olympique et un véritable défenseur des valeurs olympiques pour l’éducation, la paix et l’inclusion sociale.

Lors du décès de Janez Kocijančič, le vice-président Niels Nygaard a pris la relève en tant que président par intérim jusqu’à la tenue de nouvelles élections lors de l’Assemblée Générale de 2021.

L’élection a eu lieu lors de la 50e Assemblée Générale des COE, à laquelle ont assisté des représentants des 50 Comités Nationaux Olympiques européens — 46 en personne et 4 virtuellement.

Capralos a obtenu 34 voix contre 16 pour Niels Nygaard.