Les géants de l’IA veulent-ils devenir leurs propres régulateurs ?

Les trois géants de l’intelligence artificielle semblent prêts à rapprocher leurs efforts en matière de sécurité. OpenAI, Anthropic et Google DeepMind discutent depuis des semaines de la création d’un organisme commun consacré aux standards de sécurité des modèles d’IA les plus avancés. L’information, révélée aux États-Unis cette semaine, marque un tournant intéressant. Les entreprises qui se livrent une compétition acharnée sur les performances de leurs modèles envisagent désormais de coopérer sur la manière de tester leurs risques.

Le projet n’est pas encore une nouvelle autorité de régulation. Les contours de la future structure restent à définir et aucune décision définitive n’a été annoncée. L’idée serait plutôt de créer un organisme professionnel capable d’établir des méthodes d’évaluation communes, de développer des standards, voire de tester les modèles les plus puissants avant leur déploiement. OpenAI a confirmé travailler avec Anthropic et Google DeepMind sur les questions de sécurité.

L’idée doit beaucoup à Demis Hassabis, le patron de Google DeepMind. En juillet, il avait proposé la création d’un organisme consacré aux modèles d’IA dits frontier, c’est-à-dire les systèmes les plus avancés. Sa référence est la FINRA, l’organisme américain d’autorégulation du secteur financier. Une telle structure pourrait réunir des entreprises, des spécialistes techniques et des évaluateurs indépendants afin de définir des pratiques communes et de tester les nouveaux modèles.

Pourquoi créer un organisme commun ?

Pourquoi une telle organisation ? Les capacités des modèles d’IA progressent rapidement et les méthodes utilisées pour mesurer leurs risques deviennent elles-mêmes un enjeu. Chaque laboratoire dispose déjà de ses propres procédures de sécurité, de tests et d’évaluations. Des standards communs pourraient faciliter la comparaison des résultats et éviter que chaque entreprise définisse seule ses propres critères. Plus les modèles deviennent puissants, plus il devient important de savoir comment mesurer leur comportement avant leur mise à disposition.

Le projet intervient aussi dans un contexte où des dirigeants du secteur demandent davantage de coordination. OpenAI a récemment appelé à l’instauration d’exigences nationales obligatoires de sécurité pour les systèmes d’IA les plus avancés. Selon elle, une partie des évaluations devrait devenir obligatoire. Le débat ne porte plus seulement sur la question de savoir s’il faut tester les modèles, mais aussi sur la manière de répartir les responsabilités entre les entreprises et les pouvoirs publics.

Qui doit fixer les règles ?

Il existe pourtant une difficulté évidente : qui doit fixer les règles ? Si OpenAI, Anthropic et Google participent à la création d’un organisme chargé de définir les standards de sécurité de l’industrie, ils contribueraient aussi à déterminer les critères auxquels leurs propres modèles seront soumis.

Des acteurs de plus petites entreprises craignent déjà qu’un dispositif conçu par les principaux laboratoires ne devienne une barrière supplémentaire à l’entrée, en augmentant les coûts de développement et d’évaluation pour leurs concurrents.

Une coopération qui peut aussi avoir un intérêt

Cette réserve ne signifie pas qu’une coopération entre concurrents serait inutile. La sécurité constitue justement l’un des domaines dans lesquels le partage de méthodes et de retours d’expérience peut présenter un intérêt collectif.

Anthropic publie par exemple régulièrement des rapports sur les utilisations abusives détectées avec Claude, et explique partager des données avec d’autres acteurs de l’industrie et les autorités. Le secteur commence déjà à construire des mécanismes de coopération, même s’ils restent largement volontaires.

Autorégulation et réglementation : deux choses différentes

Il faut aussi distinguer autorégulation et réglementation. Un organisme professionnel peut élaborer des standards ou effectuer des évaluations, mais il ne dispose pas automatiquement des pouvoirs d’une autorité publique. Il ne peut pas remplacer une loi, imposer une sanction administrative ou décider seul des obligations applicables à toutes les entreprises.

Le futur dispositif pourrait compléter l’action des pouvoirs publics, sans s’y substituer. La question de son indépendance sera néanmoins essentielle si son rôle devient important.

Des visions différentes de la sécurité

Les grands laboratoires ne sont d’ailleurs pas parfaitement alignés sur la façon de gérer la vitesse de développement de l’IA. Des dirigeants appellent à ralentir le rythme lorsque les capacités deviennent difficiles à contrôler, tandis que d’autres mettent davantage l’accent sur les mécanismes de sécurité intégrés directement dans les produits et sur l’évaluation indépendante.

Mark Zuckerberg, par exemple, estime que les entreprises ont déjà de fortes incitations à développer leurs systèmes de manière sûre, et défend le recours à des évaluateurs indépendants.

Quelles conséquences pour les utilisateurs ?

Pour l’utilisateur, ces discussions peuvent sembler éloignées des usages quotidiens de ChatGPT, Claude ou Gemini. Leurs conséquences pourraient pourtant être très concrètes.

Si des standards communs apparaissent, les futurs modèles seraient accompagnés d’évaluations plus comparables d’un laboratoire à l’autre. Les entreprises utilisatrices pourraient alors mieux apprécier les risques avant d’intégrer une IA dans leurs propres outils.

Un projet encore loin d’être finalisé

Pour l’instant, rien ne garantit cependant que le projet aboutira à une organisation dotée d’un véritable pouvoir de contrôle. Les discussions sont toujours en cours et plusieurs questions restent ouvertes : composition de l’organisme, financement, indépendance des évaluateurs, méthodes de test, publication des résultats et articulation avec les réglementations nationales.

Une chose est déjà acquise : les principaux acteurs de l’IA reconnaissent désormais qu’ils ne peuvent pas avancer seuls sur les questions de sécurité. Reste à savoir si cette coopération débouchera sur un véritable standard commun ou sur une nouvelle structure essentiellement consultative.