Pourquoi les patrons de l’IA veulent-ils freiner leur propre course ?

Les dirigeants des grandes entreprises de l’intelligence artificielle ont appelé mercredi à davantage de vigilance lors du sommet de l’ONU. Sam Altman, le patron d’OpenAI, et Dario Amodei, à la tête d’Anthropic, ont notamment insisté sur la nécessité d’une coopération internationale face à l’accélération du développement de l’IA.

Anthropic est même allé plus loin, en s’engageant à ralentir son propre développement si cela devenait nécessaire pour des raisons de sécurité. Une position qui peut sembler paradoxale pour une entreprise dont l’activité consiste précisément à développer des modèles d’intelligence artificielle toujours plus performants.

Un élément permet toutefois de mieux comprendre ce paradoxe : en Europe, la puissance d’un modèle d’IA peut avoir des conséquences sur les obligations de son fabricant.

Le règlement européen sur l’intelligence artificielle prévoit en effet un régime spécifique pour les modèles dont les capacités sont suffisamment importantes pour que les risques qu’ils présentent puissent avoir des conséquences à grande échelle. Ces modèles sont notamment soumis à des obligations renforcées lorsqu’ils sont considérés comme présentant un « risque systémique ».

L’article 55 de l’AI Act impose alors plusieurs exigences à leurs fabricants. Ils doivent notamment évaluer les risques liés à leurs modèles, réaliser des tests destinés à identifier et réduire ces risques, signaler les incidents graves et assurer un niveau de cybersécurité approprié.

Autrement dit, rendre un modèle toujours plus puissant ne signifie pas seulement améliorer ses performances. À partir d’un certain niveau, cela peut aussi faire entrer son fabricant dans un cadre réglementaire plus exigeant.

C’est donc un élément important derrière les appels à la prudence des dirigeants de l’IA : la course technologique est aussi une course aux exigences de sécurité. Plus leurs modèles deviennent puissants, plus les obligations qui peuvent peser sur ceux qui les développent deviennent importantes.