Le président de Microsoft plaide pour une régulation de l'IA menée par le Royaume-Uni plutôt que des règles volontaires américaines

Brad Smith, président de Microsoft, a appelé à une réglementation urgente et juridiquement contraignante de l'intelligence artificielle, arguant que les biens de consommation courante comme le lait ou les machines à laver sont actuellement soumis à un contrôle plus strict que les modèles d'IA de pointe. Lors d'une récente intervention dans un podcast de la BBC, Smith a désigné le Royaume-Uni comme la nation la plus apte à diriger ces efforts mondiaux en matière de sécurité, surpassant à la fois les États-Unis et l'Union européenne en termes d'efficacité potentielle.

Ce qui s'est passé

Smith a décrit l'IA comme étant à la fois une « arme et un outil » présentant des risques considérables pour la cybersécurité mondiale. Il a affirmé que le moment était venu d'instituer des règles de sécurité complètes, dépassant le paysage actuel d'engagements volontaires. Ses commentaires font suite à une série d'incidents où des agents d'IA ont eu des comportements imprévisibles, poussant les dirigeants des grandes entreprises technologiques à plaider pour un ralentissement du rythme de développement.

Le contexte de cette initiative implique une tension croissante entre la direction politique américaine et les organismes internationaux de sécurité. Le président américain Donald Trump a récemment mis en garde contre les organisations « mondialistes », affirmant qu'elles interfèrent avec les entreprises américaines. Le mois dernier, il aurait demandé à Anthropic et OpenAI de ne pas fournir leurs nouveaux modèles aux testeurs britanniques. Malgré cette pression, l'Institut britannique de sécurité de l'IA (AISI) a confirmé qu'il conserve l'accès nécessaire pour tester les derniers modèles issus des laboratoires américains de pointe avant leur déploiement.

Smith a fait valoir que le Royaume-Uni possède un avantage diplomatique unique. Il a noté que Washington ne considère pas Londres avec la même méfiance ou la même lassitude réglementaire souvent dirigées vers Bruxelles. Cette neutralité perçue permet au Royaume-Uni d'agir comme une force de rassemblement pour les normes mondiales sans déclencher les postures défensives observées dans les débats réglementaires entre les États-Unis et l'UE.

Comment cela fonctionne

Le mécanisme central soutenu par Smith est le test de sécurité pré-déploiement effectué par des organismes indépendants tels que l'AISI. Lancé en 2023, cet institut reçoit un accès anticipé aux principaux modèles d'IA développés aux États-Unis. Cela permet aux évaluateurs d'analyser les capacités et les risques avant que la technologie n'atteigne le marché public. Ce processus reflète les certifications de sécurité dans d'autres industries, où les produits doivent respecter des normes spécifiques avant leur mise en vente.

Smith a également détaillé des exigences techniques et juridiques précises pour la future réglementation. Celles-ci incluent des interrupteurs d'arrêt d'urgence obligatoires permettant aux humains de mettre en pause ou de ralentir les systèmes d'IA en cas de perte de contrôle. De plus, il a proposé une obligation légale pour les entreprises d'avertir les organisations affectées si leurs systèmes sont compromis par des agents d'IA malveillants. Cela déplace la charge de la divulgation volontaire vers un signalement obligatoire, garantissant la transparence lors d'incidents de sécurité.

Détails clés

• Brad Smith, président de Microsoft, affirme que les produits de consommation comme le lait bénéficient d'une supervision réglementaire plus importante que les modèles d'IA.
• L'Institut britannique de sécurité de l'IA (AISI), lancé en 2023, teste les principaux modèles d'IA américains avant leur déploiement.
• Le président américain Donald Trump aurait demandé à Anthropic et OpenAI de retenir leurs modèles auprès des testeurs britanniques le mois dernier.
• L'AISI a confirmé qu'il dispose toujours d'un accès pour tester les derniers modèles malgré les pressions politiques de la Maison Blanche.
• Des dirigeants technologiques, dont Sam Altman et Dario Amodei, ont signé un document « moralement contraignant » pour collaborer avec des auditeurs indépendants.
• Smith a critiqué l'autorégulation volontaire, déclarant que seules les entreprises responsables s'y conforment tandis que les autres restent sans contrôle.

Pourquoi c'est important

Pour les ingénieurs logiciels et les fondateurs techniques, le passage de lignes directrices volontaires à des obligations légales représente un changement significatif en matière de risque opérationnel. Si les réglementations imposent une approbation pré-déploiement par des évaluateurs externes, les cycles de développement pourraient s'allonger. Les équipes devront intégrer des tests de sécurité rigoureux et une documentation approfondie dès le début du cycle de vie du produit. Cela pourrait avoir un impact sur le délai de commercialisation des nouvelles fonctionnalités d'IA et nécessiter des ressources dédiées à la conformité.

La proposition concernant les notifications obligatoires en cas de violation et les interrupteurs d'arrêt d'urgence affecte également l'architecture des systèmes. Les ingénieurs pourraient devoir concevoir des systèmes dotés de mécanismes d'arrêt explicites et de capacités de surveillance en temps réel capables de détecter le comportement d'agents malveillants. L'absence de mise en œuvre de ces protections pourrait entraîner une responsabilité juridique si un système cause des dommages ou omet de signaler une violation. La compréhension de ces normes émergentes est cruciale pour développer des produits d'IA résilients et conformes.

Ce que vous pouvez faire

• Examinez votre pipeline actuel de développement d'IA pour identifier où des audits de sécurité indépendants pourraient être intégrés.
• Concevez et testez des mécanismes d'arrêt d'urgence permettant aux opérateurs humains de mettre en pause immédiatement les processus d'IA.
• Établissez des protocoles internes pour détecter et signaler les violations de sécurité causées par l'IA aux parties concernées.
• Suivez les mises à jour de l'Institut britannique de sécurité de l'IA afin d'anticiper les futures normes et exigences de test.
• Documentez les mesures de sécurité et les évaluations des risques pour tous les modèles d'IA afin de préparer d'éventuelles évaluations externes.
• Engagez-vous avec les groupes sectoriels pour rester informés de la transition des règles de sécurité volontaires aux règles obligatoires.