Le gouverneur Gavin Newsom envisage la mise en place de plusieurs réglementations destinées à garder le contrôle sur l’intelligence artificielle. Parmi elles figure la possibilité, le cas échéant, d’éteindre même les modèles de langage les plus avancés.
Gavin Newsom entend faire lever le pied sur le développement de l’intelligence artificielle. Le gouverneur de Californie a signé, vendredi 18 septembre, un décret prévoyant la création d’un comité d’urgence chargé d’établir de nouvelles règles de sécurité face à cette technologie dans son État.
L’une des principales mesures envisagées porte sur la création d’un mécanisme d’arrêt d’urgence, une sorte de bouton « off », destiné à mettre hors service les modèles les plus avancés.
« Nous devrions être capables d’arrêter des systèmes qui ne se comportent pas d’une manière que nous considérons comme sûre et fiable », estime la députée de l’Assemblée de Californie Rebecca Bauer-Kahan, également présidente de la commission chargée de la protection de la vie privée et des consommateurs, citée par ABC10.
Le décret vise aussi à accélérer l’application de deux lois sur l’intelligence artificielle, déjà promulguées par le gouverneur. L’une d’elles crée un registre d’État destiné aux auditeurs d’IA et fixe des normes pour les entreprises tierces chargées de réaliser ces contrôles.
Des inquiétudes grandissantes
L’autre loi, porté par le sénateur de l’État Jerry McNerney, favorise la création d’une commission californienne sur les normes et la sécurité de l’IA, afin de permettre une évaluation indépendante des systèmes et modèles d’intelligence artificielle.
« Les audits indépendants sont essentiels. Nous ne pouvons pas laisser ces entreprises corriger elles-mêmes leurs devoirs lorsqu’il s’agit des risques que ces entités font peser sur nos communautés. Vous ne voulez pas que les entreprises s’autorégulent. Vous voulez une personne extérieure, experte et capable de comprendre les risques », défend Rebecca Bauer-Kahan.
Le décret actualiserait également la définition des incidents critiques de sécurité que les entreprises d’intelligence artificielle sont tenues de signaler. Cette définition inclurait notamment les cas de perte de contrôle.
L’initiative californienne intervient alors que de plus en plus de voix s’alarment du développement accéléré et non régulé de l’IA, au nom de la compétition technologique, tandis que les cas de dérives se multiplient.
Une réponse à l’inaction du pouvoir fédéral
Il y a quelques jours, Jacob Coxon, ingénieur britannique passé chez OpenAI, puis chez Anthropic, a démissionné de son poste afin d’alerter sur « ces entreprises d’IA qui s’amusent avec nos vies ».
« Lorsque des dirigeants de grandes entreprises technologiques expriment leurs inquiétudes concernant le développement rapide de cette technologie, je pense que les responsables élus changent également d’attitude », affirme un intervenant sur ABC10.
Parallèlement, le président Donald Trump refuse d’entendre ces appels, écartant toute idée de régulation ou de freinage dans le développement de l’IA. « Nous devançons la Chine dans le domaine de l’IA, nous sommes le pays le plus avancé au monde et, franchement, je veux que cela reste ainsi. Celui qui gagne l’IA gagne tout », a-t-il déclaré.
De quoi agacer Gavin Newsom, qui avait lui-même opposé son veto à une initiative du sénateur Scott Wiener visant à instaurer un mécanisme d’arrêt d’urgence pour certains grands modèles d’intelligence artificielle. C’est dire à quel point les choses ont évolué.