OpenAI souhaite mettre en place un « commutateur d’arrêt urgence » au cas où l’IA tournerait mal !

Les progrès de l’IA sont assez vertigineux et tendent à donner l’alerte à de nombreux spécialistes qui ne cessent de clamer le danger qui guette l’humanité. Les ingénieurs d’OpenAI pensent sérieusement à intégrer un « bouton d’arrêt urgence » au cas où ChatGPT se comporte d’une manière irraisonnable.

Un commutateur d’arrêt d’urgence intégré directement au matériel

Pour être certain d’arrêter l’IA qui s’emballerait à effectuer des opérations irraisonnées et non programmées ou non voulues, les ingénieurs d’OpenAI pensent qu’il faudra intégrer un « bouton d’arrêt d’urgence ». Ce dernier pourra être intégré directement au matériel pour plus d’efficacité. En effet, une IA capable de prendre le contrôle d’un pan de la société comme le système financier n’est pas utopique.

Les prochaines infrastructures d’IA chez OpenAI nécessiteront donc des fonctions de sécurité au niveau du microprocesseur avec des interrupteurs d’arrêt. C’est précisément le responsable du matériel d’OpenAI, Mr Ho qui a donné cette information lors d’une intervention à l’ouverture de AI Infra Summit à Santa Clara.

« Il faut que ce soit intégré au matériel », a-t-il déclaré en faisant allusion à l’arrêt d’urgence pour stopper l’IA en cas de délire. Ce qu’il dit par la suite est assez flippant : « Il suppose que ce dispositif d’arrêt fonctionnera correctement… Je ne dis pas qu’on ne peut pas débrancher ce matériel, mais je vous assure que ces choses sont sournoises, les modèles le sont vraiment, et donc, en tant que spécialiste du matériel, je veux m’en assurer. »

Il faut reconnaître que le développement et la course à l’intelligence artificielle oblige aujourd’hui les acteurs du marché à repenser l’architecture du système. Aussi, ils devront prendre en compte qu’une IA peut avoir une longue durée de vie et qu’elle va interagir en arrière-plan à notre insu sans qu’un utilisateur ait pu faire quoi que ce soit.

Des mesures de sécurité avec des kill switchs en temps réel

Il ne suffira pas mettre en place de nouvelles infrastructures riche en mémoire et à faible latence. Chez OpenAI, on pense que les sessions des agents devront communiquer entre eux. Pour cela, plusieurs limites à l’heure actuelle doivent être franchis comme l’utilisation à de la mémoire à large bande passante, l’intégration des puces avancées 2,5D et 3D, la nécessité et l’optimisation des puissances de calcul capable d’atteindre 1 mégawatt par rack.

Alors, pour contrôler tout ce beau monde matériel qui donnerait un pouvoir presque infini à l’IA, les mesures de sécurité doivent être prises. Elles comprennent donc des kill switchs en temps réel intégrés aux clusters d’IA. Ainsi, les signes de comportement anormal seront détectés en temps réel également et pourront être stoppés.