OpenAI a intégré un mécanisme de sécurité dans ses systèmes, permettant le blocage immédiat des modèles d'IA jugés opérer de manière défaillante ou dangereuse. Ce « kill switch » peut être activé lorsque les tâches de recherche interne sont signalées par des moniteurs automatisés ou des observateurs humains pour des préoccupations potentielles de sécurité ou de sécurité. Le système de contrôle peut arrêter la sortie du modèle dans un délai de 35 secondes, empêchant tout préjudice supplémentaire. Cette mise en œuvre vise à atténuer les risques associés aux modèles d'IA avancés.
Cet article est un résumé et une analyse de Bitcoincryptos d'un reportage publié à l'origine par Cointelegraph. Lisez le rapport original complet via le lien ci-dessus.
Cette nouvelle fonction de sécurité fait partie des efforts continus d'OpenAI pour équilibrer les avantages du développement d'IA avec la nécessité de technologie responsable et sécurisée. La mise en œuvre de ce « kill switch » met en évidence l'engagement de la société pour aborder les risques et les défis posés par les technologies d'IA émergentes.