OpenAI ha integrado un mecanismo de seguridad en sus sistemas, lo que permite la detención inmediata de modelos de inteligencia artificial considerados como desestabilizadores o inseguros. Este 'interruptor de seguridad' se puede activar cuando los trabajos de investigación internos son señalados por monitores automatizados o observadores humanos como potencialmente peligrosos o inseguros. El sistema de control puede detener la salida del modelo en un plazo de 35 segundos, evitando cualquier daño adicional. Este desarrollo tiene como objetivo mitigar los riesgos asociados con modelos de inteligencia artificial avanzados.
Este artículo es un resumen y análisis de Bitcoincryptos de una cobertura publicada originalmente por Cointelegraph. Lee el informe original completo en el enlace de arriba.
Este nuevo mecanismo de seguridad forma parte de los esfuerzos continuos de OpenAI para equilibrar los beneficios del desarrollo de la inteligencia artificial con la necesidad de tecnología responsable y segura. La implementación de este 'interruptor de seguridad' destaca el compromiso de la empresa con abordar los riesgos y desafíos planteados por las tecnologías de inteligencia artificial emergentes.