OpenAI heeft een veiligheidsmechanisme geïntegreerd in zijn systemen, waardoor AI-modellen direct kunnen worden stilgelegd als ze worden geïdentificeerd als onveilig of gevaarlijk. Deze 'kill switch' kan worden geactiveerd wanneer interne onderzoeksopdrachten worden gemarkeerd door geautomatiseerde monitoren of menselijke waarnemers voor mogelijke veiligheids- of beveiligingsrisico's. Het controlestelsel kan de output van de model binnen 35 seconden stoppen, voorkomend verdere schade. Dit ontwikkelingsproject heeft als doel de risico's die samenhangen met geavanceerde AI-modellen te reduceren.
Dit artikel is een samenvatting en analyse van Bitcoincryptos, gebaseerd op berichtgeving die oorspronkelijk is gepubliceerd door Cointelegraph. Lees het volledige originele bericht via bovenstaande link.
Deze nieuwe veiligheidsfunctie maakt deel uit van de voortdurende inspanningen van OpenAI om de voordelen van AI-ontwikkeling te balanceren met de noodzaak van verantwoord en veilig technologie. De implementatie van deze 'kill switch' benadrukt het bedrijfsverband van OpenAI om de risico's en uitdagingen die worden gepresenteerd door opkomende AI-technologieën aan te pakken.