OpenAI hat ein Sicherheitskonzept in seine Systeme integriert, das eine sofortige Einstellung von KI-Modellen ermöglicht, die als verrückt oder gefährlich angesehen werden. Dieser 'Kill-Schalter' kann aktiviert werden, wenn interne Forschungsarbeiten von automatischen Überwachungssystemen oder menschlichen Beobachtern auf potenzielle Sicherheits- oder Sicherheitsbedenken hinweisen. Das Kontrollsystem kann die Ausgabe des Modells innerhalb eines Zeitraums von 35 Sekunden stoppen, um weitere Schäden zu verhindern. Diese Entwicklung zielt darauf ab, die Risiken, die mit fortschrittlichen KI-Modellen verbunden sind, zu mindern.
Dieser Artikel ist eine Zusammenfassung und Analyse von Bitcoincryptos zu einer Berichterstattung, die ursprünglich von Cointelegraph veröffentlicht wurde. Den vollständigen Originalbericht finden Sie über den obigen Link.
Dieses neue Sicherheitsmerkmal ist Teil der Bemühungen von OpenAI, die Vorteile der KI-Entwicklung mit der Notwendigkeit verantwortungsvoller und sicheren Technologie in Einklang zu bringen. Die Implementierung dieses 'Kill-Schalters' unterstreicht die Verpflichtung des Unternehmens, die Risiken und Herausforderungen, die durch neue KI-Technologien aufgeworfen werden, anzugehen.