Senatoren durchleuchten OpenAI: Sicherheit und Arbeitspraktiken unter der Lupe
Der US-Senat hat OpenAI, einen der führenden Anbieter von KI-Technologien, aufgefordert, mehr Transparenz über seine Sicherheits- und Arbeitspraktiken zu bieten. Die Senatoren möchten wissen, wie das Unternehmen sicherstellt, dass seine KI-Systeme sicher und verantwortungsvoll entwickelt werden.
Kritik an der Priorisierung von Produktentwicklung
Der Anstoß für die Untersuchung kam, nachdem ein Forscher, Jan Leike, von OpenAI zurücktrat und das Unternehmen beschuldigte, die Produktentwicklung über Sicherheitsbedenken zu stellen. Diese Vorwürfe haben zu einer breiten Debatte über die Sicherheit von KI-Systemen geführt.
Neues Sicherheitskomitee bei OpenAI
Als Reaktion auf die Kritik hat OpenAI ein neues Sicherheits- und Sicherheitskomitee eingerichtet, das den Vorstand in Fragen der Sicherheit und Sicherheit beraten soll. Das Komitee besteht aus vier technischen und politischen Experten des Unternehmens sowie vier externen Mitgliedern, darunter der CEO von OpenAI, Sam Altman, und der Vorsitzende Bret Taylor.
Ziele des Sicherheitskomitees
Das Komitee soll innerhalb von 90 Tagen Empfehlungen zur Verbesserung der Sicherheitsprozesse und -sicherungen von OpenAI vorlegen. Diese Empfehlungen sollen dann öffentlich zugänglich gemacht werden.
Quelle: https://www.artificialintelligence-news.com/news/senators-probe-openai-safety-employment-practices/