Mitarbeiter von KI-Unternehmen fordern Schutzmaßnahmen gegen Risiken der künstlichen Intelligenz
- Mitarbeiter von OpenAI und Google DeepMind fordern Schutzmaßnahmen gegen KI-Risiken.
- Experten wie Geoffrey Hinton und Yoshua Bengio unterstützen den Vorschlag.
Mitarbeiter führender KI-Unternehmen haben einen Vorschlag veröffentlicht, der das Recht fordert, vor den Risiken fortschrittlicher KI zu warnen. Die 13 Unterzeichner, darunter Mitarbeiter von OpenAI und Google DeepMind, betonen die Notwendigkeit von Schutzmaßnahmen.
Daniel Kokotajlo, ein ehemaliger Mitarbeiter von OpenAI, äußerte seine Besorgnis über die Führung des Unternehmens. Mehrere sicherheitsbewusste Mitarbeiter haben aus ähnlichen Gründen das Unternehmen verlassen.
Der Vorschlag wird von Experten wie Geoffrey Hinton, Yoshua Bengio und Stuart Russell unterstützt. Die Unterzeichner fordern Transparenz und das Recht, Bedenken ohne Repressalien zu äußern.
Ein Sprecher von OpenAI betonte, dass es bereits Plattformen gibt, über die Mitarbeiter ihre Gedanken äußern können. Dazu gehören Führungssprechstunden, Q&A-Sitzungen und eine anonyme Integritätshotline.
Die Unterzeichner kritisieren, dass gewöhnliche Whistleblower-Schutzmaßnahmen unzureichend sind. Sie haben den Anwalt Lawrence Lessig engagiert, der zuvor Facebook-Whistleblowerin Frances Haugen beraten hat.
Eine weitere Forderung ist das Ende von Nichtverleumdungsvereinbarungen, die Insider daran hindern, risikobezogene Bedenken zu äußern. Ehemalige OpenAI-Mitarbeiter fühlten sich durch solche Vereinbarungen oft mundtot gemacht.
Jan Leike, ehemaliger Leiter des Alignment-Teams von OpenAI, sagte, dass Sicherheitskultur und -prozesse hinter glänzenden Produkten zurückstehen mussten. Carroll Wainwright äußerte sich ebenfalls besorgt über die Anreize bei OpenAI.
Die Frage bleibt, wie man die Anreizstruktur in der KI-Industrie ändern kann. OpenAI begann als gemeinnützige Organisation, musste jedoch eine gewinnorientierte Sparte gründen und eine Partnerschaft mit Microsoft eingehen.
Die Unterzeichner glauben nicht, dass individuelle Strukturen der Unternehmensführung ausreichen, um eine wirksame Aufsicht sicherzustellen. Sie sehen das Recht der Mitarbeiter, die Öffentlichkeit zu warnen, als entscheidend an.
Insidern soll ermöglicht werden, die Risiken, die sie sehen, offen anzusprechen. Dies würde Unternehmen zwingen, diese Risiken ernst zu nehmen und wäre für alle von Vorteil.
