Ich habe Angst. Es wäre verrückt, das nicht zu sein“, sagt ein Ex-Mitarbeiter zu Vox.
Mitarbeiter führender KI-Unternehmen haben am Dienstag einen ungewöhnlichen Vorschlag veröffentlicht und fordern das Recht, vor den Risiken fortschrittlicher künstlicher Intelligenz zu warnen. Die 13 Unterzeichner, darunter aktuelle und ehemalige Mitarbeiter von OpenAI und Google DeepMind, betonen die Notwendigkeit von Schutzmaßnahmen, um potenzielle Schäden durch KI-Technologie zu verhindern.
„Ich habe Angst. Es wäre verrückt, keine Angst zu haben“, sagte Daniel Kokotajlo, der im April nach Verlust des Vertrauens in die Führung von OpenAI das Unternehmen verließ. Mehrere sicherheitsbewusste Mitarbeiter sind in letzter Zeit aus ähnlichen Gründen ausgeschieden, was die Besorgnis verstärkt, dass OpenAI die Risiken der Technologie nicht ernst genug nimmt.
Der Vorschlag, der von renommierten Experten wie Geoffrey Hinton, Yoshua Bengio und Stuart Russell unterstützt wird, zielt darauf ab, die Anreize für KI-Unternehmen zu verändern, indem ihre Aktivitäten transparenter gemacht werden. Die Unterzeichner fordern, dass sie ihre Bedenken gegenüber den Vorständen der Unternehmen, Regulierungsbehörden und unabhängigen Expertenorganisationen äußern dürfen, ohne Repressalien befürchten zu müssen.
Ein Sprecher von OpenAI betonte, dass es bereits Plattformen wie Führungssprechstunden, Q&A-Sitzungen mit dem Vorstand und eine anonyme Integritätshotline gibt, über die Mitarbeiter ihre Gedanken äußern können.
„Gewöhnliche Whistleblower-Schutzmaßnahmen sind unzureichend, da sie sich auf illegale Aktivitäten konzentrieren, während viele der Risiken, die uns Sorgen bereiten, noch nicht reguliert sind“, schreiben die Unterzeichner im Vorschlag. Sie haben den pro bono Anwalt Lawrence Lessig engagiert, der zuvor Facebook-Whistleblowerin Frances Haugen beraten hat.
Eine weitere Forderung der Unterzeichner ist das Ende von Nichtverleumdungsvereinbarungen, die Insider daran hindern, risikobezogene Bedenken zu äußern. Ehemalige OpenAI-Mitarbeiter fühlten sich durch solche Vereinbarungen oft mundtot gemacht.
Jan Leike, ehemaliger Leiter des Alignment-Teams von OpenAI, sagte, dass „Sicherheitskultur und -prozesse hinter glänzenden Produkten zurückstehen mussten“. Carroll Wainwright, der letzte Woche aus ähnlichen Gründen ausschied, äußerte sich ebenfalls besorgt über die Anreize bei OpenAI.
Die Frage bleibt, wie man die zugrunde liegende Anreizstruktur in der KI-Industrie ändern kann. OpenAI begann als gemeinnützige Organisation, musste jedoch eine gewinnorientierte Sparte gründen und eine Partnerschaft mit Microsoft eingehen, um die notwendige Rechenleistung zu finanzieren. Auch die rivalisierende Firma Anthropic, die von ehemaligen OpenAI-Mitarbeitern gegründet wurde, musste sich letztlich mit Amazon zusammentun.
„Die Vorfälle im letzten November haben gezeigt, dass der Vorstand nicht die Durchschlagskraft hat, die man sich erhofft hatte“, sagte Wainwright. Deshalb glauben die Unterzeichner nicht, dass individuelle Strukturen der Unternehmensführung ausreichen, um eine wirksame Aufsicht sicherzustellen.
Neben Regulierung sehen die Unterzeichner das Recht der Mitarbeiter, die Öffentlichkeit zu warnen, als entscheidend an. Insidern soll ermöglicht werden, die Risiken, die sie sehen, offen anzusprechen, um Unternehmen zu zwingen, diese Risiken ernst zu nehmen. Dies wäre für alle von Vorteil, unabhängig davon, welche Art von KI-Risiko sie beunruhigt.