Microsoft-KI-Tool in der Kritik: Shane Jones fordert Zusammenarbeit für sichere KI
- Shane Jones äußert Bedenken über Microsofts Copilot Designer-Tool
- Forderung nach Zusammenarbeit für sichere KI und transparente Risikoaufklärung
Ein KI-Ingenieur bei Microsoft äußerte Bedenken über das Copilot Designer-Tool des Unternehmens, das potenziell gefährliche Inhalte erzeugen könnte. Shane Jones appellierte in Briefen an Microsoft und die FTC für eine Zusammenarbeit, um KI sicherer zu machen und Risiken transparenter zu gestalten.
Er forderte Microsoft auf, das Copilot Designer-Tool aus der öffentlichen Nutzung zu entfernen, bis bessere Sicherheitsvorkehrungen getroffen werden könnten. Jones betonte die Notwendigkeit einer robusten Zusammenarbeit über die Industrie hinaus, um die Risiken der KI zu adressieren und öffentliches Bewusstsein zu schaffen.
Brad Smith, Präsident von Microsoft, diskutierte das Engagement des Unternehmens, KI für Benutzer sicher zu machen. Jones' Briefe folgen auf Kontroversen um Googles KI-Vorstoß und Sicherheitsprobleme bei anderen Unternehmen mit KI-Produkten.
Er entdeckte Sicherheitslücken im DALL-E 3-Modell von OpenAI und forderte die FTC auf, mit Microsoft und anderen Unternehmen zusammenzuarbeiten, um KI sicherer zu machen und Risiken transparenter zu gestalten.
