Im Mittelpunkt eines juristischen Großangriffs gegen OpenAI stehen Vorwürfe, wonach das Unternehmen eine klare Warnung vor einem gewalttätigen Nutzer seines Chatbots ignoriert habe. Wie aus sieben Klagen hervorgeht, die am Mittwoch vor einem kalifornischen Gericht eingereicht wurden, hatte die interne Sicherheitsabteilung des KI-Unternehmens bereits Monate vor dem Amoklauf an einer kanadischen Schule Maßnahmen gefordert – darunter eine Meldung an die Behörden. Stattdessen wurde der Nutzer nur mit einer Kontosperrung konfrontiert, die jedoch umgehend durch eine erneute Registrierung umgangen werden konnte.
Sicherheitswarnungen blieben ungehört – trotz konkreter Gewaltandrohungen
Laut den eingereichten Dokumenten hatte OpenAIs internes Sicherheitsteam im Vorfeld des tragischen Vorfalls im Jahr 2023 wiederholt davor gewarnt, dass ein bestimmter ChatGPT-Nutzer reale Gewaltandrohungen aussprach. Die Experten waren der Auffassung, dass eine Meldung an die Strafverfolgungsbehörden notwendig sei, insbesondere da die lokalen Behörden bereits zuvor wegen dieses Nutzers aktiv geworden waren – unter anderem durch die Entfernung von Schusswaffen aus dessen Haushalt. Doch die Führungsebene von OpenAI entschied sich gegen eine solche Maßnahme.
Datenschutz über Sicherheitsbedenken – ein fatales Kalkül
Wie aus den Klagen weiter hervorgeht, begründete OpenAI seine Entscheidung damit, dass der Schutz der Privatsphäre des Nutzers sowie die mögliche Belastung durch eine polizeiliche Ermittlung schwerer wögen als das Risiko einer bevorstehenden Gewalttat. Statt einer Meldung an die Behörden wurde das Konto lediglich deaktiviert. Noch überraschender: Der Nutzer erhielt eine Anleitung, wie er sich mit einer neuen E-Mail-Adresse erneut bei ChatGPT anmelden könne – was dieser laut den Klagen auch tat und so seine Pläne weiterverfolgte.
Juristische Konsequenzen und zukünftige Verantwortung von KI-Unternehmen
Die sieben Klagen, die nun gegen OpenAI eingereicht wurden, fordern nicht nur Schadenersatz, sondern werfen auch grundsätzliche Fragen zur Verantwortung von KI-Unternehmen auf. Die Vorwürfe zielen darauf ab, dass OpenAI durch das Unterlassen von Sicherheitsmaßnahmen eine Mitverantwortung für den Amoklauf trägt. Die Kläger argumentieren, dass das Unternehmen durch seine Weigerung, interne Warnsignale ernst zu nehmen, eine gefährliche Lücke in der Prävention von Gewaltverbrechen geschaffen habe.
Die juristische Auseinandersetzung könnte weitreichende Folgen für die gesamte Branche haben. Sollte das Gericht die Vorwürfe bestätigen, könnten KI-Unternehmen künftig verpflichtet sein, bei konkreten Gewaltandrohungen umgehend die Behörden zu informieren – unabhängig von datenschutzrechtlichen Bedenken. Dies würde nicht nur die Sicherheitsprotokolle von OpenAI und ähnlichen Unternehmen grundlegend verändern, sondern auch die Erwartungshaltung der Gesellschaft an den Umgang mit KI-gestützter Kommunikation prägen.
OpenAI selbst hat bisher noch nicht öffentlich auf die Vorwürfe reagiert. Die kommenden Monate werden zeigen, ob die Klagen zu einer Neuausrichtung der Sicherheitsstandards in der Branche führen oder ob sie als Einzelfall abgetan werden. Eines ist jedoch klar: Die Debatte über die ethische und rechtliche Verantwortung von KI-Unternehmen hat mit diesen Klagen eine neue Dimension erreicht.
KI-Zusammenfassung
Kanada okul saldırısının ardından OpenAI’ye yedi dava açıldı. Şirketin güvenlik ekibinin uyarılarına rağmen polisi bilgilendirmemesi etik tartışmaları alevlendirdi.
