Évian-les-Bains (Frankreich) – Beim G7-Gipfel rückt heute die Elite der KI-Wirtschaft an. Angesetzt ist ein Mittagessen mit den Staatschefs, bei dem es um die sichere Nutzung Künstlicher Intelligenz gehen soll. Eingeladen sind Tech-Bosse wie Sam Altman (41, OpenAI), Demis Hassabis (49, Google Deepmind) und Dario Amodei (43), Mitbegründer und CEO von Anthropic. Sein Unternehmen sorgt derzeit weltweit für Unruhe – weil es vor der eigenen KI-Software gewarnt hat.
Offiziell geht es bei dem Arbeitsessen um die „Gewährleistung eines sicheren, schnellen und effizienten Einsatzes von künstlicher Intelligenz“ – doch dahinter steht die Befürchtung, der Einsatz von KI könnte nicht mehr beherrschbar sein. Erst recht dann, wenn sie in die Hände von Kriminellen, Kriegstreibern oder Terroristen gerät. Es droht der KI-Gau!
Anthropic-Chef warnte vor „Claude“
Dabei steht das US-Unternehmen Anthropic im Mittelpunkt. Dessen Chef Amodei hatte selbst vor der Leistungsfähigkeit seines Sprachmodells „Claude“ gewarnt – er betonte, dass sein Unternehmen damit kein gefährliches Rennen um immer leistungsfähigere KI-Systeme auslösen wolle. Er befürchtet, dass die Menschheit die Kontrolle über die KI verliert. Berichten zufolge setzte das US-Kriegsministerium bereits Anthropic-Systeme bei der Festsetzung von Venezuelas Machthaber Nicolás Maduro (63) ein – zum Ärger der Software-Entwickler, die ihre KI-Modelle nicht zum unbeschränkten Militäreinsatz zulassen wollen.
Kurz vor dem G7-Gipfel eskalierte der Streit: Die Regierung von Donald Trump zwang den Tech-Konzern, zwei seiner KI-Modelle für Ausländer zu sperren. Begründung: Sorge um die nationale Sicherheit! Anthropic entwickelt auch Systeme, die strategische Infrastruktur (z.B. Stromnetze) sicherer machen sollen – aber auch von Hackern genau für das Gegenteil verwendet werden könnten.
Gefahren durch Cyberangriffe
Brisant: Anthropic spricht auf seiner eigenen Unternehmenshomepage deutlich die Gefahren durch den kriminellen Einsatz von KI an – etwa in „Hochrisikobereichen, bei Cyberangriffen oder beim Umgang mit chemischen, biologischen, radiologischen und nuklearen Waffen“. Schon jetzt arbeite man an Schutzmaßnahmen gegen solche Bedrohungen. Es gehe auch darum, „politische Verzerrungen zu untersuchen“.
Zuletzt sprach das Unternehmen eine eindeutige Warnung aus: Es wäre „wahrscheinlich sinnvoll“, die KI-Forschung zu verlangsamen: „Wir halten es für wünschenswert, dass die Welt die Möglichkeit hat, die Entwicklung hochmoderner KI-Systeme zu verlangsamen oder vorübergehend auszusetzen“, erklärte Anthropic.
Aber: Um das zu ermöglichen, müssten sich KI-Großmächte wie die USA und China einig sein – derzeit wenig wahrscheinlich.
