San Francisco. Eine Reihe führender Experten für künstliche Intelligenz (KI) sieht in der Technologie eine potenzielle Gefahr für die Menschheit und hat dazu aufgerufen, die Risiken ernst zu nehmen. Zu den Unterzeichnern der kurzen Stellungnahme gehört auch der Chef des ChatGPT-Erfinders OpenAI, Sam Altman. Der Chatbot ChatGPT, der Sätze auf dem Niveau eines Menschen formulieren kann, löste in den vergangenen Monaten einen neuen Hype rund um Künstliche Intelligenz aus.

Die am Dienstag veröffentlichte Stellungnahme besteht nur aus einem Satz, der aber dramatisch klingt: „Das Risiko einer Vernichtung durch KI zu verringern sollte eine globale Priorität neben anderen Risiken gesellschaftlichen Ausmaßes sein, wie etwa Pandemien und Atomkrieg.“

Der Geschäftsführer von OpenAI und Erfinder der KI-Software ChatGPT Sam Altman.

© Quelle: Sven Hoppe/dpa

Organisation warnt vor KI-Einsatz in der Kriegsführung

Die Nonprofit-Organisation, auf deren Website der Text erschien, nennt als mögliche Gefahren von künstlicher Intelligenz ihren Einsatz in der Kriegsführung, etwa in der Luft oder durch die Entwicklung neuer Chemiewaffen. Auch warnt das in San Francisco ansässige Center for AI Safety (Zentrum für KI-Sicherheit) etwa vor der Verbreitung von Falschinformationen mit Hilfe der Technologie sowie einer Zukunft, in der die Menschheit komplett von Maschinen abhängig werden könnte.

Ein weiterer Unterzeichner, der Autor Bill McKibben, zog Parallelen zur Klimakrise. „Angesichts unseres Versagens vor 35 Jahren, die frühen Warnungen über den Klimawandel zu beherzigen, käme es mir klug vor, wenn man das hier erst einmal durchdenkt, bevor es unter Dach und Fach ist“, schrieb er auf Nachfrage in einer E-Mail. In „The End of Nature“ hatte er schon 1989 vor dem Klimawandel gewarnt und in einem anderen Buch vor zwei Jahrzehnten vor den Gefahren durch KI und andere Technologien.

Mehr zum Thema

 

Kolumne „Auf der Couch“

Fürchtet euch nicht! Was KI für die Berufswelt bedeutet

 

KI gegen Fake News

Deepfakes und Desinformation: Wie künstliche Intelligenz den politischen Diskurs beeinflussen kann

Chef des Zentrum für KI-Sicherheit: Warnung absichtlich kurz gehalten

Die jüngste Warnung sei absichtlich so kurz gehalten worden, damit sich möglichst viele Wissenschaftler darauf einigen könnten, sagte Dan Hendrycks, Chef des Zentrum für KI-Sicherheit, das die Aktion organisiert hatte. Was die konkreten Risiken und Lösungswege angehe, würden einige vielleicht nicht übereinstimmen.

Einige Kritiker monieren, dass solche drastischen Warnungen durch Vertreter der Tech-Konzerne eher dazu dienen, die Möglichkeiten ihrer Produkte anzupreisen und von unmittelbaren Ansätzen zur Regulierung aktueller KI-Anwendungen abzulenken.

Mehr zum Thema

 

Sensible Daten sollen geschützt bleiben

Regierung plant Gesetz gegen Überwachung am Arbeitsplatz durch Künstliche Intelligenz

 

Kommentar

Da hilft nur Regulierung: Künstliche Intelligenz ist viel zu riskant

Vor einigen Wochen hatte bereits eine andere Organisation einen unter anderem von Tech-Milliardär Elon Musk unterzeichneten offenen Brief veröffentlicht, in dem eine sechsmonatige Pause bei der Entwicklung von Künstlicher Intelligenz vorgeschlagen wurde. Ziel der Auszeit soll sein, Regulierungsansätze für die Technologie zu finden. Später wurde bekannt, dass Musk kurz davor eine eigene KI-Firma gegründet hatte.

Unter den Unterzeichnern der neuen Stellungnahme sind auch Demis Hassabis, der Chef der auf KI spezialisierten Google-Schwesterfirma DeepMind, sowie Geoffrey Hinton, einer der führenden Forscher in dem Bereich.

RND/nis/dpa/AP