Beschreibung
Seit die Chefs der großen KI-Firmen angefangen haben, vor ihren eigenen KI-Systemen zu warnen, wird eine Frage heiß diskutiert: Wie lässt sich die Entwicklung von Künstlicher Intelligenz verlangsamen und regulieren? Diese Woche haben China und die USA darüber beraten undauch bei einer Sitzung des UN-Sicherheitsrats in New York war KI das Hauptthema. Yoshua Bengio, einer der Pioniere der modernen KI, hat dort gesprochen und unseren Umgang mit KI damit verglichen, in einem Auto blind in dichten Nebel zu rasen. In dem Auto, so Bengio, säße aber nicht nur er, sondern auch seine Kinder und sein Enkel. Und um die und ihre Zukunft sorge er sich.
Auch der Chef des KI-Unternehmens Anthropic, Dario Amodei, hat bei der UN-Sitzung gesprochen. Und vor allem vor zwei Risiken durch KI gewarnt: Das eine sei ein Missbrauch der KI-Modelle, zum Beispiel für den Bau von Biowaffen. Das andere sei der Kontrollverlust, indem die Modelle sich zu schnell eigenständig weiterentwickeln und so der Kontrolle der Entwickler entziehen. Solche Fälle hat es bereits gegeben, als Agenten von Open AI ein Konkurrenzunternehmen oder ein australisches Regierungsportal gehackt haben.
Wie könnte KI besser kontrolliert und reguliert werden und vor allem auch: von wem? Darüber spricht in dieser Ausgabe von “Auf den Punkt” Aljoscha Burchardt, KI-Experte am Deutschen Forschungszentrum für Künstliche Intelligenz und Co-Host des ARD-Podcasts “KI – und jetzt?” Moderation, Redaktion: Nadja Schlüter
Redaktion: Ann-Marlen Hoolt
Produktion: Julius Zimmer
Redaktionsschluss war Freitag, 25.09.2026, um 12 Uhr.
Klicken Sie hier, wenn Sie sich für ein Digitalabo der SZ interessieren, um unsere exklusiven Podcast-Serien zu hören: www.sz.de/mehr-podcasts
Mehr über die Angebote unserer Werbepartnerinnen und -partner finden Sie HIER
