Beschreibung
Außerdem: Besuch von Quarks - Mal angenommen (14:08) // Mehr spannende Themen wissenschaftlich eingeordnet findet ihr hier: www.quarks.de // Habt ihr Feedback, Anregungen oder Fragen, die wir beantworten sollen? Dann meldet euch über Whatsapp oder Signal unter 0162 344 86 48 oder per Mail an [email protected].
Host in dieser Folge ist Ina Plodroch.
Und hier kommen die wichtigsten Infos für euch.
KI - VERLIEREN WIR LANGSAM DIE KONTROLLE?
KI entwickelt sich rasant weiter und immer häufiger geht es dabei nicht mehr nur darum, was KI kann, sondern darum, was passiert, wenn wir sie irgendwann nicht mehr vollständig kontrollieren können. Aber ist das eine reelle Gefahr? Oder denken wir da nur an das letzte Science-Fiction-Buch, das wir gelesen haben?
Autor: Andreas Schneider
Hier geht es zum Preprint von Dr. Hagendorff, der untersucht hat, wie KI-Agenten ihre eigene Abschaltung verhindern:
https://arxiv.org/pdf/2609.28274
Statements von neun wissenschaftlichen Expert:innen, zusammengetragen vom Science Media Center:
https://www.sciencemediacenter.de/angebote/verlangsamte-ki-forschung-noetig-26235
Die Studie zeigt, dass ein Sprachmodell sein Verhalten im Training vortäuschen kann, um eine dauerhafte Änderung seiner Sicherheitsregeln zu verhindern:
https://arxiv.org/pdf/2412.14093
Hier könnt ihr alle Folgen von Quarks – Mal angenommen finden:
https://www.ardsounds.de/sendung/quarks-mal-angenommen/urn:ard:show:09f1d0268d45a7d2/
Hier findet ihr alle Infos zur Live-Aufzeichnung von Quarks – Mal angenommen in Düsseldorf am 12. Oktober:
https://www.zoon-podcast-week.de/podcast/quarks-mal-angenommen
