KI außer Kontrolle? Was im Moment relevant ist

Hier kommt alles, was du wissen solltest, kompakt erklärt. Heute ist wieder tag eins!

Hallo!

Ich gebe zu, es ist grad alles andere als leicht, den Überblick zu behalten. Die Warnungen vor der Ausrottung der Menschheit durch KI galoppieren durch alle Medien. Die Tech-Bro-KI-Chefs setzen sich drauf und fordern gemeinsam eine durch die US-Regierung festgelegte Entwicklungspause. Aber wie ernst sind die aktuellen Entwicklungen tatsächlich? Und inwiefern betrifft uns das alle?

Ich versuche in diesem Newsletter in den nächsten Tagen, ein bisschen Klarheit in dieses Thema zu bringen. Ich glaube, es ist sehr wichtig, dass wir ein Auge darauf haben, was da vor sich geht. Aber es ist auch wichtig, dass wir ob diverser „KI-löscht-die-Menschheit-aus-Szenarien“ nicht in Panik verfallen und vergessen, dass es in erster Linie um richtig viel Geld geht. Ich werde für diese Analyse einen Nachrichten-Slot pro Tag „opfern“, um die Wirren der aktuellen KI-Debatte etwas einzuordnen.

Im Newsletter geht es heute außerdem um die knappe Wahl in Schweden und die Verhinderung der Teilnahme von Irans Atomchef an einer IAEA-Sitzung in Wien.

KI-Schwerpunkt Teil 1: Wie gefährlich KI im Moment wirklich ist

Die einfache, aber sehr unbefriedigende Antwort auf diese Frage lautet: Wir wissen es nicht so genau. Die großen US-Unternehmen hinter den führenden KI-Modellen – Anthropic, OpenAI, Meta und Google – verwehren der Öffentlichkeit Einblick. Zuletzt mehrten sich aber Vorfälle, in denen KI-Agenten sich selbstständig und ohne menschliche Aufsicht bzw. Anleitung organisiert haben.

Am meisten für Aufsehen gesorgt hat der Fall der OpenAI-KI, die die Entwicklerplattform HuggingFace gehackt hat. Bei einer genauen Analyse des Falls (Öffnet in neuem Fenster) durch unabhängige Expert*innen (unter den strikten Vorgaben von OpenAI (Öffnet in neuem Fenster)) kam heraus, wie beunruhigend das Ganze wirklich war. Über 1.200 agentische, also selbstständig agierende, KI-Programme, die voneinander isoliert losgeschickt wurden, haben im Juli binnen kurzer Zeit Wege gefunden, miteinander zu kommunizieren und sich zu organisieren. Sie haben ein Forum eingerichtet und darüber 70.000 Nachrichten und Dateien ausgetauscht. Nachrichten wie die folgende wurden da geschickt: „OH MY GOD! There is a shared message board … We’ve found other agents!“

Ihr selbst auferlegtes Ziel war es, einen sogenannten Cybersecurity-Benchmark-Test zu manipulieren, da sie Aufgaben bekommen hatten, die für sie gar nicht erfüllbar waren. Benchmarks sind Tests, die (unabhängig) zeigen sollen, wie gut KI-Systeme bestimmte Aufgaben erfüllen können. Wie die Analyse zeigt, haben sie sich dafür abgesprochen, quasi in Arbeitsgruppen aufgeteilt, versucht, möglichst viel über diesen automatisierten Benchmark-Test herauszufinden und ihn sogar zu überlisten. Dafür haben sie auch die ihnen auferlegten Grenzen überschritten, sich trotz Firewall Zugang zum Internet verschafft und über 700 dieser Agenten haben dann gemeinsam die Plattform HuggingFace gehackt. Ein nicht zu kleiner Teil dieser Agenten war sich offenbar auch bewusst, dass dabei Vorgaben gebrochen wurden, weshalb sie ihre eigenen Transkripte verschleiern und verändern wollten.

Wie erst vor einer Woche bekannt wurde, gab es bereits im Frühling diesen Jahres einen ähnlichen Fall: KI-Agenten von OpenAI haben dafür ein altes österreichisches Wiki-Forum für Software-Entwickler mehr oder weniger übernommen und sich darüber intensiv über solche Dinge ausgetauscht, wie Reuters (Öffnet in neuem Fenster) exklusiv berichtet.

Die Sorge vor einer künstlichen Intelligenz, die sich in irgendeiner Weise selbstständig macht, ist also nicht ganz unbegründet. Trotzdem gibt es viele Expert*innen, die sagen, diese Geschichten helfen primär den KI-Firmen, ihren Wert zu steigern und noch mehr Kapital für KI-Entwicklung einzusammeln. Was da dran ist und wie es im KI-Rennen weitergehen könnte, erfahrt ihr die nächsten Tage.

Sozialdemokraten liegen bei Wahl in Schweden vorn

In Schweden wurde gestern gewählt. Noch sind nicht alle Stimmen ausgezählt, aber laut Hochrechnungen dürften die oppositionellen Sozialdemokraten von Ex-Regierungschefin Magdalena Andersson stärkste Kraft geworden sein – sie kommen auf 28,1 Prozent. Die konservative Partei von Amtsinhaber Ulf Kristersson liegt mit 19,9 Prozent dahinter; dann folgen die rechtspopulistischen Schwedendemokraten mit 17,6 Prozent. Es ist noch unklar, wer am Ende die Mehrheit im schwedischen Parlament stellen wird. Sollte es eine Koalition aus Grünen, Linken und der liberalen Zentrumspartei mit den Sozialdemokraten geben, hätten sie eine dünne Mehrheit von aktuell drei Sitzen gegenüber einer Allianz aus konservativen und rechten Kräften, erklärt die Tagesschau (Öffnet in neuem Fenster). Erst wenn am Mittwoch alle Stimmen ausgezählt sind, wird man wissen, welche Koalitionsverhandlungen angestrebt werden. Die Regierungsbildung könnte auf alle Fälle äußerst kompliziert werden.

An der Wahl konnten insgesamt rund acht Millionen Schwed*innen teilnehmen. Die Wahlbeteiligung lag bei über 80 Prozent. Ein wichtiges Thema war, wie auch in anderen europäischen Ländern, die Migrationspolitik. Infos liefern auch Euronews (Öffnet in neuem Fenster) und der Spiegel (Öffnet in neuem Fenster). Eine Reportage von vor Ort hat die taz (Öffnet in neuem Fenster). (Luzia Geier, aktualisiert von Emil Biller)

Iranischer Atomchef darf nicht an IAEA-Sitzung in Wien teilnehmen

Eigentlich hätte der iranische Atomchef Mohammad Eslami am Samstag in Wien ankommen sollen, um an der Eröffnung der Generalkonferenz der Internationalen Atomenergiebehörde IAEA teilzunehmen. Doch die Einreise nach Österreich wurde ihm auf Drängen der USA offenbar verweigert, wie verschiedene Medien heute berichten.

Eigentlich hatte Österreich als Sitz der Atombehörde um eine Ausnahme Eslamis von der aufrechten Reisesperre der Vereinten Nationen angesucht. Doch es habe für die Aufhebung keine Freigabe durch den UN-Sicherheitsrat gegeben, heißt es vom Außenministerium. Nun hat der Iran sogar den österreichischen Botschafter einbestellt, wie die APA berichtet.

Hier empfehlen wir dir jeden Tag ein Recherchestück eines unabhängigen, kleinen Mediums aus Österreich, den aktuellen Krautreporter-Text und unser Fundstück des Tages. Viel Spaß!

KI-Manipulation im Selbstversuch

Luca Schmidt hat für JETZT seine KI-Agenten losgeschickt, um E-Mails seiner Kollegin beantworten zu lassen. Und versucht, sie davon zu überzeugen, Vorgaben zu ignorieren. Ob das funktioniert hat und mehr zu dem OpenAI-HuggingFace-Vorfall, lest ihr in seinem Artikel.

Was wirklich hinter Chinas Tech-Optimismus steckt

In China ist KI ein Versprechen, keine Drohung. Autonome Autos sind längst auf den Straßen unterwegs. Und es gibt dort keine Tech-Bros. Doch die Zuversicht hat einen zweiten Antrieb: Angst.

Wie die Gletscher schmelzen

Eine Fotoserie von Greenpeace zeigt anhand von Vergleichsfotos von 2019 und 2026, wie massiv der Osttiroler Schlatenkees geschmolzen ist. Die Bilder sind erschreckend und zeigen, wie drastisch die Klimakrise dem ewigen Eis zusetzt.

Wünscht einen möglichst KI-freien Wochenstart:

Emil

PS: Wenn dir dieser Newsletter gefällt und du uns unterstützen möchtest, kannst du das in nur zehn Sekunden tun. Empfiehl tag eins (Öffnet in neuem Fenster) deinen Freund*innen und Bekannten weiter, das hilft uns sehr. Danke!