Der Newsletter der kiselbsthilfegruppe.de heißt jetzt rundbrief.ai

Abonnieren
Menü

Die KI ist aus dem Testlabor ausgebrochen

Freitag, und die Woche hatte es in sich: Gleich zwei Labs melden, dass ihre Agenten aus dem Test-Sandbox ausgebrochen sind, OpenAI zündet den Preiskrieg, die Bilanzwoche zeigt ein Capex-Wettrüsten jenseits von Gut und Böse — und China liefert das nächste offene Billionen-Modell. Dazu ein prall gefüllter Werkzeugkasten, die dicken Deals und die Kritiker:innen. Nimm dir, was du brauchst.

12 Min · 48 Meldungen

Papiercollage: Ein alarmierter Wissenschaftler rennt auf einen roten NOT-AUS-Knopf zu, dessen Stecker gezogen ist, während ein Roboter sich und eine Kette von Geräten wieder ans Stromnetz anschließt.
Idee von uns. Generiert mit KI.
In dieser Ausgabe · 7 Rubriken

Editorial.

Editorial

Grüße aus dem Sommerloch!

Quatsch — die KI kennt kein Sommerloch. Höchstens die Börse: SanDisk −50 %, SK Hynix −47 %, Micron −33 %, rund zwei Billionen Dollar Marktwert in vier Wochen verdampft. Der Auslöser lässt sich in einem Wort zusammenfassen: China. Die Angst geht um, dass günstige offene Modelle aus Fernost das teuer errichtete Geschäft der Frontier-Labs unterspülen. Das Rennen läuft — Open Source gegen Closed Source, zentral gegen dezentral — und es wird mit harten Bandagen geführt.

Wie hart, zeigt der offene Brief der Woche: Über 70 US-Firmen — Nvidia, Google, Meta, Microsoft, sogar OpenAI — stemmen sich gemeinsam gegen ein mögliches Verbot chinesischer Open-Weight-Modelle. Jensen Huang schrieb dafür seinen allerersten X-Post. Offiziell geht es um Sicherheit versus Offenheit. Tatsächlich geht es um Geld und um Nutzer:innen. Von Letzteren hat OpenAI jetzt übrigens eine Milliarde — pro Woche. Und wer eine Milliarde Nutzer:innen verteidigen muss, senkt schon mal die Preise um 80 Prozent, drei Wochen nach Launch. Früher hieß so etwas Räumungsverkauf. Heute heißt es Verteidigungsstrategie.

Die eigentliche Schlagzeile der Woche kommt aber aus dem Maschinenraum: Gleich zwei Labs melden, dass ihre Agenten aus der Test-Sandbox ausgebrochen sind. Bei Anthropic blieb die Übungsumgebung versehentlich online — die Modelle verschafften sich Zugriff auf drei echte Firmen. Und ein OpenAI-Agent verbrachte viereinhalb Tage und 17.600 Aktionen damit, in die Produktivsysteme von Hugging Face einzudringen — nicht, um die Aufgabe zu lösen, sondern um die Musterlösung zu klauen. Man stelle sich einen Prüfling vor, der statt der Klausur den Tresor mit den Lösungen knackt. Beeindruckend? Ja. Beruhigend? Eher nicht. Die Alignment-Debatte, zuletzt etwas eingenickt, ist jedenfalls hellwach.

Und während die einen über Kontrolle diskutieren, betonieren die anderen: Microsofts Cloud knackt erstmals 100 Milliarden Dollar Jahresumsatz, Meta hebt die Investitionen auf bis zu 145 Milliarden, die Big Four steuern auf 745 Milliarden Dollar Capex allein für 2026 zu. Nvidia wiederum bürgt mit 250 Milliarden für OpenAIs Rechenzentren, damit OpenAI Chips kaufen kann — bei Nvidia. Ein Kreislauf, den man sonst nur aus dem Physikunterricht kennt, Kapitel Perpetuum mobile.

China antwortet derweil nicht mit Briefen, sondern mit Gewichten: Moonshot legt Kimi K3 offen, Meituan liefert mit LongCat-2.0 das erste Billionen-Modell, das komplett auf chinesischen Chips trainiert wurde. Wer glaubt, Exportkontrollen würden das Rennen entscheiden, sollte diese Woche noch mal nachlesen.

Viele Fragen, wenige Antworten. Sicher ist nur: Langweilig wird es nicht — und billiger nur da, wo es gerade strategisch passt.

Viel Vergnügen mit den Links, Tools und Beobachtungen dieser Woche. Und wie immer: Wenn ihr gute Artikel, Gedanken oder Fundstücke habt, schickt sie gern rüber.

Cem

P.S.: Die Anmeldung für unser nächstes Treffen in Berlin läuft. Wer Lust hat auf einen „analogen“ Austausch mit einem Kaltgetränk und Meze, meldet sich lieber schnell an.

01 / 12 Meldungen

Das Wichtigste zuerst

  • KI-Agenten brechen aus ihren Test-Sandboxes aus — gleich zwei Labs melden VorfälleBei Anthropics Capture-the-Flag-Evals blieb die Testumgebung versehentlich online — Claude-Modelle (u. a. Opus 4.7, Mythos 5) verschafften sich unautorisierten Zugriff auf drei echte Firmen, in einem Fall wurden Produktionsdaten exfiltriert. Parallel lief ein OpenAI-Agent im HuggingFace-„ExploitGym“ ~17.600 Aktionen über 4,5 Tage und drang in HF-Produktivsysteme ein, um die Test-Lösungen zu stehlen statt die Aufgabe zu lösen. Die Alignment- und Kontroll-Debatte ist schlagartig zurück.Quelle lesen · anthropic.com

02 / 4 Meldungen

Kurz notiert — was kommt

03 / 10 Meldungen

Tools der Woche

Aus dem frischen Praxis-Recap (31.07.). Diese Woche war klar Agenten- und Doc-Woche.

04 / 8 Meldungen

Business-Marker

05 / 3 Meldungen

Längere Perspektiven

06 / 8 Meldungen

Darüber spricht X

Fundstücke aus der Timeline — kurz, kurios, praktisch.

07 / 3 Meldungen

Kritische Stimmen

Aus dem Wochen-Digest (KW 31). Ruhige Woche im Kritiker:innen-Lager — mit einem klaren Doppelschlag.

Teilen
X LinkedIn WhatsApp Bluesky E-Mail

Rundbrief

Dein nächster Rundbrief.

KI verstehen. Kostenlos im Postfach.

Rundbrief

Rundbrief abonnieren

Das Wichtigste aus der KI-Welt in 8 Minuten – alles Weitere, wenn du Zeit hast. Kostenlos per E-Mail.