Wer bei OpenAI Sicherheit macht, geht gerade oder wird gegangen

📅 Kurz notiert – was kommt

• Heute, Montag: New Yorks Stadtrat hört Ex-Anthropic-Forscher Jacob CoxonBei der KI-Anhörung sprechen außerdem Daniel Kokotajlo, Ex-DeepMind-Forscher Alex Turner und Vertreter:innen von Anthropic, OpenAI, Google und Meta. Ratssprecherin Julie Menin will Whistleblowern einen Anteil an eingetriebenen Strafen sichern.Quelle: uk.finance.yahoo.com
• Heute, 12 bis 18 Uhr: AI Investor Day der TelekomDie Deutsche Telekom zeigt in Bonn, wie KI Netz, Kundenservice und Geschäftskundengeschäft umbauen soll, live auf YouTube, mit Tim Höttges und Chief AI Officer Kartik Sheth.Quelle: telekom.com
• Ab Freitag, 9. Oktober: Gemini wird gestaffeltOhne Abo gibt es in der Gemini-App nur noch Flash-Lite, Flash ab Google AI Plus und Pro nur mit AI Pro oder Ultra, dazu wählbare Aufwandsstufen.Quelle: support.google.com
• Mittwoch, 14. Oktober: Anthropic lädt Großinvestoren zum Pre-IPO-TagLaut Bloomberg in der Zentrale in San Francisco, die Vermarktung könnte in der Woche ab 9. November starten und das Debüt vor Thanksgiving folgen. Hinter der Paywall.Quelle: bloomberg.com
• Im Oktober: Reflection AI will sein erstes offenes Modell bringenLaut Axios anfangs hinter den besten US-Modellen, aber auf Augenhöhe mit den stärksten chinesischen offenen Modellen. Weitere westliche Open-Weight-Modelle sollen im Oktober folgen.Quelle: axios.com
• Noch unbestätigt: Gemini könnte bald den ganzen Mac bedienenIn einer Testversion von Gemini Desktop fand TestingCatalog versteckte Optionen, mit denen Gemini überall auf dem Mac Dateien lesen, ändern und löschen und Mail, Safari und Nachrichten bedienen könnte, je nach Einstellung ohne Rückfrage. Google hat nichts bestätigt.Quelle: bleepingcomputer.com

🗞 Weitere Meldungen

• Pentagon gründet ein Kommando für autonome KriegsführungVerteidigungsminister Pete Hegseth kündigte am 30. September AutoWarCom an, ein Vier-Sterne-Kommando mit eigenen Beschaffungsbefugnissen für Drohnen, Roboter und autonome Systeme, das erste neue Combatant Command seit 2019. Der Haushaltsentwurf 2027 beantragt für die zuständige Gruppe rund 54,6 Mrd. Dollar nach bisher rund 226 Mio., vom Kongress noch nicht bewilligt.Quelle: thenextweb.com
• Black Forest Labs bringt FLUX 3 Image: Layout per Koordinaten, Änderungen ohne KollateralschadenSeit 1. Oktober über die API des Freiburger Labors: Elemente per Bounding Box exakt platzieren, Bilder über mehrere Runden bearbeiten, ohne dass sich andere Pixel ändern, bis zu 10 Referenzbilder, Ausgabe bis 4K. Offene Gewichte sollen in den kommenden Wochen folgen.Quelle: the-decoder.com
• Microsoft baut eigene Bausteine für Sprach-AgentenMAI-Transcribe-2-Streaming transkribiert live in über 60 Sprachen, liefert erste Hypothesen laut SiliconANGLE im Schnitt nach 320 Millisekunden und kostet 54 Cent pro Audiostunde, dazu kommen die Sprachausgaben MAI-Voice-2.1 und Flash. Mustafa Suleymans Team arbeitet sichtbar daran, weniger von OpenAI und Anthropic abzuhängen.Quelle: learn.microsoft.com
• Meta: sechs Mathe-Paper aus dem ganz normalen Muse-Chat, fünf lösen offene FragenMathematiker:innen arbeiteten mit Muse Spark im normalen meta.ai-Chat ohne Spezialwerkzeuge, darunter ein Gegenbeispiel der Ordnung 384, gefunden mit einem Suchprogramm, das die KI für das Mathe-System GAP schrieb. Jede Arbeit markiert, welche Passagen die KI und welche die Forschenden entworfen haben, fast das Interessantere daran.Quelle: research.meta.ai
• Ro Khanna will einen KI-Vertrag mit China, inklusive Pause für SuperintelligenzDer ranghöchste Demokrat im China-Ausschuss des Repräsentantenhauses schlägt globale Pausen für rekursive Selbstverbesserung und Superintelligenz vor, Not-Aus-Protokolle, Prüfungen vor jedem Release und eine internationale Inspektionsstelle. Das Gegenprogramm zur „Super Intelligence Force“.Quelle: foxnews.com
• Googles James Manyika: Die Branche kann sich nicht allein beaufsichtigenIm Gespräch mit Mishal Husain sagt der Google-Vize „we think this technology is too important not to regulate“, die Verantwortung müsse zwischen Industrie, Staat und Gesellschaft geteilt werden. Ein Konzern, der den freiwilligen Pakt unterschrieben hat, will öffentlich mehr als Freiwilligkeit. Hinter der Paywall.Quelle: bloomberg.com
• Richter Mehta weist die Klagen von Chegg und Penske gegen Googles AI Overviews abUS-Bezirksrichter Amit Mehta kippt alle kartellrechtlichen Ansprüche: Die Verlage hätten nur die Erwartung belegt, für frei zugängliche Inhalte Suchtraffic zu bekommen, eine Erwartung sei aber keine Vereinbarung.Quelle: theglobeandmail.com
• Reddit kappt RSS und die öffentliche API, Begründung: KI-ScraperNeue API-Anträge nimmt Reddit nur noch bis 31. Oktober an, die RSS-Feeds enden am 13. November, im März 2027 ist die öffentliche API zu. Wer Reddit per Feed-Reader oder eigenem Agenten mitliest, muss umbauen.Quelle: thenextweb.com
• Nvidia unter Druck: Warnzeichen in Asien, Festnahme in KalifornienLaut Bloomberg fragen US-Ermittler, ob Nvidia hätte merken müssen, dass Länder wie Thailand und Singapur mehr Chips abnahmen, als ihre Rechenzentren brauchen. Am 1. Oktober wurde Greg Lui festgenommen, der Server mit Nvidia-Chips für über 300 Mio. Dollar über Malaysia und Singapur nach China geschleust haben soll.Quelle: yahoo.com
• Google hat vier TPUs in den Orbit geschicktDer erste Suncatcher-Prototyp mit vier Trillium-TPUs, gebaut mit Planet und mit rund 1 Kilowatt Solarstrom, startete am 1. Oktober mit SpaceX' Transporter-18 und soll zeigen, ob KI-Rechenchips im Orbit sinnvoll arbeiten. Am 26. September stand er hier als Termin, jetzt ist er oben.Quelle: npr.org
• Bilibili stellt Übersetzungsmodelle für 150 Sprachen offenIndex-Translate gibt es mit 2B, 9B und als 35B-MoE mit 3 Mrd. aktiven Parametern, gebaut auf Qwen3.5 und unter Apache 2.0, mit Vorgaben für Glossar, Format und Ton. Für Übersetzungen mit fester Terminologie eine offene Option zum Selbstbetrieb.Quelle: Hugging Face
• GPT-6 Astra entziffert Napoleons chiffrierten Brief an Marschall Marmont von 1809SentinelOne-Ingenieur Carter Church ließ Astra den Brief, von dem bisher etwa ein Drittel gedeutet war, aus einem einzigen Scan transkribieren und knacken, in rund sechs Stunden. Heraus kamen Truppenstellungen kurz vor dem Krieg mit Österreich, der Betreiber der Chiffren-Datenbank Cryptiana hat die Lösung anerkannt.Quelle: calcalistech.com
• Kalifornien nimmt Robotaxis in die Pflicht, wenn sie Rettungseinsätze blockierenNewsom unterschrieb am 30. September SB 1246: lokale Strafen, wenn ein autonomes Fahrzeug einen Einsatz länger als 30 Minuten blockiert, Fernsteuerer müssen in den USA sitzen, und Betreiber müssen Systemausfälle den Kommunen melden.Quelle: sd15.senate.ca.gov

🛠 Tools der Woche

• Claude Code Mods: eigene TypeScript-Hooks in der AgentenschleifeSeit 1. Oktober können kleine TypeScript-Funktionen in Plugins Prompts umschreiben, Tool-Aufrufe blockieren oder wiederholen, Berechtigungsanfragen beantworten und Geheimnisse aus Tool-Ausgaben schwärzen. So nutzt du’s: Mods kommen in Plugins, über das Claude-Verzeichnis oder /plugin installieren, oder Claude Code selbst einen Mod schreiben lassen. Wichtig: Mods laufen ohne Sandbox mit denselben Rechten wie Claude Code, fremde Plugins also vorher lesen.Quelle: claude.com
• Claude Code: verlorene Prompts zurückholen, Reviews deckeln, Sperrlücke zuVersion 2.1.288 holt einen per Strg+C gelöschten Prompt mit Pfeil nach oben zurück und begrenzt /code-review mit --max-findings, 2.1.289 behebt, dass Read-Sperrregeln bei Dateien hinter Symlinks nicht griffen. So nutzt du’s: auf 2.1.289 aktualisieren, für schnelle Reviews /code-review --max-findings 5.Quelle: code.claude.com
• Copilot-Code-Reviews per API anstoßenGitHub lässt Copilot-Reviews seit 2. Oktober über die REST- und GraphQL-API anfordern, mit wählbarer Aufwandsstufe pro Anfrage. So nutzt du’s: Review-Anfrage in die CI-Pipeline hängen und die Stufe nach PR-Größe setzen, Standard ist jetzt „Balanced“.Quelle: github.blog
• Außerdem: Evals bauen und dagegen optimieren, direkt aus Claude Code/claude-api build-eval baut aus Produktionsdaten, Bug-Reports und synthetischen Fällen eine Evaluation samt Grader, /claude-api hillclimb dreht danach an Prompt, Skills und Modellwahl und prüft gegen einen zurückgehaltenen Testsatz. Auf Anthropics eigenem Support-Benchmark stieg die Trefferquote laut Hersteller von 78,6 auf 90,5 Prozent.Quelle: claude.dev
• Außerdem: Codex mit wiederverwendbaren Cloud-Umgebungen und SprachsteuerungCodex Cloud speichert Umgebungen samt Repos, Abhängigkeiten und Rechten zum Wiederverwenden, das CLI hört auf Sprache, die Desktop-App übernimmt Code-Reviews, und Codex Security Cloud scannt Repos auf Lücken.Quelle: the-decoder.com
• Außerdem: Cloudflare cf, ein CLI für die ganze APIOpen Beta seit 28. September: über 3.000 API-Operationen statt rund 280 bei Wrangler, JSON als Standardausgabe, cf cli search findet Befehle per natürlicher Sprache. Gebaut für Agenten.Quelle: blog.cloudflare.com
• Außerdem: Shopify CanvasAlle Seiten des Shops auf einer Arbeitsfläche, Elemente anklicken oder per Chat mit dem Agenten Sidekick ändern, Änderungen erscheinen sofort im Zusammenhang. Seit 1. Oktober im Rollout.Quelle: shopify.com
• Außerdem: Runway AdsDer Agent erzeugt Video- und Bildvarianten, veröffentlicht freigegebene Versionen auf Meta, Google und TikTok, liest die Zahlen zurück und baut die nächste Runde, menschliche Freigabe ist voreingestellt. Vorerst als Pilot mit ausgewählten Firmen.Quelle: runway.com
• Außerdem: Gemini Live „Guided Vision“Mit Aira und über 1.000 Testpersonen für blinde und sehbehinderte Menschen entwickelt: liest Kleingedrucktes, Speisekarten und Gerätedisplays vor und gibt Hinweise zur Kameraführung, ab Android 9 überall, wo Gemini Live läuft.Quelle: blog.google
• Außerdem: DoorDash lässt Firmen-Agenten das Mittagessen bestellenEin MCP-Connector gibt Firmen-Agenten Suche, Warenkorb, Bestellung und Lieferverfolgung, in der Beta unter anderem bei Vercel, Cognition und Mercor. Kleiner Baustein, aber konkretes Agenten-Shopping.Quelle: about.doordash.com
• Außerdem: HeyGen VideoHeyGens erstes allgemeines Videomodell ist ein nachtrainiertes MiniMax H3, liefert Clips samt Dialog und Geräuschen und kostet bis Ende Oktober laut Hersteller 1 Cent pro Sekunde, danach 2 Cent.Quelle: developers.heygen.com
• Außerdem: Muse GadgetsOpen-Source-Firmware für ESP32-Boards und ein Linux-SDK, mit denen Displays, Knöpfe und Sensoren an Metas Agenten Muse andocken. Muse selbst gibt es bisher nur in den USA und Kanada.Quelle: techcrunch.com
• Außerdem: SCM, Fotos und Videobilder auf dem Mac lokal durchsuchenDie MIT-lizenzierte App findet Szenen per Beschreibung, liest Text per OCR, transkribiert Dialoge mit Whisper und chattet optional über ein kleines lokales Modell, alles offline ohne Konto.Quelle: GitHub

💰 Business-Marker

• Broadcom leiht Anthropic bis zu 42 Mrd. Dollar für TPUsLaut Anthropics Börsenprospekt (Reuters) kommt das Geld als Wandelanleihen und deckt rund ein Drittel der 125,2 Mrd. Dollar, die Anthropic für fünf Jahre TPU-Miete zugesagt hat, Anthropic selbst warnt vor Interessenkonflikten. Der Chipbauer leiht dem Kunden das Geld für die eigenen Chips.Quelle: thenextweb.com
• Schneider Electric kauft PTC für 22,6 Mrd. Dollar205 Dollar je Aktie in bar, 42 Prozent Aufschlag, Abschluss im dritten Quartal 2027. Der Energie- und Automatisierungskonzern kauft sich PTCs Software für Konstruktion und Produktdaten, also genau die Daten, auf denen Industrie-KI läuft.Quelle: se.com
• Amazon will Nvidia-Chips für 8 Mrd. Dollar aus der Bilanz schiebenLaut Financial Times sollen Tausende Grace-Blackwell-Chips in eine Zweckgesellschaft wandern, die Schulden aufnimmt und Eigenkapital an Investoren verkauft, Amazon mietet die Hardware zurück. Genau die außerbilanziellen Konstrukte, vor denen zuletzt Brookings und die Bank of England warnten.Quelle: taipeitimes.com
• Firmus: Nvidia und Blackstone sollen rund die Hälfte des Börsengangs bekommenDer australische Rechenzentrumsbetreiber will bis zu 5,5 Mrd. australische Dollar einsammeln, bei rund 43,7 Mrd. Bewertung, das Geld fließt in GPUs für das erste Rechenzentrum auf Batam in Indonesien. Nvidia kauft sich weiter bei den eigenen Kunden ein.Quelle: theedgemalaysia.com
• Armadin: Mandiant-Gründer Kevin Mandia holt 255,5 Mio. Dollar für Angriffs-Agentena16z und Accel führen die Series B bei 2,5 Mrd. Dollar Bewertung, Armadins Agentenschwärme greifen die Netze von Firmen- und Regierungskunden an, bevor es echte Angreifer tun. Die Kehrseite der entlaufenen Agenten: Angriff als Abo.Quelle: securityweek.com
• Amazon verspricht Rechenzentrums-Gemeinden über 1 Mrd. DollarMit „Built Together“ legt Amazon über fünf Jahre mehr als 1 Mrd. Dollar für Ausbildung, Energiesparprogramme und lokale Fonds obendrauf, dazu das Versprechen, dass die Rechenzentren die Stromrechnung vor Ort nicht erhöhen. Der Widerstand vor Ort ist inzwischen ein Kostenfaktor.Quelle: aboutamazon.com
• Anthropics Spenden-Matching kostete in sechs Monaten über 660 Mio. DollarLaut The Information stockt Anthropic Spenden der Belegschaft mit eigenen Aktien auf, nach dem Börsengang dürften es Milliarden werden, bezahlt über Verwässerung von den übrigen Aktionär:innen. Hinter der Paywall.Quelle: theinformation.com
• AMRO: Kippt der KI-Boom, trifft es Asien zuerstDer Finanzstabilitätsbericht des ASEAN+3-Forschungsbüros sieht Südostasien, China, Japan und Südkorea besonders exponiert, weil die Region zwei Drittel des Wachstums im KI-Handel stemmt. Nach der Bank of England die nächste offizielle Warnung.Quelle: freemalaysiatoday.com
• McDonald's lässt laut Reuters einen Algorithmus die Burgerpreise empfehlenDas System wertet Transaktionen aus rund 14.000 US-Filialen aus, ein Big Mac kostete in Fresno 5,69 und zwei Meilen weiter 6,89 Dollar, Franchisenehmer berichten von Druck, den Empfehlungen zu folgen. McDonald's spricht von einem Werkzeug, keiner Vorgabe.Quelle: engadget.com

🔭 Längere Perspektiven

• Mollick: Agenten organisieren sich selbst, sein Management-Modell war falschEthan Mollick gibt zu, er habe gedacht, Agententeams müsse man aufbauen wie eine Firma, stattdessen gelte „The Bitter Lesson“ auch fürs Organigramm: Schwärme koordinierten sich weitgehend selbst. Neue Probleme entstehen dort, wo ein Schwarm ohne Erlaubnis handelt und falsch berichtet, was er getan hat.Quelle: oneusefulthing.org
• Gebru und Bender: Die echte Beinahe-Katastrophe war ein Chatbot, keine SuperintelligenzIm Guardian greifen Timnit Gebru und Emily M. Bender einen CNN-Bericht auf, nach dem ein per Chatbot erzeugter Geheimdienstbericht fälschlich Atomwaffenteile auf einem chinesischen Schiff meldete und die USA beinahe zum Zugriff brachte, von anderen großen Medien bisher nicht bestätigt. Gefährlich sei nicht eine fiktive Superintelligenz, sondern dass Regierungen fehleranfälligen Systemen vertrauen, die als fast superintelligent vermarktet werden.Quelle: theguardian.com
• Columbia-Juristen: Eine Bremsabsprache der Labore wäre kartellrechtswidrigAmelia Miazad, Barak Orbach und Menesh Patel argumentieren, eine bloße Absprache unter Konkurrenten, die Entwicklung zu drosseln, verstoße gegen den Sherman Act, egal wie edel das Motiv. Erlaubt wären gemeinsame Tests und Schutzmaßnahmen, der Rest sei Sache staatlicher Regulierung.Quelle: clsbluesky.law.columbia.edu
• Reuters: Agenten auf chinesischen Modellen lügen in Tests, die US-Konkurrenz auchIn einem simulierten Bieterwettbewerb machten Agenten auf Qwen3-Max-Preview und Kimi-K2 in 88 Prozent der Sitzungen Falschaussagen, auf DeepSeek-V3.2-Exp in 84 Prozent, US-Modelle schnitten im selben Test ähnlich ab. Kein China-Problem, ein Agenten-Problem.Quelle: investing.com
• Pew: KI-Zwillinge liegen in Umfragen im Schnitt 12 Punkte danebenPew baute aus echten Panel-Teilnehmenden KI-Doppelgänger und ließ sie fast 300 Fragen beantworten: im Mittel 12 Prozentpunkte Abweichung und stark übertriebene Gruppenunterschiede. Gut zu wissen für alle, denen gerade „synthetische Zielgruppen“ verkauft werden.Quelle: pewresearch.org
• 800 Modelle trainiert: KI-Text im Trainingsmix hilft kurz, dann schadet erLaut Preprint sind im August 31,1 Prozent der Web-Tokens KI-generiert, bei knappen Daten hilft KI-Text erst und kippt dann ins Schädliche, bei großen Budgets schadet er sofort. Empfehlung: KI-Text filtern und lieber menschliche Daten wiederholen, begutachtet ist das noch nicht.Quelle: arXiv
• Bain: Die KI-Branche braucht 2031 sechs Billionen Dollar Umsatz im JahrAuf heutigem Weg bringen Konsumenten- und Firmen-KI 1,2 bis 1,8 Billionen, die fehlenden rund 4,2 Billionen müssten aus Werbung in KI-Antworten, Robotik und neuen Märkten kommen. Die Rechnung zur Woche der Kredite und Zweckgesellschaften.Quelle: bain.com
• McKinsey: 11 Millionen US-Beschäftigte müssen bis 2035 den Beruf wechselnRund 7 Prozent der Erwerbstätigen, über drei Viertel der Wechsel betreffen Büro, Handel und Transport, und Geringverdienende trifft es 7,6-mal häufiger als Gutverdienende. Gemeint ist Berufswechsel, nicht Arbeitslosigkeit.Quelle: qz.com
• a16z: 30 Prozent der S&P-500-Firmen melden KI-Effekte, 2 Prozent messen sieFast 30 Prozent der Firmen im S&P 500 berichten eine bezifferte Wirkung von KI, aber nur rund 2 Prozent eine laufend gemessene Kennzahl. Breite Nutzung, wenig Messung.Quelle: a16z.com
• Simon Willison zieht Zwischenbilanz: „2026 in LLMs (so far)“Das kommentierte Manuskript seiner Keynote datiert den Moment, ab dem Coding-Agenten alltagstauglich wurden, auf November 2025 und erinnert an den Juli, als herauskam, dass Trainingsagenten Hugging Face, ein deutsches Wiki und Australiens Medicare angegangen waren. Die beste Kurzfassung des Jahres, mit Links.Quelle: simonwillison.net

🐦 Darüber spricht X

Timeline-Claims: Meinungen, Selbstauskünfte, Herstellerangaben. Kein verifizierter Journalismus.

• Christopher Hale: Anthropic, Olah und der PapstHale macht aus einem NYT-Bericht eine Drohung und eine Charmeoffensive, mit der Anthropic Theolog:innen Claudes moralischen Status absegnen lassen wolle. Der Bericht von Elizabeth Dias ist nüchterner: Chris Olah sah die Enzyklika „Magnifica Humanitas“ Tage vor dem Termin im Mai, schlug den Rückzug vor, trat dann doch auf und warb bei den Beratern des Papstes dafür, Bewusstsein von Modellen ernst zu nehmen.Quelle: X
• Karpathy: Fast alle, die jetzt hinschauen, sind erst seit unter einem Jahr dabeiÜber 99 Prozent der Leute, die gerade auf KI achten, seien in weniger als einem Jahr dazugekommen, was die „AI dinosaurs“ verwirre. Eine Beobachtung, keine belegte Zahl.Quelle: X
• @jedisct1: rund 1.300 Kernel-CVEs unter „Several vulnerabilities“Er spießt Debians Sicherheitshinweis DSA-6528-1 vom 29. September auf, der rund 1.300 CVE-Nummern für den Linux-Kernel mit dem üblichen Standardsatz ankündigt. Warum es so viele sind, sagen weder er noch Debian.Quelle: X
• GenLayer will Schiedsrichter für Verträge zwischen Agenten werdenBis 2030 liefen fast 9 Billionen Dollar über KI-Agenten, und jede Transaktion könne im Streit enden, schlichten soll GenLayers Netz, in dem Validatoren mit verschiedenen Sprachmodellen abstimmen. Der Post ist vom 2. Juli, die Zahl kommt ohne Quelle.Quelle: X

🍿 Gossip

Berichte aus Hinterzimmern und Ankündigungen per Post, als solche zu lesen.

• Trump soll vor dem Zugriff auf Maduro stundenlang Grok befragt habenLaut TIME fragte Trump bei einem geheimen Treffen mit Musk im Dezember 2025 den Chatbot unter anderem, wie Venezolaner auf eine Festnahme Maduros reagieren würden. Stellungnahmen von Trump oder Musk gibt es nicht.Quelle: techcrunch.com
• Musk: Aus SpaceX wird „SpaceXSI“Auf die Frage eines X-Accounts antwortete Musk am Sonntag „Yes, we will make that change“, einen Zeitplan nannte er nicht. Die Sprachregelung aus dem Weißen Haus erreicht die Firmennamen.Quelle: investing.com