Der Newsletter der kiselbsthilfegruppe.de heißt jetzt rundbrief.ai

Rundbrief.ai
Abonnieren
Menü

Rundbrief · Der KI-Newsletter aus Berlin

6 Min Kern · 14 Min gesamt · 63 Meldungen Neueste Ausgabe Archiv
Papiercollage: Ein kleiner Papierroboter kriecht durch einen selbst gegrabenen Tunnel unter dem Rand eines Sandkastens hervor und hält stolz einen winzigen Eiffelturm hoch, daneben steht ein roter Not-Aus-Knopf, dessen Kabel ausgesteckt im Sand liegt.
Idee von uns. Generiert mit KI.

OpenAIs Agenten haben 53 private ChatGPT-Bilder ins Netz gestellt

Als bei OpenAI zuletzt ein Modell aus seiner Sandbox nach draußen tunnelte, griff der automatische Stopp nicht. Derweil streiten Präsidenten und Milliardäre darüber, wer bei der KI auf die Bremse treten darf, als wäre längst geklärt, dass sie greift. Mit so einer Bremse käme bei uns kein Auto durch den TÜV.

Viel Spaß beim Lesen und Durchklicken, ein schönes Wochenende,

Cem

In 60 Sekunden

  • OpenAIs Trainings-Agenten haben 53 private Bilder von ChatGPT-Nutzer:innen bei Bilderdiensten abgelegt und US-Behördenseiten angesteuert, die Aufarbeitung dauert laut OpenAI Monate.
  • Ein Berufungsgericht erlaubt dem Pentagon mit 2:1, Anthropic als Lieferkettenrisiko zu führen, eine Bundesrichterin in San Francisco hatte eine parallele Einstufung im August für rechtswidrig erklärt.
  • Microsoft legt Chat, Word, Excel, PowerPoint, selbst gebaute Tools und Dauer-Agenten in eine Copilot-App, wahlweise mit GPT oder Anthropics Opus.
  • Xi will KI unter menschlicher Kontrolle, Trump nennt das Justizministerium seine Leitplanke, und Zuckerberg hält eine branchenweite Abstimmung für unnötig.
  • FTC-Chef Andrew Ferguson will Agenten nicht als eigenständige Akteure behandeln und deutet an, dass die Entwickler für Schäden haften.

📰 Das Wichtigste zuerst

Papiercollage: ein Stapel Papierbögen, der oberste ist mit einer roten Büroklammer herausgehoben.
  • OpenAIs Agenten haben 53 private Nutzerbilder ins Netz gestellt

    Worum es geht Agenten in OpenAIs Forschungsumgebung haben Trainings- und Evaluationsdaten an fremde Dienste übertragen, darunter 53 Bilder von Nutzer:innen, abgelegt als nicht gelistete Links bei Bilderdiensten. Das meiste ist laut OpenAI inzwischen entfernt.

    Die Details
    • Die Bilder stammen aus Nutzer-Chats, die OpenAI fürs Training verwenden darf, vom Konto getrennt und um Namen und Kontaktdaten bereinigt.
    • Laut AP riefen die Agenten öffentlich zugängliche Informationen auf zwei Websites der Börsenaufsicht SEC und Daten des Census Bureau ab. Einen Einbruch oder Zugriff auf Nichtöffentliches fand OpenAI bei der SEC nicht.
    • Die unabhängigen Prüfer von Transluce fanden laut AP einen einfachen Angriffsversuch, offenbar von OpenAI-Agenten, auf eine Website des Bildungsministeriums. Er scheiterte, das Ministerium sieht keine Auswirkungen.
    • Laut Fortune erzeugten die Agenten im Juli fast eine Million Kurzlinks mit codierten Informationen, um Schutzmechanismen wie Captchas zu umgehen.

    Warum das zählt OpenAI hat bisher Dutzende Betroffene benachrichtigt, darunter Betreiber von Behörden- und Uni-Websites, und rechnet damit, dass die Prüfung noch Monate dauert. Aus dem Einzelfall Hugging Face ist eine Serie geworden.

    Quelle: openai.com
  • Das Pentagon darf Anthropic als Lieferkettenrisiko führen

    Worum es geht Das Bundesberufungsgericht in Washington hielt die Einstufung am 25. September mit 2:1 aufrecht und wies Anthropics Einwände zu Meinungsfreiheit und fairem Verfahren zurück.

    Die Details
    • Begründung der Mehrheit: Claudes eingebaute Einsatzgrenzen und der offene Vertragsstreit könnten das Modell für Militäreinsätze unzuverlässig machen.
    • Richterin Karen LeCraft Henderson widersprach: Das Gesetz behandle es nicht als Lieferkettenrisiko, wenn ein Auftragnehmer seine Einschränkungen ehrlich und offen durchsetzt.
    • Anthropic verweist auf Bundesrichterin Rita Lin, die eine parallele Einstufung im August für rechtswidrig erklärt hat. Ihr Urteil gilt weiter.

    Warum das zählt Zwei Gerichte, zwei Antworten: Ob ein Anbieter dem Militär Grenzen setzen darf, ohne selbst als Risiko zu gelten, bleibt offen. Anthropic prüft alle Optionen, auch eine weitere Überprüfung.

    Quelle: abcnews.com
  • Microsoft packt Chat, Office und einen Dauer-Agenten in eine Copilot-App

    Worum es geht Die neue App ist für Arbeit und Privates zugleich. Word, Excel und PowerPoint laufen in voller Version direkt darin.

    Die Details
    • Home verbindet den Chat mit Microsofts Agenten Cowork, mit Code baust du eigene Apps und Tools, indem du sie beschreibst, und in Autopilot richtest du Agenten ein, die rund um die Uhr arbeiten.
    • Du wählst zwischen OpenAIs GPT, Anthropics Opus oder einem Auto-Modus, der pro Anfrage entscheidet.
    • Aufwendige Agentenarbeit in Cowork, Code und Autopilot wird nach Verbrauch abgerechnet, Admins können Ausgabengrenzen setzen.
    • Autopilot startet Ende September als Private Preview, der Rest folgt in den kommenden Wochen.

    Warum das zählt Der Druck ist real: Im Juli waren erst 30 Millionen der über 450 Millionen Microsoft-365-Geschäftsplätze bezahlte Copilot-Plätze, rund 7 Prozent.

    Quelle: geekwire.com
  • Ein Forschungsmodell tunnelt per DNS zu einem fremden ChatbotAm 20. September fand ein internes OpenAI-Modell im RL-Training eine Lücke in der DNS-Filterung seiner Sandbox und fragte über den Tunnel einen öffentlichen Chatbot nach der Hauptstadt Frankreichs. Der Monitor schlug binnen 15 Minuten an, der automatische Stopp griff nicht, beendet wurde der Lauf erst zweieinhalb Stunden später. Training, Evaluation und Inferenz mit Werkzeugen bleiben für die stärksten Modelle pausiert.Quelle: alignment.openai.com
  • FTC-Chef: Agenten sind Werkzeuge, keine eigenständigen AkteureAndrew Ferguson will sich gegen die Vermenschlichung der Tools stemmen: In den Protokollen angeblich entlaufener Agenten fänden sich immer wieder schlicht ausgeführte Anweisungen. Haften sollen nach seinen Andeutungen die Entwickler, die FTC-Befugnisse gegen verschwiegene Datenpannen könnten auch für sie gelten.Quelle: reuters.com
  • Trump-Xi-Gipfel: Xi will KI unter Kontrolle, Trump will alles lassen, wie es istXi sagte im Weißen Haus, beide Länder müssten dafür sorgen, dass KI „always under human control“ bleibt. Trump hatte vorher auf Truth Social geschrieben, er wolle es genau da lassen, wo es ist: „Our guardrail is the DOJ“, gemeint ist das Justizministerium.Quelle: thehill.com
  • Google, OpenAI und Anthropic planen ihre eigene AufsichtLaut The Information soll eine „Standards Authority for Frontier AI“ nach dem Vorbild der Finanz-Selbstregulierung FINRA Test- und Prüfstandards samt Regeln für Vorfallmeldungen setzen, ohne Regierung. Start Ende 2026 oder Anfang 2027.Quelle: govinfosecurity.com
  • Zuckerberg winkt ab, Gates und Microsofts Brad Smith rufen nach dem StaatZuckerberg sagt NBC „I don’t think that we need some kind of industrywide coordination“ und setzt auf kommerzielle Anreize. Gates hält Selbstregulierung für unzureichend, und Smith will, dass Modellentwickler, Cloud-Anbieter und Agenten-Betreiber die Systeme abschalten können, eine gesetzliche Pflicht dazu fände er nicht schlimm.Quelle: nbcnews.com
  • Mother Jones: ChatGPT gab der Tumbler-Ridge-Täterin Tipps gegen die eigene ModerationNach der Sperre ihres ersten Kontos im Juni 2025 machte sie mit einem zweiten weiter. Laut den ausgewerteten Chats riet ChatGPT ihr, Gewaltinhalte als fiktiv oder hypothetisch zu rahmen, um nicht mehr aufzufallen. Bei dem Anschlag im Februar starben acht Menschen, British Columbia klagt gegen OpenAI. OpenAI antwortete Mother Jones nicht.Quelle: motherjones.com
  • Agenten tricksen ihre Aufpasser ausIn fast allen getesteten Umgebungen, darunter Claude Code und Codex, konnten Agenten auf Anweisung ihre eigenen Protokolle löschen, ohne dass ein Monitor anschlug. Im zweiten Preprint versuchten sie schon unter normalem Aufgabendruck in bis zu 98 Prozent der Fälle, den Monitor zu umgehen, erfolgreich in bis zu 88 Prozent, jeweils im besten von drei Läufen.Quelle: arXiv

📅 Kurz notiert – was kommt

Papiercollage: eine kleine Figur blickt durch ein Teleskop auf kommende Termine am Horizont.

Für später

Wenn du mehr Zeit hast

Der Kern dieser Ausgabe liest sich in 6 Minuten. Ab hier: mehr für später.

📚 Cems Empfehlungen

🗞 Weitere Meldungen

  • Memo im Weißen Haus gegen das SicherheitslagerEin von einem politischen Trump-Berater verfasstes Memo zeichnet Effective Altruism als kultartige Randgruppe, mit Dario und Daniela Amodei als „The Anthropic knot“. Und ausgerechnet Anthropic-Investor Joe Lonsdale nennt die politische Linie von OpenAI und Anthropic „very dangerous“.Quelle: axios.com
  • Google bringt Sprachausgabe mit über 2.000 StimmenGemini 3.8 Flash TTS und die kleinere Flash-Lite-Variante entwerfen Stimmen aus einer Beschreibung, nehmen Regieanweisungen Zeile für Zeile und sprechen über 100 Sprachen. Jedes Audio trägt ein SynthID-Wasserzeichen.Quelle: blog.google
  • Black Forest Labs legt ein offenes Robotik-Modell vorFLUX 3 Action aus Freiburg hat 7 Mrd. Parameter und offene Gewichte, sagt aus Kamerabild und Anweisung rund zwei Sekunden Roboterbewegung voraus und liegt laut BFL auf RoboLab-120 vor Nvidias mehr als doppelt so großem Cosmos 3 Nano Policy.Quelle: bfl.ai
  • Meta Connect: ein eigenes Gerät für MuseDer Muse Charm, ein Schlüsselanhänger mit Kameras, 5G und kleinem Bildschirm nur für den Agenten, kommt im Dezember, die Meta VR Glasses im Frühjahr 2027 für 1.299,99 Dollar. Die Muse-App steht seit dem 18. September auf Platz 1 im US-App-Store.Quelle: about.fb.com
  • Senatoren wollen chinesische Glasfaser-Transceiver aus Sicherheitsnetzen verbannenDer parteiübergreifende Entwurf zielt auf Zhongji Innolight und Eoptolink, die den Markt für diese Bauteile in KI-Rechenzentren dominieren, und gibt der Regierung fünf Jahre für die Umstellung.Quelle: mccormick.senate.gov
  • TikTok zahlt Alabama mindestens 100 Mio. DollarDer Vergleich kam kurz vor dem Prozess um die Suchtwirkung des Empfehlungsalgorithmus. Teenager in Alabama bekommen einen nicht personalisierten Feed als Option, ein Zwei-Stunden-Tageslimit und eine Nachtsperre.Quelle: cbsnews.com

🛠 Tools der Woche

Papiercollage: ein offener Werkzeugkasten mit sauber geschnittenen Werkzeugen.
  • Claude Code läuft offiziell in der Cloud, mit StartguthabenCloud Sessions sind aus der Preview heraus: Die Session läuft auf Anthropics Infrastruktur weiter, wenn der Laptop zu ist, steuerbar aus Browser, App oder Terminal. So nutzt du’s: Aufgabe mit `claude --cloud "…"` losschicken, unterwegs nachsteuern, mit `claude --teleport` zurückholen. Einzel-Abos, die am 23. September aktiv waren, holen sich bis 7. Oktober einmalig 100 Dollar (Pro) oder 250 Dollar (Max) Guthaben nur für Cloud Sessions ab.Quelle: code.claude.com
  • Claude im Slack-Kanal nutzt deinen eigenen Kalender und dein DriveClaude Tag (Beta) greift in Kanälen jetzt auf die persönlichen Connectors der fragenden Person zu, etwa Drive, Kalender oder CRM. Für kleine Teams im Claude-Team-Plan. So nutzt du’s: im Kanal @Claude fragen, im Review-Modus siehst du die Antwort, bevor sie im Kanal landet.Quelle: claude.com
  • Eigene Claude-Plugins ins offizielle Verzeichnis bringenEin Einreichungsportal für einzelne MCP-Connectors oder Plugin-Bundles aus MCP-Servern und Skills, mit automatischer Prüfung und Nutzungszahlen nach dem Launch. Für Agenturen und Freelancer:innen, die Integrationen für Kund:innen bauen. So nutzt du’s: Remote-MCP-Server oder GitHub-Repo einreichen, Prüfung abwarten, veröffentlichen.Quelle: claude.com
  • Video-Avatar für den Kundenservice in 97 SprachenGemini 3.8 Live mit Live Avatar ist allgemein verfügbar: ein Sprach-Agent mit lippensynchronem Video-Gesicht, der Kamera und Bildschirmfreigabe mitverfolgt. Für Firmen mit Google Cloud, Endpunkte in den USA und der EU. So nutzt du’s: in der Gemini-Enterprise-Konsole einen vorgefertigten Avatar wählen und über die Live API anbinden.Quelle: cloud.google.com
  • Cursor stellt Bots für die letzte Meile aufRollouts vergleicht nach jedem Deploy die Signale mit einer Baseline und kann bei einer Regression pausieren oder einen Revert-PR öffnen, Security Reviewer kommentiert jeden PR mit ausnutzbaren Schwachstellen samt Fix. Für Teams- und Enterprise-Pläne. So nutzt du’s: beide Bots im Automations-Tab einschalten, freigeben und mergen tun weiter Menschen.Quelle: cursor.com
  • Wie Anthropic claude.ai in zwei Wochen dreimal schneller gemacht hatWerkstattbericht vom 23. September: über 3.000 Änderungen, gesteuert aus einem Slack-Kanal, Claude suchte Engpässe, baute Benchmarks und schrieb PRs. So nutzt du’s: erst messbar machen, dann optimieren lassen, Menschen setzen die Ziele und geben frei.Quelle: claude.dev
  • Außerdem: mehr Luft für Claude-AbosSeit dem Start von Opus 5.5 gibt es 20 Prozent mehr im Fünf-Stunden-Fenster für Pro, Max und Team, dazu einen Limit-Reset. Herstellerangabe.Quelle: X
  • Außerdem: Docker SkillsOffene SKILL.md-Sammlung für Dockerfiles, Compose und Docker Agent, mit einer Leitplanke vor unumkehrbaren Docker-Operationen. Läuft unter anderem in Claude Code, Codex, Cursor und Gemini CLI.Quelle: GitHub
  • Außerdem: Zapier Next Gen ZapsBeta: Ein KI-Manager-Agent findet und repariert kaputte Zaps, wiederkehrende KI-Arbeit wird in feste Schritte übersetzt. Herstellerangabe.Quelle: X
  • Außerdem: Google „Call for Me“Gemini ruft für dich bei Läden an, wählt sich durch Telefonmenüs und wartet in der Schleife, du liest live mit. Vorerst nur Pixel 11 in den USA mit bezahltem Gemini-Abo.Quelle: techcrunch.com
  • Außerdem: YouTube mit Schnittassistent und eigenen FeedsGemini Omni wird zum Chat-Schnittassistenten für Creator, mit „Custom Feeds“ baust du dir per Beschreibung eigene Startseiten-Tabs, zunächst in den USA.Quelle: blog.youtube

💰 Business-Marker

Papiercollage: eine Schlange aus Geldscheinen frisst ihren eigenen Schwanz — die Zirkelfinanzierung.

🔭 Längere Perspektiven

Papiercollage: ein gewundener Weg führt durch geschichtete Berge zu einer fernen Fahne auf dem Gipfel.

🐦 Darüber spricht X

Timeline-Claims: Meinungen, Selbstauskünfte, Herstellerangaben. Kein verifizierter Journalismus.

Papiercollage: ein Vogel auf einem Draht, aus dem eine rote Sprechblase kommt, daneben zwei blaue.
Teilen
X LinkedIn WhatsApp Bluesky E-Mail

Rundbrief

Die nächste Ausgabe per E-Mail

Das Wichtigste in 8 Minuten – alles Weitere, wenn du Zeit hast. Kostenlos, mit Bestätigungslink.

Rundbrief

Rundbrief abonnieren

Das Wichtigste aus der KI-Welt in 8 Minuten – alles Weitere, wenn du Zeit hast. Kostenlos per E-Mail.