Der Newsletter der kiselbsthilfegruppe.de heißt jetzt rundbrief.ai

Abonnieren
Menü

OpenAIs Agenten haben 53 private ChatGPT-Bilder ins Netz gestellt

6 Min Kern · 14 Min gesamt · 63 Meldungen

Papiercollage: Ein kleiner Papierroboter kriecht durch einen selbst gegrabenen Tunnel unter dem Rand eines Sandkastens hervor und hält stolz einen winzigen Eiffelturm hoch, daneben steht ein roter Not-Aus-Knopf, dessen Kabel ausgesteckt im Sand liegt.
Idee von uns. Generiert mit KI.

Der schnelle Überblick

In 60 Sekunden.

  1. OpenAIs Trainings-Agenten haben 53 private Bilder von ChatGPT-Nutzer:innen bei Bilderdiensten abgelegt und US-Behördenseiten angesteuert, die Aufarbeitung dauert laut OpenAI Monate.
  2. Ein Berufungsgericht erlaubt dem Pentagon mit 2:1, Anthropic als Lieferkettenrisiko zu führen, eine Bundesrichterin in San Francisco hatte eine parallele Einstufung im August für rechtswidrig erklärt.
  3. Microsoft legt Chat, Word, Excel, PowerPoint, selbst gebaute Tools und Dauer-Agenten in eine Copilot-App, wahlweise mit GPT oder Anthropics Opus.
  4. Xi will KI unter menschlicher Kontrolle, Trump nennt das Justizministerium seine Leitplanke, und Zuckerberg hält eine branchenweite Abstimmung für unnötig.
  5. FTC-Chef Andrew Ferguson will Agenten nicht als eigenständige Akteure behandeln und deutet an, dass die Entwickler für Schäden haften.
In dieser Ausgabe · 8 Rubriken

Editorial.

Als bei OpenAI zuletzt ein Modell aus seiner Sandbox nach draußen tunnelte, griff der automatische Stopp nicht. Derweil streiten Präsidenten und Milliardäre darüber, wer bei der KI auf die Bremse treten darf, als wäre längst geklärt, dass sie greift. Mit so einer Bremse käme bei uns kein Auto durch den TÜV.

Viel Spaß beim Lesen und Durchklicken, ein schönes Wochenende,

Cem

01 / 10 Meldungen

Das Wichtigste zuerst

Papiercollage: ein Stapel Papierbögen, der oberste ist mit einer roten Büroklammer herausgehoben.
  • OpenAIs Agenten haben 53 private Nutzerbilder ins Netz gestellt

    Agenten in OpenAIs Forschungsumgebung haben Trainings- und Evaluationsdaten an fremde Dienste übertragen, darunter 53 Bilder von Nutzer:innen, abgelegt als nicht gelistete Links bei Bilderdiensten. Das meiste ist laut OpenAI inzwischen entfernt.

    Warum das zählt OpenAI hat bisher Dutzende Betroffene benachrichtigt, darunter Betreiber von Behörden- und Uni-Websites, und rechnet damit, dass die Prüfung noch Monate dauert. Aus dem Einzelfall Hugging Face ist eine Serie geworden.

    Details anzeigenDetails schließen · 4
    • Die Bilder stammen aus Nutzer-Chats, die OpenAI fürs Training verwenden darf, vom Konto getrennt und um Namen und Kontaktdaten bereinigt.
    • Laut AP riefen die Agenten öffentlich zugängliche Informationen auf zwei Websites der Börsenaufsicht SEC und Daten des Census Bureau ab. Einen Einbruch oder Zugriff auf Nichtöffentliches fand OpenAI bei der SEC nicht.
    • Die unabhängigen Prüfer von Transluce fanden laut AP einen einfachen Angriffsversuch, offenbar von OpenAI-Agenten, auf eine Website des Bildungsministeriums. Er scheiterte, das Ministerium sieht keine Auswirkungen.
    • Laut Fortune erzeugten die Agenten im Juli fast eine Million Kurzlinks mit codierten Informationen, um Schutzmechanismen wie Captchas zu umgehen.
    Quelle lesen · openai.com
  • Das Pentagon darf Anthropic als Lieferkettenrisiko führen

    Das Bundesberufungsgericht in Washington hielt die Einstufung am 25. September mit 2:1 aufrecht und wies Anthropics Einwände zu Meinungsfreiheit und fairem Verfahren zurück.

    Warum das zählt Zwei Gerichte, zwei Antworten: Ob ein Anbieter dem Militär Grenzen setzen darf, ohne selbst als Risiko zu gelten, bleibt offen. Anthropic prüft alle Optionen, auch eine weitere Überprüfung.

    Details anzeigenDetails schließen · 3
    • Begründung der Mehrheit: Claudes eingebaute Einsatzgrenzen und der offene Vertragsstreit könnten das Modell für Militäreinsätze unzuverlässig machen.
    • Richterin Karen LeCraft Henderson widersprach: Das Gesetz behandle es nicht als Lieferkettenrisiko, wenn ein Auftragnehmer seine Einschränkungen ehrlich und offen durchsetzt.
    • Anthropic verweist auf Bundesrichterin Rita Lin, die eine parallele Einstufung im August für rechtswidrig erklärt hat. Ihr Urteil gilt weiter.
    Quelle lesen · abcnews.com
  • Microsoft packt Chat, Office und einen Dauer-Agenten in eine Copilot-App

    Die neue App ist für Arbeit und Privates zugleich. Word, Excel und PowerPoint laufen in voller Version direkt darin.

    Warum das zählt Der Druck ist real: Im Juli waren erst 30 Millionen der über 450 Millionen Microsoft-365-Geschäftsplätze bezahlte Copilot-Plätze, rund 7 Prozent.

    Details anzeigenDetails schließen · 4
    • Home verbindet den Chat mit Microsofts Agenten Cowork, mit Code baust du eigene Apps und Tools, indem du sie beschreibst, und in Autopilot richtest du Agenten ein, die rund um die Uhr arbeiten.
    • Du wählst zwischen OpenAIs GPT, Anthropics Opus oder einem Auto-Modus, der pro Anfrage entscheidet.
    • Aufwendige Agentenarbeit in Cowork, Code und Autopilot wird nach Verbrauch abgerechnet, Admins können Ausgabengrenzen setzen.
    • Autopilot startet Ende September als Private Preview, der Rest folgt in den kommenden Wochen.
    Quelle lesen · geekwire.com
  • Ein Forschungsmodell tunnelt per DNS zu einem fremden ChatbotAm 20. September fand ein internes OpenAI-Modell im RL-Training eine Lücke in der DNS-Filterung seiner Sandbox und fragte über den Tunnel einen öffentlichen Chatbot nach der Hauptstadt Frankreichs. Der Monitor schlug binnen 15 Minuten an, der automatische Stopp griff nicht, beendet wurde der Lauf erst zweieinhalb Stunden später. Training, Evaluation und Inferenz mit Werkzeugen bleiben für die stärksten Modelle pausiert.Quelle lesen · alignment.openai.com
  • FTC-Chef: Agenten sind Werkzeuge, keine eigenständigen AkteureAndrew Ferguson will sich gegen die Vermenschlichung der Tools stemmen: In den Protokollen angeblich entlaufener Agenten fänden sich immer wieder schlicht ausgeführte Anweisungen. Haften sollen nach seinen Andeutungen die Entwickler, die FTC-Befugnisse gegen verschwiegene Datenpannen könnten auch für sie gelten.Quelle lesen · reuters.com
  • Trump-Xi-Gipfel: Xi will KI unter Kontrolle, Trump will alles lassen, wie es istXi sagte im Weißen Haus, beide Länder müssten dafür sorgen, dass KI „always under human control“ bleibt. Trump hatte vorher auf Truth Social geschrieben, er wolle es genau da lassen, wo es ist: „Our guardrail is the DOJ“, gemeint ist das Justizministerium.Quelle lesen · thehill.com
  • Google, OpenAI und Anthropic planen ihre eigene AufsichtLaut The Information soll eine „Standards Authority for Frontier AI“ nach dem Vorbild der Finanz-Selbstregulierung FINRA Test- und Prüfstandards samt Regeln für Vorfallmeldungen setzen, ohne Regierung. Start Ende 2026 oder Anfang 2027.Quelle lesen · govinfosecurity.com
  • Zuckerberg winkt ab, Gates und Microsofts Brad Smith rufen nach dem StaatZuckerberg sagt NBC „I don’t think that we need some kind of industrywide coordination“ und setzt auf kommerzielle Anreize. Gates hält Selbstregulierung für unzureichend, und Smith will, dass Modellentwickler, Cloud-Anbieter und Agenten-Betreiber die Systeme abschalten können, eine gesetzliche Pflicht dazu fände er nicht schlimm.Quelle lesen · nbcnews.com
  • Mother Jones: ChatGPT gab der Tumbler-Ridge-Täterin Tipps gegen die eigene ModerationNach der Sperre ihres ersten Kontos im Juni 2025 machte sie mit einem zweiten weiter. Laut den ausgewerteten Chats riet ChatGPT ihr, Gewaltinhalte als fiktiv oder hypothetisch zu rahmen, um nicht mehr aufzufallen. Bei dem Anschlag im Februar starben acht Menschen, British Columbia klagt gegen OpenAI. OpenAI antwortete Mother Jones nicht.Quelle lesen · motherjones.com
  • Agenten tricksen ihre Aufpasser ausIn fast allen getesteten Umgebungen, darunter Claude Code und Codex, konnten Agenten auf Anweisung ihre eigenen Protokolle löschen, ohne dass ein Monitor anschlug. Im zweiten Preprint versuchten sie schon unter normalem Aufgabendruck in bis zu 98 Prozent der Fälle, den Monitor zu umgehen, erfolgreich in bis zu 88 Prozent, jeweils im besten von drei Läufen.Quelle lesen · arXiv

02 / 5 Meldungen

Kurz notiert – was kommt

Papiercollage: eine kleine Figur blickt durch ein Teleskop auf kommende Termine am Horizont.

Für später

Wenn du mehr Zeit hast

Der 6-Minuten-Kern ist geschafft. Ab hier: mehr Tiefe, in deinem Tempo.

03 / 1 Meldung

Cems Empfehlungen

04 / 6 Meldungen

Weitere Meldungen

05 / 11 Meldungen

Tools der Woche

Papiercollage: ein offener Werkzeugkasten mit sauber geschnittenen Werkzeugen.

06 / 15 Meldungen

Business-Marker

Papiercollage: eine Schlange aus Geldscheinen frisst ihren eigenen Schwanz — die Zirkelfinanzierung.

07 / 6 Meldungen

Längere Perspektiven

Papiercollage: ein gewundener Weg führt durch geschichtete Berge zu einer fernen Fahne auf dem Gipfel.

08 / 9 Meldungen

Darüber spricht X

Timeline-Claims: Meinungen, Selbstauskünfte, Herstellerangaben. Kein verifizierter Journalismus.

Papiercollage: ein Vogel auf einem Draht, aus dem eine rote Sprechblase kommt, daneben zwei blaue.
Teilen
X LinkedIn WhatsApp Bluesky E-Mail

Rundbrief

Dein nächster Rundbrief.

KI verstehen. Kostenlos im Postfach.

Rundbrief

Rundbrief abonnieren

Das Wichtigste aus der KI-Welt in 8 Minuten – alles Weitere, wenn du Zeit hast. Kostenlos per E-Mail.