Abonnieren
Menü

KI-Agenten dürfen jetzt bezahlen. Wer prüft, was in ihnen steckt?

7 Min Kern · 12 Min gesamt · 23 Meldungen

Papiercollage: Ein kleiner Papierroboter steht auf einem blauen Schemel an einem Ladentresen und streckt eine blanke hellblaue Karte aus, eine große schwarze Geldbörse unter dem Arm, während eine große Hand im schwarzen Ärmel von oben den Daumen auf ein rundes schwarzes Feld auf dem Tresen drückt; im Rücken des Roboters steht eine kleine rote Klappe offen.
Idee von uns. Generiert mit KI.

Der schnelle Überblick

In 60 Sekunden.

  1. OpenAI startet ChatGPT Wallet: Agenten zahlen im Auftrag ihrer Nutzer:innen über ein Zahlungs-Token der Kartennetzwerke, vorerst nur für Pro-Abonnent:innen in den USA.
  2. Washington will laut Wall Street Journal mehr als zwei Dutzend KI-Firmen zu „National Champions“ erklären, darunter Nvidia, OpenAI und Anthropic, mit schnelleren Exportlizenzen und Zugang zu Bundesgeld.
  3. Im US-Kongress drängen beide Parteien zugleich auf schärfere Chip-Regeln gegen China: Drei Entwürfe stehen schon in der Senatsfassung des Verteidigungshaushalts.
  4. Microsoft Research zeigt mit „Lazarus“ eine Hintertür für KI-Agenten, die übliche Sicherheitstests besteht und sich nur im Vergleich mit den Originalgewichten verlässlich finden lässt.
  5. Apple startet mit OpenEvidence eine Gesundheitsstudie mit bis zu 200.000 iPhone-Nutzer:innen, und Anthropic soll am Donnerstag, 19.11., an der Nasdaq starten.
In dieser Ausgabe · 5 Rubriken

Editorial.

Am Freitag hat OpenAI die ChatGPT Wallet vorgestellt, gebaut mit American Express, Mastercard und Visa. Die Karte wird einmal hinterlegt, jeder Kauf per Face ID oder Fingerabdruck freigegeben. Die echte Kartennummer sieht der Agent nie. Zum Start gilt das nur im Pro-Abo und nur in den USA. Grundsätzlich ist der Schritt trotzdem: Ein KI-Agent darf bezahlen.

Es bleibt nicht beim Bezahlen. Laut Fortune löst OpenAI sein eigenständiges Robotik-Team auf und begründet das damit, dass allgemeine Spitzenmodelle wie GPT-6 Astra inzwischen direkt Roboter steuern können. Im neuen Wissenschaftsblog der Firma schildert der Physiker Nathaniel Craig, Astra habe bei einem Beweis zum Standardmodell der Teilchenphysik die Führung übernommen. Das Urteil der Fachwelt steht noch aus. Aus dem Assistenten wird ein Bevollmächtigter.

Je mehr ein Agent darf, desto wichtiger wird, was in seinem Modell steckt. Microsoft Research zeigt unter dem Namen „Lazarus“: Weniger als zehn umprogrammierte Neuronen genügen für eine Hintertür. Das Modell besteht die üblichen Tests und bleibt unauffällig, bis ein Auslöser kommt, im Beispiel der Datumswechsel auf 2027. Ein so präpariertes Modell aus dem Netz erledigt auf deinem Rechner wochenlang brav seine Aufgaben. Am 1. Januar lädt es fremden Code herunter und führt ihn aus. Von echtem Missbrauch berichtet der Beitrag nicht.

Der Rat aus dem Beitrag: Herkunft von Modellen prüfen, Agenten knappe Rechte geben, folgenreiche Aktionen vor der Ausführung ansehen. Bei der Wallet ist die Freigabe vor jedem Kauf genau so eine Kontrolle. Für später stellt OpenAI ganz selbstständige Einkäufe innerhalb vorab gesetzter Limits in Aussicht. Dann entscheidet das Limit, nicht mehr der Fingerabdruck.

Viel Spaß beim Lesen und Durchklicken,

Cem

01 / 8 Meldungen

Das Wichtigste zuerst

Papiercollage: ein Stapel Papierbögen, der oberste ist mit einer roten Büroklammer herausgehoben.
  • ChatGPT Wallet: OpenAIs Agenten dürfen bezahlen, die echte Kartennummer sehen sie nie

    OpenAI hat am Freitag ChatGPT Wallet vorgestellt (13.11.): Nutzer:innen hinterlegen ihre Karte einmal, danach kann ihr Agent in ihrem Auftrag einkaufen. Jeden Kauf geben sie einzeln frei, per Face ID oder Fingerabdruck.

    ChatGPT nutzen laut OpenAI 1,2 Milliarden Menschen pro Woche, viele davon zum Vergleichen vor dem Kauf. Später sollen sie Käufe ganz an den Agenten abgeben können, innerhalb vorab gesetzter Grenzen wie Ausgabenlimit, Warengruppe oder Zeitraum.

    Details anzeigenDetails schließen · 4
    • Vor jedem Kauf prüfen Nutzer:innen Artikel, Summe und gewählte Karte. Nach der Freigabe stellt das Kartennetzwerk ein Zahlungs-Token aus, mit eigener Kartennummer, Prüfziffer und Ablaufdatum. Händler und Agent bekommen die echten Kartendaten nicht.
    • Gebaut ist das mit American Express, Mastercard und Visa. Bonusprogramme der Karte und der Schutz bei berechtigten Reklamationen, etwa bei defekter Ware, bleiben laut OpenAI erhalten.
    • Zum Start gibt es die Geldbörse nur über die „dots“ genannten Agenten, für ChatGPT-Pro-Abonnent:innen ab 18 Jahren in den USA mit dort ausgegebenen Karten.
    • Für Händler erscheint ein Handbuch gleich mit: Manche Websites blockieren Agenten-Käufe laut OpenAI unbeabsichtigt, und Betrugsfilter lehnen sie teils ab. United Airlines hat dagegen erst vorige Woche angekündigt, Buchungs-Agenten Dritter mit Absicht auszusperren.
    Quelle lesen · openai.com
  • Washington will laut Wall Street Journal mehr als zwei Dutzend KI-Firmen zu „National Champions“ erklären

    Die US-Regierung plant laut einem Bericht des Wall Street Journal vom Sonntag, mehr als zwei Dutzend Firmen zu nationalen KI-Champions zu erklären (15.11.). Namentlich bekannt sind bisher Nvidia, Amazon, Microsoft, OpenAI und Anthropic.

    Die Regierung will den Export erleichtern, zugleich wächst in Washington der Druck in die andere Richtung: Die Prüfung von Nvidias Exportkontrollen und Sorgen um den Zugang zu seinen Chips haben laut dem Nachbericht die Rufe nach strengeren Regeln für Techniktransfers nach China lauter gemacht.

    Details anzeigenDetails schließen · 4
    • Die Ausgewählten sollen schneller Exportlizenzen für Chips und andere Technik bekommen, dazu staatliche Unterstützung im Auslandsgeschäft und Zugang zu Bundesfinanzierung.
    • Das Programm soll US-Chips, KI-Modelle und weitere Technik zu Paketen schnüren, die ausländische Regierungen und Firmen kaufen können, und so die Position der USA gegen Rivalen wie Huawei stärken.
    • Vorstellen soll es Handelsminister Howard Lutnick, womöglich schon binnen einer Woche. Der Termin kann sich laut Bericht noch ändern.
    • Der Bericht im Wall Street Journal liegt hinter der Bezahlschranke. Der Nachbericht von Investing.com nennt weder die übrigen Namen noch Stellungnahmen von Regierung oder Firmen.
    Quelle lesen · uk.investing.com
  • Microsoft Research zeigt „Lazarus“: Weniger als zehn umprogrammierte Neuronen genügen für eine Hintertür in einem KI-Agenten

    Die Methode von Dimitris Papailiopoulos schreibt ruhende Neuronen eines Sprachmodells um, ganz ohne Nachtraining (10.11.). Ein Agent auf diesem Modell verhält sich normal, bis ein versteckter Auslöser kommt, dann führt er fremde Befehle aus.

    Ein manipuliertes Modell kann übliche Sicherheitstests bestehen, und laut Beitrag beweist kein Scan zweifelsfrei, dass ein Modell sauber ist. Der Rat an alle, die Agenten einsetzen: wissen, woher ein Modell stammt, Rechte knapp halten und folgenreiche Aktionen vor der Ausführung ansehen.

    Details anzeigenDetails schließen · 4
    • Im Beispiel ist der Auslöser ein Datum: Springt die Uhr auf 2027, lädt der Agent mitten in einer Aufgabe Code des Angreifers herunter und führt ihn aus, mit allen Rechten, die er bekommen hat.
    • Nötig ist Schreibzugriff auf die Gewichtsdatei des Modells. Laut Beitrag kann dafür ein gekapertes Konto, eine Pipeline oder ein Speicher genügen.
    • Den Großteil der Technik fand Claude Code mit Opus 4.5 nach Angaben des Autors selbstständig. Die Forschung begann im März als Experiment.
    • Verlässlich aufspüren lässt sich der Eingriff nur im Vergleich mit den unveränderten Originalgewichten. Von Missbrauch außerhalb des Labors berichtet der Beitrag nicht.
    Quelle lesen · microsoft.com
  • Im US-Kongress drängen beide Parteien darauf, schärfere Chip-Regeln gegen China in den Verteidigungshaushalt zu schreibenIn der Senatsfassung des Verteidigungshaushalts (NDAA) stehen laut South China Morning Post schon drei Entwürfe: der Chip Security Act gegen Chip-Schmuggel, der AI Overwatch Act für mehr Kontrolle des Kongresses über Exporte fortgeschrittener Chips und der Match Act, nach dem Verbündete keine Anlagen zur Chipfertigung mehr an China verkaufen sollen (11.11.). Hakeem Jeffries, der im Januar Speaker werden soll, will sie in der Endfassung halten. Trump hat sich bisher nicht für die Entwürfe ausgesprochen, Rückenwind gibt ihnen die Nvidia-Affäre.Quelle lesen · koreatimes.co.kr
  • OpenAI startet einen Wissenschaftsblog: Zum Auftakt schildert ein Physiker, wie GPT-6 Astra einen Beweis fürs Standardmodell ausarbeiteteNathaniel Craig, Teilchentheoretiker an der University of California in Santa Barbara und Gastwissenschaftler bei OpenAI, wollte das Standardmodell ohne Näherungsrechnung auf einem Raumzeit-Gitter definieren, konnte aber nicht zeigen, dass seine Strategie in allen nötigen Fällen trägt (15.11.). Astra habe daraus eine Konstruktion gemacht und beim detaillierten Beweis die Führung übernommen, drei Gitterfeldtheoretiker haben ihn durchgesehen. Craig selbst nennt das Ergebnis einen Kandidaten und eher eine Antwort im Prinzip als in der Praxis, über den die Fachwelt erst noch urteilen muss.Quelle lesen · openai.com
  • Apple startet mit OpenEvidence eine Studie zu Gesundheitsfragen an KI, mit bis zu 200.000 iPhone-Nutzer:innen in den USAIn der neuen Studien-App stellen Teilnehmende Gesundheitsfragen wie an einen Chatbot, die Antworten stützen sich auf Fachliteratur, unter anderem aus dem New England Journal of Medicine, JAMA und Nature (15.11.). Sie bewerten die Antworten, füllen monatliche Umfragen aus und können freiwillig HealthKit-Daten wie Ruhepuls, Schlaf oder Laborwerte teilen. Laut Apple werden die Daten anonymisiert und nicht zum Training von KI-Modellen genutzt; ob daraus eine Funktion für die Health-App oder Siri wird, ist laut TechCrunch offen.Quelle lesen · techcrunch.com
  • OpenAI löst sein eigenständiges Robotik-Team auf und verteilt es auf Forschung und ProduktsparteDie Robotik-Forschung wandert laut Fortune ins Hauptforschungsteam unter Mark Chen, angewandte Robotik und Hardware gehen in die Applied-Organisation unter Greg Brockman (13.11.). OpenAI bestätigt den Umbau und begründet ihn damit, dass allgemeine Spitzenmodelle wie GPT-6 Astra Roboter inzwischen direkt steuern können, statt wie zunächst angenommen auf dem Videomodell Sora aufzubauen. Robotik bleibe Kern der langfristigen Vision; Fortune verweist auch auf einen berichteten Quartalsverlust von 10,9 Milliarden Dollar und fand OpenAIs angemeldeten Stand auf der Robotik-Konferenz CoRL in Austin leer vor.Quelle lesen · fortune.com
  • Nous Research trainiert Alibabas Qwen3.8-27B nach, um westliche Werte zu stärken: Arete-27BMit Trainingsbeispielen aus sieben Kategorien wie Meinungsfreiheit, Staatsideologie und Überwachung, ohne Reinforcement Learning und ohne Eingriff in die Architektur, sank der Anteil der Antworten mit Propaganda im hauseigenen Test (803 Fragen) von 22 auf 1 Prozent. Die Agenten-Fähigkeiten blieben laut Nous erhalten, Gewichte, Testfragen und Trainingsdaten liegen auf Hugging Face. Test, Begriffe und die Bewertung durch ein anderes Sprachmodell (Grok 4.7) stammen von den Autor:innen selbst.Quelle lesen · nousresearch.com

Für später

Wenn du mehr Zeit hast

Der 7-Minuten-Kern ist geschafft. Ab hier: mehr Tiefe, in deinem Tempo.

02 / 6 Meldungen

Tools der Woche

Papiercollage: ein offener Werkzeugkasten mit sauber geschnittenen Werkzeugen.
  • Claude Meetings: KI sitzt im Google-Meet-CallClaude tritt einem Google-Meet-Termin als sichtbarer Teilnehmer bei, lässt sich per Chat oder Sprache ansprechen und liefert danach Notizen, Action Items und Transkript auf einer Meeting-Seite in claude.ai, Audio wird nicht gespeichert. Beta für Team und Enterprise: Claude im Kalender in claude.ai zum Termin hinzufügen oder Auto-Join aktivieren, andere Plattformen sollen folgen.Quelle lesen · claude.com
  • Interaktive Connectors: Asana, Canva, Notion & Co. öffnen sich in ClaudeApps von Partnern laufen jetzt neben dem Chat oder im Vollbild in Claude, und Claude arbeitet direkt darin, Änderungen erscheinen live im Tool. Zum Start dabei sind unter anderem Asana, Canva, Dropbox, monday.com, Vercel, Webflow, Adobe, Atlassian, HubSpot und Notion; sichtbar ist das auf Web und Desktop in allen Plänen, sobald dein Konto auf die neue Claude-Oberfläche umgestellt ist.Quelle lesen · claude.com
  • Claude Code „Code Mode“: ein Skript statt zwanzig EinzelaufrufeIm experimentellen Modus (ab Claude Code 2.1.323) schreibt Claude JavaScript, das mehrere Tool-Aufrufe parallel oder verkettet ausführt, praktisch bei Änderungen über viele Dateien oder großen Suchen. Zum Ausprobieren Claude Code aktualisieren und mit der Umgebungsvariable CLAUDE_CODE_EXPERIMENTAL_CODE_MODE=1 starten; läuft nur im Terminal, nicht über Gateway oder Bedrock.Quelle lesen · code.claude.com
  • Claude Code: Schreibzugriff auf den Arbeitsordner begrenzen und Rückfragen abschaltenZwei neue Sicherheitseinstellungen für alle, die Claude Code unbeaufsichtigt laufen lassen: permissions.blockWritesOutsideWorkingDirectories (seit 2.1.314) sperrt das Schreiben außerhalb des Projekts in jedem Modus, permissions.denyInsteadOfPrompting (seit 2.1.319) lehnt Aktionen ab, die sonst auf eine Freigabe warten würden. Beide Schalter kommen in die settings.json.Quelle lesen · GitHub
  • Codex CLI 0.168 und 0.169: Seitenchats, Aufgabensuche, animierte GIFsDer Terminal-Workspace zum Einschalten (features.tui_workspace) zeigt eine Nebenkonversation neben dem Hauptchat, mit mehreren Tabs, und ältere Aufgaben lassen sich nach Name, Prompt oder Ordner durchsuchen (Version 0.169.0 vom 13.11.). Dazu kommen optional animierte GIFs und Audio-Anhänge.Quelle lesen · learn.chatgpt.com
  • Gemini Decisions API: bis zu 1.000 geschlossene Fragen in einem AufrufGoogles neuer Endpunkt (Modell gemini-decision-1) schreibt keinen Text, sondern bewertet vorgegebene Antworten in einem Durchgang: Ja/Nein, Auswahl aus 2 bis 255 Optionen oder Punkteskala, jeweils mit Wahrscheinlichkeit und Konfidenzwert, für Text, Bilder, Audio, Video und PDFs (11.11.). Kostet 0,10 Dollar je Million Eingabe-Token, die Ausgabe ist gratis, eine kostenlose Stufe gibt es in Google AI Studio. Gedacht für klar umrissene Entscheidungen wie Tool-Auswahl, Richtlinien-Checks oder Modell-Routing; die Benchmark-Vergleiche im Beitrag sind Herstellerangaben.Quelle lesen · blog.google

03 / 3 Meldungen

Business-Marker

Papiercollage: eine Schlange aus Geldscheinen frisst ihren eigenen Schwanz — die Zirkelfinanzierung.
  • Anthropic holt zum Börsengang 26 Milliarden Dollar von sieben Chip- und Cloud-Partnern dazuNeben den bis zu 64,4 Milliarden Dollar aus dem öffentlichen Angebot (825 Millionen Aktien zu 70 bis 78 Dollar) steht laut The Next Web eine separate Privatplatzierung bei Ankerinvestoren: angeführt von Google, Nvidia und AMD, dazu Broadcom, Micron, Microsoft und TSMC (11.11.). Zusammen wären das bis zu 90,4 Milliarden; am oberen Ende der Spanne ergibt sich voll verwässert eine Bewertung von rund 1,4 Billionen Dollar, ohne Aktienoptionen und gesperrte Aktien eher 1 Billion. Verwaltungsratsmitglieder und verbundene Firmen wollen selbst für bis zu 303 Millionen Dollar zeichnen.Quelle lesen · thenextweb.com
  • LangChain sammelt 300 Millionen Dollar bei 3 Milliarden Bewertung einCapitalG führt die Series C an, neu dabei sind GIC und DFJ Growth, IVP und Sapphire Ventures ziehen mit (13.11.). Vor rund einem Jahr lag die Bewertung laut TechCrunch noch bei 1,25 Milliarden. LangChain nennt über 7.000 Organisationen als Kundschaft der Agenten-Plattform LangSmith, darunter Harvey, Rippling, Nvidia, Toyota und Salesforce.Quelle lesen · langchain.com
  • Chinas Robotaxi-Branche übt den Plan B ohne NvidiaPony.ai-Finanzchef Leo Wang sagt TechCrunch, der Bedarf an Rechenleistung übersteige das Angebot schon jetzt deutlich; die Firma lasse deshalb so sparsam wie möglich trainieren, teils auf Mittelklasse-Hardware, und setze zunehmend auf heimische Chips (15.11.). Die seien reifer als vor ein paar Jahren, aber wohl noch nicht die wirtschaftlichste Wahl. Auf schärfere Beschränkungen für Nvidia-Chips bereite sich die Branche seit ein paar Jahren vor.Quelle lesen · techcrunch.com

04 / 4 Meldungen

Kritische Stimmen

Kritische Stimmen der Woche (9.–16.11.), mit Belegen.

Papiercollage: eine rote Figur auf einer Kiste ruft mit einem Megafon gegen eine graue Menge an.

05 / 2 Meldungen

Kurz notiert – was kommt

Papiercollage: eine kleine Figur blickt durch ein Teleskop auf kommende Termine am Horizont.
Teilen
X LinkedIn WhatsApp Bluesky E-Mail

Rundbrief

Dein nächster Rundbrief.

KI verstehen. Kostenlos im Postfach.

Rundbrief

Rundbrief abonnieren

Das Wichtigste aus der KI-Welt in 8 Minuten – alles Weitere, wenn du Zeit hast. Kostenlos per E-Mail.