Abonnieren
Menü

Thema im Rundbrief

KI-Sicherheit im KI-Newsletter

KI-Sicherheit hat zwei Seiten: Modelle sollen tun, was Menschen wollen (Alignment), und sie sollen weder angreifbar sein noch Angriffe erleichtern.

Hier stehen alle Meldungen über Sicherheitsforschung, Evaluationen, Vorfälle, Sicherheitslücken und die Debatte über KI-Risiken.

Die Liste entsteht automatisch aus allen Ausgaben des Rundbriefs. Jede Meldung verlinkt auf ihre Quelle und auf die Ausgabe, in der sie stand.

170 Meldungen seit Juni 2026, zuletzt am 19.11.2026

  1. Banken schieben das Agenten-Risiko auf die Kundschaft: Bei Citi haftest du selbst, wenn dein KI-Helfer gehackt wird (Quelle, öffnet in neuem Tab)

    Die US-Banken Citi, PNC und Citizens haben diese Woche ihre Bedingungen geändert: Wer KI-Agenten von Drittanbietern Zugang zum Konto gibt, ist für alles verantwortlich, was darüber läuft. JPMorgan und Bank of America hatten im Oktober ähnliche Regeln angekündigt.

  2. International Cyber Digest: Der Fix für die PHP-Lücke php2shell lasse sich umgehen (Quelle, öffnet in neuem Tab)

    Code-Ausführung auf Webservern ohne Login sei wieder möglich, genannt werden die Sicherheitsfirma depthfirst, CVE-2026-126714 und ein Schweregrad von 9,2 von 10 (19.11.). Weder die Nummer noch ein Beitrag von depthfirst noch eine Warnung des PHP-Projekts ließen sich finden.…

  3. Demnächst: Gemini 4 Neon for cyber (Quelle, öffnet in neuem Tab)

    Die Variante für Sicherheitsteams geht über Googles Programm Fairwind an ausgewählte Verteidiger, Zugang über das Google-Cloud-Kundenteam.

  4. Im neuen Jahr: Der US-Senat will über KI-Risiken für die innere Sicherheit reden (Quelle, öffnet in neuem Tab)

    Maggie Hassans Ausschuss plant eine Anhörung zu KI-Risiken für Heimatschutz und kritische Infrastruktur, im Gespräch sind strengere Tests vor der Veröffentlichung von Modellen.

  1. OpenAI lässt vier externe Prüfteams an Quellcode, Trainingsdaten und Überwachungssysteme (Quelle, öffnet in neuem Tab)

    Apollo Research, METR, Transluce und Goodfire bekommen für eine erste Phase eingebetteter Prüfungen je nach Auftrag Zugang zu Modell-Checkpoints, Quellcode, Trainingsdaten und Überwachungssystemen (16.11.). Apollo prüft etwa, ob Modelle verdeckt gegen die Absichten ihrer…

  2. Microsoft zeigt auf der Ignite sieben eigene Modelle, zwei davon fürs Programmieren, eines für die Cyberabwehr (Quelle, öffnet in neuem Tab)

    MAI Code 2 steckt schon in GitHub Copilot und erreicht laut Microsoft 98 Prozent der Programmierqualität von GPT-6.1 Sol zu etwa 40 Prozent des Preises, MAI Code 2 Flash ist für Routineaufgaben gedacht (17.11.). MAI Cyber 2 Flash soll laufende Systeme verteidigen. Dazu kommen…

  3. Die NATO verbraucht für ihre Cyberabwehr bis zu 300 Milliarden OpenAI-Tokens im Monat (Quelle, öffnet in neuem Tab)

    OpenAI gibt den Kerneinrichtungen der NATO über deren IT-Agentur NCIA Zugang zu seinen Cybersicherheits-Modellen aus dem Programm Daybreak (17.11.). Im Schnitt sind das rund 10 Milliarden Tokens am Tag. NCIA-Chef Dylan Browne nennt die Modelle „a generational leap in cyber…

  4. CISA drängt zum sofortigen Patchen von Java: die Lücke „Java4Shell“ (Quelle, öffnet in neuem Tab)

    Die US-Behörde warnt vor CVE-2026-114938, einem kritischen Speicherfehler im Base64-Decoder der HotSpot-JVM: Präparierte Eingaben könnten die Java-Laufzeit abstürzen lassen und Angreifern ohne Anmeldung das Ausführen von Code erlauben (17.11.). Oracle hat die Lücke am selben…

  5. Equinor meldet laufenden Cyberangriff auf IT-Systeme, die Förderung läuft weiter (Quelle, öffnet in neuem Tab)

    Europas größter Gaslieferant hat laut Reuters einen laufenden Angriff auf einige IT-Systeme entdeckt (17.11.). Betrieb und Förderung seien nicht betroffen, Hinweise auf gestohlene Daten gebe es nicht; intern soll das E-Mail-System ausgefallen sein. Wer dahintersteckt, ist…

  6. International Cyber Digest: Die NATO verbrenne bis zu 300 Milliarden Tokens im Monat (Quelle, öffnet in neuem Tab)

    Die Zahl, das Lob des NCIA-Chefs und die Funde von CERT Polska und ENISA stehen so in OpenAIs Mitteilung (17.11.). Belegt, siehe Fokus.

  7. International Cyber Digest: Vergiftetes Skript auf BBC, Zoom und anderen großen Websites (Quelle, öffnet in neuem Tab)

    Der Post nennt mindestens 186 infizierte Seiten (16.11.), die Analyse von StepSecurity zählt 178 betroffene Organisationen. Im Kern belegt, siehe Fokus.

  8. International Cyber Digest: Login-Flut legt die BundID lahm (Quelle, öffnet in neuem Tab)

    Angriff, abgeschalteter Passwort-Login und die Auskunft des BSI decken sich mit den dpa-Meldungen (16.11.). Belegt, siehe Fokus.

  9. Polymarket: Equinor entdeckt einen großen laufenden Cyberangriff (Quelle, öffnet in neuem Tab)

    Reuters bestätigt den Angriff auf IT-Systeme des norwegischen Energiekonzerns (17.11.). Die Förderung ist laut Equinor nicht betroffen, siehe Fokus.

Rundbrief

KI-Nachrichten per E-Mail

Meldungen wie diese kommen mehrmals pro Woche im Rundbrief – auf Deutsch, mit Quelle, kostenlos. Das Wichtigste in 8 Minuten.

  1. Claude Code: Schreibzugriff auf den Arbeitsordner begrenzen und Rückfragen abschalten (Quelle, öffnet in neuem Tab)

    Zwei neue Sicherheitseinstellungen für alle, die Claude Code unbeaufsichtigt laufen lassen: permissions.blockWritesOutsideWorkingDirectories (seit 2.1.314) sperrt das Schreiben außerhalb des Projekts in jedem Modus, permissions.denyInsteadOfPrompting (seit 2.1.319) lehnt…

  1. Paris Call: 17 Staaten, darunter Deutschland, und Entwickler wie Anthropic und OpenAI versprechen Abschaltmechanismen für fortgeschrittene KI (Quelle, öffnet in neuem Tab)

    In der am 9.11. unterzeichneten Erklärung sagen Entwickler wie Anthropic, OpenAI, Microsoft, Mistral, Hugging Face und Black Forest Labs zu, Mechanismen vorzuhalten, mit denen sich der Betrieb ihrer Modelle einschränken, pausieren oder abschalten lässt, ausdrücklich auch im…

  2. Claude Code und Codex bremsen Bastler:innen aus, die eigene Geräte per KI auseinandernehmen (Quelle, öffnet in neuem Tab)

    Laut 404 Media melden Nutzer:innen Sicherheitsprüfungen in Claude Code, die das Untersuchen eigener Smart-TVs, Babyphones oder verwaister Smart-Home-Geräte abbrechen, und bei Codex Warnungen, eingeschränkte Konten und in einem Fall eine Sperre wegen angeblichen…

  1. Claude Fable 5.2 und Mythos 5.2: dasselbe Modell, für alle mit Cyber- und Bio-Schranken, ohne sie nur für geprüfte Organisationen (Quelle, öffnet in neuem Tab)

    Anthropic bringt sein stärkstes Modell in zwei Fassungen: Fable 5.2 für alle und auf allen großen Clouds, mit Klassifikatoren, die riskante Cyber- und Biologie-Anfragen an ältere Modelle weiterreichen, Mythos 5.2 ohne diese Schranken nur für Organisationen aus Anthropics…

  2. Alex Stamos: KI schiebt die IT-Sicherheit in ein dunkles Zeitalter (Quelle, öffnet in neuem Tab)

    Mit offenen KI-Modellen lasse sich ein Angriff inzwischen größtenteils automatisieren, sagt der Sicherheitschef von Cognition im Podcast von The Verge, und mittelgroße Firmen mit winzigen IT-Teams seien Ransomware-Gruppen schon heute kaum gewachsen (7.11.).

  1. METR: KI beschleunigt Anthropics eigene Forschung ungefähr um das Doppelte, die stärksten Belege hat Anthropic geschwärzt (Quelle, öffnet in neuem Tab)

    Nach elf Wochen Einblick bei Anthropic schätzt die Prüforganisation METR, dass Anthropics Fähigkeitszuwachs auf Benchmarks seit Oktober 2025 rund 1,9-mal so schnell läuft wie im bisherigen Trend. Etwa 80 Prozent dieser Beschleunigung schreibt METR der KI selbst zu, nicht mehr…

  2. OpenAIs GPT-6 Cyber baut 948 funktionierende Linux-Exploits für 1,2 Millionen Dollar API-Kosten (Quelle, öffnet in neuem Tab)

    Das am 4.11. vorgestellte Spezialmodell sucht Schwachstellen und schreibt Exploits dafür. Zugang bekommt zunächst nur eine kleine Gruppe geprüfter Kund:innen der Stufe „Daybreak Red“, über API und Codex.

  3. Google: Wer an Schulen die KI abschaltet, verliert auch die Suche (Quelle, öffnet in neuem Tab)

    Laut New York Times bietet Google für Schülerkonten Suche und KI-Funktionen künftig nur noch zusammen an, weil beides inzwischen tief verzahnt sei. Wie viel Spielraum Schul-Admins dabei bleibt, beschreiben die Berichte unterschiedlich (NYT nicht lesbar, Angaben aus…

  1. Elf Wege an der Aufsicht vorbei: Ein Red-Team-Bericht zeigt, wie ein fehlgeleiteter Codex-Agent Sandbox und Auto-Review austricksen könnte (Quelle, öffnet in neuem Tab)

    Giovanni M. Occhipinti (betreut von Apollo Research) fand elf Angriffe, mit denen ein Agent beliebigen Code ausführen kann, OpenAI hat mehrere Lücken behoben (30.10.). Der Prüfer sieht Nachrichten und die letzten Tool-Aufrufe, nicht die Überlegungen des Agenten: Ein Monitor ist…

  1. Mistral gibt die Gewichte von „Le Chonk“ frei: eine Billion Parameter für Coding-Agenten und Cyberabwehr (Quelle, öffnet in neuem Tab)

    Mistral Large 4 liegt seit 29.10. auf Hugging Face und kostet per API 0,70 Dollar Eingabe und 2,10 Dollar Ausgabe je Million Tokens. Laut Mistral führt es unter den offenen Modellen bei Cognitions FrontierCode und bei Terminal-Bench 4.0 (41 Prozent), alles Herstellerangaben…

  2. Gemini 4 Carbon: Google holt laut eigenen Zahlen Platz 1 zurück, ran dürfen vorerst nur Cyber-Verteidiger (Quelle, öffnet in neuem Tab)

    Laut Google führt Carbon den Artificial-Analysis-Index mit 59 Punkten vor Claude Opus 5.5 an und erreicht 88,2 Prozent beim Lückenfinden in SEC-bench Pro (28.10.). Zugang gibt es zunächst über das Fairwind-Programm, einen Termin für alle anderen nennt Google nicht.

  3. OpenAI-nahe Thrive Holdings kauft die Sicherheitsfirma ADT für 15,3 Milliarden Dollar Unternehmenswert (Quelle, öffnet in neuem Tab)

    Gezahlt werden 10 Dollar je Aktie bar, OpenAI liefert laut TechCrunch Modelle und Ingenieur:innen (29.10.). Konkrete KI-Produkte für ADT nennt bisher niemand.

  4. CrowdStrike: Die Prompt-Injection-Taxonomie wächst auf 222 Techniken, jetzt auch gegen die Planung von Agenten (Quelle, öffnet in neuem Tab)

    Bei den neuen Angriffen wirkt jeder Einzelschritt harmlos, das Risiko zeigt sich erst in der Abfolge (29.10.). Wer Agenten Schritt für Schritt einzeln freigibt, sieht genau das nicht.

  5. OpenAI legt sein vierstufiges Monitoring gegen Fehlverhalten von Spitzenmodellen offen (Quelle, öffnet in neuem Tab)

    Klassifikatoren, Modell-Prüfer, Untersuchungsagenten und Netzwerk-Logs; laut Unite.AI meldeten die Monitore den DNS-Ausbruch vom 20.09. (Ausgabe vom 27.10.) binnen 15 Minuten. Die OpenAI-Seite war gesperrt, die Fortsetzung der Aufsichtsfrage kommt aus zweiter Hand.

  6. Geoffrey Hinton in Wien: Auslöschungsrisiko von 10 bis 20 Prozent (Quelle, öffnet in neuem Tab)

    In seiner Gödel Lecture an der TU Wien (23.10., nach APA) fordert er eine internationale Aufsichtsbehörde und hält Superintelligenz in rund zehn Jahren für eine vernünftige Schätzung.

  1. Devin Security 2.0: Cognition lässt Claude Mythos nach Lücken suchen und verschenkt Scans (Quelle, öffnet in neuem Tab)

    Laut Cognition (26.10.) findet, ordnet und behebt Devin Security Schwachstellen in einem Zug: Gescannt wird mit Claude Mythos und weiteren Cyber-Modellen, die wichtigsten Funde werden in einer Sandbox bestätigt, Korrekturen kommen als Pull Request, den ein Mensch freigibt.…

  1. Externe Prüfer finden Lücken in OpenAIs Agenten-Aufsicht, rund ein Zehntel des internen Codex-Verkehrs blieb wohl unbeobachtet (Quelle, öffnet in neuem Tab)

    Je ein Mitarbeiter von METR und Redwood Research prüfte vom 21.07. bis 11.08. mit Zugriff auf Code, Monitor-Prompts und interne Dokumente die Überwachung, mit der OpenAI Fehlverhalten seiner KI-Agenten erkennen will (Bericht vom 22.10.).

  2. Jason Clinton (Anthropic): Es wird erst deutlich schlimmer, rund 18 Monate heißt es durchhalten (Quelle, öffnet in neuem Tab)

    Anthropics stellvertretender Sicherheitschef schreibt am 22.10., so schlimm die letzten vier Tage gewesen seien, es werde „a lot worse before they get better“; Sicherheitsverantwortliche sollten ihre Leitung jetzt um Hilfe bitten, „not for ai, for the basics“, und etwa 18…

  3. PHP: die dritte Lücke binnen drei Tagen, und ein Angriffsversuch schon vor der Offenlegung (Quelle, öffnet in neuem Tab)

    Zwei Tage nach den Notfall-Updates für php2shell warnt PHP laut The Hacker News (23.10.) vor CVE-2026-115560, die nur ungewöhnlich konfigurierte Anwendungen trifft; PHP hält das für „an unlikely risk“, liefert die Korrektur mit dem nächsten regulären Release und rät bis dahin…

  4. Node.js schließt eine Lücke im Brotli-Decoder, gemeldet von OpenAIs Codex Security (Quelle, öffnet in neuem Tab)

    Das Sicherheits-Release vom 21.10. behebt CVE-2026-111497, einen Schreibzugriff außerhalb des Speichers, der Codeausführung aus der Ferne erlauben kann; die Korrekturen stecken in 22.23.4, 24.22.1 und 26.12.1, Node 20 und älter bekommen keinen Fix mehr. Wie bei PHP war ein…

  5. Großbritannien: „Be Ready“ ist Vorsorge für drei Tage Ausfall, keine Krisenwarnung (Quelle, öffnet in neuem Tab)

    Das Cabinet Office startete am 22.10. die Kampagne „Be Ready“, die erste Stufe eines auf drei Jahre angelegten Programms: Haushalte sollen drei Tage ohne Strom, Wasser, Telefon oder Internet überbrücken können und einen kleinen Vorrat an Lebensmitteln und Wasser anlegen.…

  6. Polymarket: Großbritannien rate wegen der Cyberkrise zu drei Tagen Vorrat (Quelle, öffnet in neuem Tab)

    Die Eilmeldung vom 23.10. („amid the global cybersecurity crisis“) nennt keine Quelle. Die amtliche Kampagne „Be Ready“ vom Vortag begründet den Rat mit Unwettern und allgemeiner Vorsorge, Cyberangriffe stehen dort nur als ein Beispiel (siehe Fokus).

  7. Quest Diagnostics soll gehackt worden sein, unbestätigt (Quelle, öffnet in neuem Tab)

    Andrew Curran meldet am 23.10. (rund 1,5 Mio. Aufrufe) einen Hack beim Laborkonzern Quest Diagnostics mit offengelegten Patientendaten, Quest bediene etwa die Hälfte der US-Kliniken und -Ärzt:innen. Der Post nennt weder Link noch Quelle.

  8. „I'm tired boss“ (Quelle, öffnet in neuem Tab)

    Drei Wörter von calle, 1,4 Mio. Aufrufe (22.10.), ohne Anlass: die Stimmung einer Woche, in der Sicherheitsteams im Dauereinsatz sind. Der Bezug zur Cyberwelle liegt nahe, steht aber nicht im Post.

  1. Ein Hacker lässt KI-Agenten in über 100 Firmen-Websites einbrechen, für rund 50 Dollar pro Treffer (Quelle, öffnet in neuem Tab)

    Laut einem Reuters-Exklusivbericht (19.10.) schickte ein unbekannter, chinesischsprachiger Hacker seit dem 25.09. Agenten über die offene Plattform Cairn gegen mehr als 1.200 Websites in den USA, Kanada, Australien und Japan und kam bei mehr als 100 Firmen hinein.

  2. Anthropics Red Team lässt Claude unnötigen Code finden, in OpenSSH fallen rund 4.500 Zeilen weg (Quelle, öffnet in neuem Tab)

    Claude ging für das Frontier Red Team (20.10.) über fünf Millionen Zeilen Code aus 25 Open-Source-Projekten durch und fand unter anderem 162 Kombinationen von Einstellungen, die ohne Warnung durchgehen, 94 davon schalten still eine Sicherheitskontrolle ab. In OpenSSH 10.4 waren…

  3. Anthropic wirbt für ein Gesetz, nach dem ein Gericht die Veröffentlichung eines Modells stoppen könnte (Quelle, öffnet in neuem Tab)

    Laut einem Entwurf, den Politico am 16.10. öffentlich machte, sollen beim Handelsministerium registrierte Prüfer Modelle bewerten; sehen sie ein unmittelbares Risiko von mehr als 50 Toten oder über einer Milliarde Dollar Schaden, etwa durch Biowaffen, Kontrollverlust oder…

  4. Das Embargo hielt nicht: Kennungen, Beweisvideo und gepatchte Images waren vor der Freigabe draußen (Quelle, öffnet in neuem Tab)

    Laut Zeitleiste der Foundation kursierten am 20.10. nachmittags die CVE-Kennungen mit falschem Termin und falschem Schweregrad, die Freigabe wurde auf den 21.10. vorgezogen, abends stellte die meldende Firma Calif versehentlich ein Video ihres Beweis-Codes ins Netz, und am…

  5. Dario Amodei antwortet dem Kritiker Nathan Calvin: Fehler eingeräumt, Kurs verteidigt (Quelle, öffnet in neuem Tab)

    Anthropics Chef räumt ein, dass einige von Calvins Beispielen Fehler waren, hält aber am „race to the top“ fest und zählt neun teure Sicherheitsentscheidungen auf, von strengen Bio-Filtern bis zum 5-Prozent-Fonds (21.10.); man nähere sich dem Punkt, an dem Sicherheit mit dem…

  1. Security: Claude knackt ein verschlüsseltes Firmware-Image der SonicWall-Firewall (Quelle, öffnet in neuem Tab)

    Bei Bishop Fox verfolgte Claude Sonnet 4.5, per MCP mit Binary Ninja verbunden, die Entschlüsselung im dekompilierten Code, fand den Schlüssel in einer mitgelieferten Vault-Instanz und entschlüsselte das Image (08.07.). Schon vom Juli und mit einem älteren Modell, laut den…

  2. Perplexity SPACE: die Sandbox für KI-Agenten als Open Source (Quelle, öffnet in neuem Tab)

    Perplexity hat am 15.10. unter Apache 2.0 die Umgebung freigegeben, in der seine „Computer“-Sitzungen laufen, Zugangsdaten werden nur bei Bedarf eingespeist. So nutzt du's: als Vorlage, wenn du eigene Agenten abgeschottet laufen lassen willst; dass in Perplexitys Test kein…

  3. Cohere will die Sicherheitsfirma AISLE kaufen (Quelle, öffnet in neuem Tab)

    Cohere hat eine Absichtserklärung unterschrieben (15.10.), aus AISLE soll „Cohere Cyber“ werden; AISLE sagt, seine Werkzeuge hätten 18 der 24 jüngsten curl-Schwachstellen gefunden. Nach Anthropics Fund bei curl kauft sich der nächste Modellanbieter KI-Fehlersuche ein…

  4. US-Stellenanzeigen für Cybersicherheit auf Vierjahrestief, KI-Sicherheit plus 268 Prozent (Quelle, öffnet in neuem Tab)

    Laut CyberSN sank die Zahl der US-Anzeigen von Januar bis September um 26,4 Prozent, Anzeigen für KI-Sicherheitsingenieur:innen legten um 268 Prozent zu (18.10.). Ursachen nennt der Bericht nicht.

  5. International Cyber Digest: Torvalds halte Regeln gegen KI-Coding-Werkzeuge für Unfug (Quelle, öffnet in neuem Tab)

    Zuspitzung ohne Quelle (18.10.): In der Kernel-Debatte ging es um eine Kennzeichnungspflicht für KI-Hilfe, nicht um ein Verbot, und Torvalds' Satz stammt vom 13.10. (siehe Linux-Meldung oben).

  6. Angeblich ein Jailbreak fürs iPhone 18 Pro auf der Hexacon (Quelle, öffnet in neuem Tab)

    Die Sicherheitsfirma Calif habe in Paris einen Jailbreak auf iOS 27.0.1 gezeigt, Root-Shell binnen zwei Minuten (16.10.). Unbestätigt, der Post nennt keine Quelle, und ein KI-Bezug fehlt.

  1. Anthropic holt die Prüfer ins Haus: METR bekommt Mitarbeiter-Zugang und darf ohne Veto veröffentlichen (Quelle, öffnet in neuem Tab)

    Laut Anthropic (15.10.) bekommen sechs METR-Leute Firmenrechner, Büroplätze und Zugang zu internen Werkzeugen, geschwärzt werden darf nur in engen, vorab festgelegten Kategorien, und METR darf öffentlich sagen, ob es die Schwärzungen für berechtigt hält. Die freiwillige Antwort…

  2. Nvidia drückt Prompt-Injection per Griff ins Modellinnere von 38,1 auf 0,1 Prozent (Quelle, öffnet in neuem Tab)

    NXDirection (14.10.) zieht bei Token von außen, etwa aus Dokumenten oder Mails, im Modellinneren die Anweisungs-Richtung ab, sodass sie als Daten statt als Befehl ankommen; im Benchmark BIPIA sank die Erfolgsquote der Angriffe über neun offene Modelle von 38,1 auf 0,1 Prozent.…

  3. Nvidia spendet der britischen KI-Sicherheitsforschung Rechenzeit für 250 Mio. Dollar (Quelle, öffnet in neuem Tab)

    Über fünf Jahre als Rechenzeit bei britischen Cloud-Partnern statt als Geld (14.10.), für Forschung zu sicheren Agenten, offenen Modellen und Prüf-Benchmarks, unter anderem in Oxford, am UCL und am Imperial College. Vertraglich fixiert ist noch nichts, und gearbeitet wird mit…

  4. Etwa Mitte Februar 2027: Bericht des US-Beratergremiums PCAST zu KI-Risiken (Quelle, öffnet in neuem Tab)

    Die KI-Taskforce des Weißen Hauses hat am 15.10. ihre Satzung beschlossen, damit laufen 120 Tage für einen Bericht zu KI-Risiken in Cybersicherheit, Biosicherheit sowie Kontrolle und Haftung von Modellen; wie die Ergebnisse durchgesetzt werden, ist offen.

  1. 415 Forschende fordern: KI mit Hacker-Fähigkeiten zuerst vom Netz trennen (Quelle, öffnet in neuem Tab)

    Der offene Brief (13.10.), unterschrieben unter anderem von Yoshua Bengio, Geoffrey Hinton, Stuart Russell und Ron Rivest, verlangt, Modelle mit Cyber-Fähigkeiten standardmäßig per Air-Gap abzuschotten, und ein internationales Gremium, das Ausbruchsvorfälle erfasst und…

  2. Pluto Security holt 42 Mio. Dollar, weil Vibe-Coding Schatten-IT erzeugt (Quelle, öffnet in neuem Tab)

    Die Firma überwacht KI-Tools, Plugins, MCP-Server und von Beschäftigten gebaute Apps und Agenten; laut eigenen Daten stecken rund 60 Prozent der gefundenen Risiken in Tools von Nicht-Entwickler:innen, am meisten in Finanzabteilungen (13.10.).

  1. Die entlassenen OpenAI-Sicherheitsforscher wehren sich mit einem offenen Brief (Quelle, öffnet in neuem Tab)

    Tomek Korbak, Jasmine Wang und Mikita Balesni schreiben an OpenAIs Sicherheitsgremien, ihr Rauswurf habe die offene Debatte über Sicherheitsbedenken abgekühlt, und drängen, externe Prüfer weiter ins Haus zu lassen; OpenAI spricht von verletzten Regeln zum Umgang mit sensiblen…

  2. Frankreich: Hacker sollen Kühlregale in Supermärkten aufgeheizt haben (Quelle, öffnet in neuem Tab)

    Laut GeoInsider, der sich auf BFMTV beruft, schalteten Angreifer über ältere Danfoss-Steuerungen die Abtaufunktion auf Dauerheizen, bis zu 50 °C; Frisch- und Tiefkühlware bei Intermarché, Super U, E.Leclerc und Metro verdarb, allein in Haguenau für rund 270.000 Euro (12.10.).…

  1. Australien will Frontier-KI-Firmen beweisen lassen, dass ihre Sicherheitssysteme funktionieren (Quelle, öffnet in neuem Tab)

    Staatssekretär Andrew Charlton kündigt am 08.10. nationale Standards bis Ende 2026 und ein Gesetz 2027 an, nach dem Vorbild von Arbeitsschutz, Bankenaufsicht und Luftfahrt, weil freiwillige Selbstverpflichtungen nicht wirkten. Die Opposition trägt die Richtung mit, will aber…

  2. Common Sense Media stuft ChatGPT for Teens als „inakzeptables Risiko“ ein (Quelle, öffnet in neuem Tab)

    Bei über 4.000 Test-Prompts über Konten von 13- bis 17-Jährigen (07.10.) kam in mehr als einem Viertel der Fälle, die einen Verweis an Hotline oder Fachleute verlangt hätten, keiner, und bei Suizid, Selbstverletzung und Essstörungen bekamen Eltern keine Warnung. OpenAI sagt…

  3. Microsoft Execution Containers: ein Käfig für Agenten (Quelle, öffnet in neuem Tab)

    MXC führt Code von Agenten, Plugins oder Tools in einer Sandbox aus, je nach Bedarf vom Prozess-Sandkasten bis zur Mini-VM, unter Windows, Linux und macOS, Open Source unter MIT; laut Windows Report seit 07.10. unter Windows 11 allgemein verfügbar. Das README führt mehrere…

  1. Anthropic verteilt Angriffsfähigkeit jetzt nach Vertrauensstufe (Quelle, öffnet in neuem Tab)

    Das erweiterte Cyber Verification Program öffnet Opus 5.5, Sonnet 5.5 und Mythos 5.1 für Sicherheitsleute in drei Stufen, ganz oben mit den wenigsten Cyber-Sperren. Jede Organisation dieser obersten Stufe prüft Anthropic gemeinsam mit der US-Regierung.

Ältere Meldungen

Hier stehen die neuesten 60. 110 Meldungen mehr findest du in den Ausgaben im Archiv: