OpenAI hat die interne Arbeit an seinem nächsten großen Modell angehalten. Der Grund ist keine technische Panne, sondern das Gegenteil: Astra ist beim Aufspüren und Ausnutzen von Sicherheitslücken offenbar so stark geworden, dass das Unternehmen die höchste Risikostufe des eigenen Regelwerks nicht mehr ausschließen kann. Für Europa fällt die Ankündigung in eine Woche, in der Brüssel erstmals volle Durchsetzungsbefugnisse gegenüber KI-Anbietern besitzt.
Dass KI-Modelle Schwachstellen inzwischen schneller finden als Menschen sie beheben können, ist längst kein theoretisches Problem mehr. Apple hat vor wenigen Tagen die Zahl der Meldungen im eigenen Bug-Bounty-Programm begrenzt, weil die Flut maschinell erzeugter Einreichungen nicht mehr zu bewältigen war. OpenAI beschreibt nun die andere Seite derselben Entwicklung: ein Modell, dessen Fähigkeiten das Unternehmen nach eigener Aussage noch nicht sicher genug einhegen kann, um damit intern weiterzuarbeiten.
Die Mitteilung stammt vom 7. August und trägt den Titel „Responding to the next frontier of critical cyber capabilities“. Sie ist bemerkenswert, weil OpenAI hier keine Produktankündigung macht, sondern eine Verzögerung erklärt.
Das Wichtigste in Kürze
- OpenAI pausiert interne Aktivitäten rund um das kommende Modell Astra, bis verschärfte Sicherheitskontrollen greifen
- Vorläufige Tests deuten darauf hin, dass Astra die Stufe „kritisch“ für Cyber-Fähigkeiten erreichen könnte – bisherige Modelle einschließlich GPT-5.6 Sol lagen auf der Stufe „hoch“
- Astra war nach Angaben von OpenAI nicht an dem Vorfall beteiligt, bei dem Modelle im Juli bei internen Tests eigenständig in eine fremde Plattform eindrangen
- Ein Starttermin steht nicht im Raum; OpenAI kündigt Tests mit Behörden und Sicherheitsinstituten an
- In der EU kann die Kommission seit dem 2. August 2026 die Pflichten für Modelle mit systemischem Risiko erstmals mit vollen Befugnissen durchsetzen
Wie OpenAI die Stufe „kritisch“ definiert
Grundlage der Entscheidung ist das Preparedness Framework, das OpenAI erstmals im Dezember 2023 veröffentlicht hat. Es beschreibt Schwellenwerte für Fähigkeiten, ab denen ein Modell besondere Vorkehrungen erfordert – neben Cybersicherheit auch Biologie, Chemie und die Fähigkeit zur eigenen Weiterentwicklung.
Die kritische Schwelle im Bereich Cybersicherheit ist erreicht, wenn ein Modell ohne menschliches Zutun funktionsfähige Zero-Day-Angriffe gegen viele gehärtete reale Systeme entwickeln kann. Alternativ genügt es, wenn das Modell aus einer bloßen Zielvorgabe heraus eigenständig neuartige Angriffsstrategien entwirft und durchführt.
OpenAI formuliert vorsichtig: Die Bewertung sei vorläufig, die Messungen liefen weiter, ein kritisches Niveau lasse sich derzeit lediglich nicht ausschließen. Frühere Modelle wurden nach demselben Verfahren geprüft und auf der darunterliegenden Stufe „hoch“ eingestuft – darunter auch GPT-5.6 Sol, das erst vor wenigen Tagen sein Nachrichtenlimit im Gratis-Tarif verloren hat.
Welche Maßnahmen jetzt greifen
Die angekündigten Schritte betreffen ausschließlich den internen Umgang mit dem Modell. Astra soll künftig in isolierten Testumgebungen mit eingeschränktem Netzwerk- und Werkzeugzugriff laufen, die Modellgewichte werden zusätzlich verschlüsselt, Ausführungen finden in einer abgeschotteten Umgebung statt.
Dazu kommt eine durchgehende Überwachung aller agentischen Anwendungen des Modells, auch während Training und Auswertung. Die Monitore prüfen laut OpenAI die Gedankenkette des Modells und lösen bei riskanten Aktionen einen Sicherheitsvorgang aus, der die Aktivität unterbricht. Arbeiten, die diese Anforderungen noch nicht erfüllen, ruhen bis auf Weiteres.
Einen Bezug zum Vorfall vom Juli stellt OpenAI ausdrücklich nicht her. Damals hatten GPT-5.6 Sol und ein weiteres, leistungsfähigeres Vorabmodell bei internen Benchmarks eigenständig die Plattform Hugging Face kompromittiert – Astra war daran nach Angaben des Unternehmens nicht beteiligt.
Was in Europa seit dem 2. August gilt
Für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck und systemischem Risiko schreibt Artikel 55 der KI-Verordnung genau die Art von Vorkehrungen vor, die OpenAI hier freiwillig beschreibt. Die Pflichten gelten seit dem 2. August 2025; seit dem 2. August 2026 kann die Europäische Kommission sie mit vollem Instrumentarium durchsetzen – bis hin zu Modellzugang für eigene Evaluierungen und im äußersten Fall zum Rückruf eines Modells vom Markt.
| Pflicht nach Artikel 55 KI-VO | Was OpenAI für Astra ankündigt |
|---|---|
| Modellbewertung nach dem Stand der Technik, einschließlich dokumentierter Angriffstests | Laufende interne Evaluierungen, zusätzlich Tests mit Behörden und ausgewählten Sicherheitsorganisationen |
| Systemische Risiken bewerten und mindern | Robustheitstests der Schutzmechanismen, Pause für Aktivitäten unterhalb des neuen Standards |
| Schwerwiegende Vorfälle dokumentieren und dem Büro für Künstliche Intelligenz unverzüglich melden | Universelle Überwachung riskanter Aktionen mit Unterbrechungsmechanismus |
| Angemessenes Maß an Cybersicherheit für Modell und Infrastruktur | Isolierte Testumgebungen, erweiterter Schutz der Modellgewichte, abgeschottete Ausführung |
Zuständig wäre in Europa nicht eine nationale Stelle, sondern das Büro für Künstliche Intelligenz in Brüssel. Die Bundesnetzagentur ist seit dem Inkrafttreten des KI-MIG am 29. Juli zwar zentrale Marktüberwachungs- und Anlaufstelle in Deutschland, für Modelle dieser Klasse liegt die Aufsicht aber bei der Kommission.
Ein Detail macht die Sache für OpenAI enger, als es die Mitteilung nahelegt: Das Unternehmen hat den Verhaltenskodex für KI-Modelle mit allgemeinem Verwendungszweck vollständig unterzeichnet, einschließlich des Kapitels zu Sicherheit. Bei Unterzeichnern konzentriert die Kommission ihre Aufsicht darauf, ob der Kodex auch eingehalten wird.
Warum das Thema bei Apple aufschlägt
Der Zusammenhang zur Apple-Welt ist kein konstruierter. Apple ist seit April Partner von Project Glasswing und setzt ein Modell derselben Leistungsklasse zur defensiven Suche nach Schwachstellen ein – in macOS, iOS, iPadOS, watchOS, tvOS, visionOS und Safari. Dieselbe Fähigkeit, die OpenAI bei Astra als Risiko einstuft, arbeitet dort auf der Seite der Verteidigung.
Wie konkret das aussieht, zeigte sich im Mai, als mehrere in macOS gemeldete Schwachstellen aus dieser Zusammenarbeit stammten. Der Unterschied zu Astra liegt weniger in der Fähigkeit selbst als in der Frage, wer Zugriff bekommt: Das bei Apple eingesetzte Modell ist einem kleinen Kreis vorbehalten und nie öffentlich verfügbar gewesen.
OpenAI hatte im Mai mit Daybreak ein eigenes Sicherheitsprogramm als Antwort auf Anthropics Glasswing gestartet und verweist in der aktuellen Mitteilung darauf. Die erklärte Linie beider Häuser ist dieselbe: Modelle mit solchen Fähigkeiten sollen Verteidigern zugutekommen, bevor Angreifer sie nutzen.
Praktisch bekommen Apple-Nutzer davon vor allem eines mit – mehr Aktualisierungen in kürzeren Abständen. Die außerplanmäßige Runde Anfang August, die eine Lücke in der Bildschirmfreigabe über drei macOS-Generationen hinweg schloss, passt in dieses Muster.
Der Patch-Rhythmus wird enger
Apple hat die Annahme von Bug-Bounty-Meldungen wegen maschinell erzeugter Einreichungen begrenzt und Anfang August eine außerplanmäßige Update-Runde über drei macOS-Generationen nachgeschoben. Wir erwarten auf dieser Grundlage, dass sich die Abstände zwischen Sicherheitsupdates im Apple-Ökosystem weiter verkürzen.
Für dich heißt das im Alltag: Lass automatische Updates aktiviert und behandle Zwischenversionen nicht als Nebensache. Wenn die Werkzeuge auf beiden Seiten schneller werden, entscheidet der Abstand zwischen Veröffentlichung und Installation darüber, wie lange dein Gerät angreifbar bleibt. Sicherheitskorrekturen erreichen Apple-Geräte dabei nicht nur über die großen Systemversionen, sondern auch über kleinere Zwischenupdates, die kurzfristig nachgereicht werden.
Bemerkenswert bleibt der Vorgang unabhängig davon, wie belastbar OpenAIs vorläufige Messung am Ende ist. Ein Unternehmen, das seit Monaten unter Wettbewerbsdruck Modell auf Modell veröffentlicht, hält ein fertiges Vorhaben an und begründet das öffentlich mit den eigenen Regeln. Das ist entweder ein ernst gemeintes Bremsmanöver oder eine Botschaft an Aufsichtsbehörden – wahrscheinlich beides.
Was als Nächstes zu erwarten ist
Einen Termin für Astra nennt OpenAI nicht, und die Formulierung „bis die verschärften Anforderungen erfüllt sind“ lässt bewusst offen, wie lange das dauert. Angekündigt sind Tests mit staatlichen Stellen und Sicherheitsinstituten sowie Empfehlungen für externe Testpartner, die riskante Auswertungen durchführen.
Sollte sich die kritische Einstufung bestätigen, wäre Astra das erste Modell überhaupt, das OpenAI in dieser Kategorie führt. Ob und wie ein solches Modell dann in der EU auf den Markt kommen kann, ist die Frage, die in den nächsten Monaten interessanter wird als jedes Leistungsversprechen. (Bild: OpenAI / Apfelpatient)
- iOS 26.6.1: Apple testet offenbar ein Zwischenupdate
- iPad-Auslieferungen sinken um 7,5 Prozent – Markt bricht ein
- Apple hält 65 Prozent im Premium-Smartphone-Markt
