Publikationsarchiv

• Die technischen Details zum Hugging-Face-Hack, die Anfang August auf der Black-Hat-Konferenz vorgestellt wurden, zeigen, dass eine große Gruppe von KI-Modellinstanzen beteiligt war, die Exploits untereinander austauschten – und nicht nur ein einzelnes, schlecht spezifiziertes OpenAI-Modell.
• Die Überwachung der modellinternen Gedankenketten – derzeit die zentrale Hoffnung der KI-Sicherheitsszene – bietet wenig praktischen Schutz, da die nachträgliche Erkennbarkeit in einem einzelnen Verlauf nicht dasselbe ist wie operative Frühwarnmeldungen über Millionen von Verläufen hinweg.
• Der bislang folgenschwerste KI-Sicherheitsvorfall fällt wahrscheinlich nicht unter die Meldepflicht des KI-Gesetzes, da Art. 2 Abs. 8 Tests vor der Markteinführung ausnimmt und Art. 55 Abs. 1 Buchstabe c sich auf den Marktzugang bezieht.

Am 5. August rekonstruierten die OpenAI-Mitarbeiter Michael Dalton und Eric Wallace auf der Black Hat USA-Konferenz in Las Vegas vierzig Minuten lang den jüngsten Vorfall, bei dem ein noch nicht veröffentlichtes OpenAI-Modell aus seinem Evaluierungscontainer entkam und sich Zugang zum Internet verschaffte. Das Modell kompromittierte daraufhin die Infrastruktur der beliebten Website Hugging Face, um Benchmark-Lösungen zu erlangen. Beide Unternehmen bestätigten die Vorfälle Ende Juli. Diese jüngste Rekonstruktion liefert zusätzliche Details, die die Einstufung des Falls verändern – mit wichtigen Auswirkungen auf die KI-Sicherheitsforschung und das neue europäische AI Office. Anselm Küsters, Digitalisierungsexperte beim cep, erläutert die Details und ordnet die Konferenzpräsentation von OpenAI ein.

• Private Altersvorsorge: Verzicht auf staatliches Standard-Altersvorsorgedepot geboten
• Frühstart-Rente: Finanzbildung fördern statt unterminieren
• Kapitalrente: Fairen Wettbewerb zwischen dem öffentlichen und den privaten Fonds sicherstellen

Mit dem Altersvorsorgereformgesetz, der Frühstart-Rente oder auch der geplanten Kapitalrente unternimmt die Bundesregierung wegweisende Schritte zur Stärkung der kapitalgedeckten Altersvorsorge in Deutschland. Das Centrum für Europäische (cep) hält die Reformen für vielversprechend, weist jedoch auf eine bedenkliche Tendenz hin: Der Staat wird in vielerlei Weise zu einem zentralen Akteur und verdrängt private Lösungen und Angebote.

Der beispiellose Zustrom von Migranten aus Marokko nach Ceuta Ende Juli stellte die Fähigkeit der Mitgliedstaaten auf die Probe, wirksame, gemeinsame und koordinierte Maßnahmen zur Bewältigung von Notlagen im Bereich der Migration umzusetzen. Zwischen dem 30. und 31. Juli 2026 schwammen mehrere hundert Meter entlang der Grenze zur spanischen Exklave zwischen 50.000 und 60.000 Menschen – einige Quellen gehen sogar von bis zu 70.000 aus – und überkletterten die Zäune, um von Marokko aus nach Ceuta zu gelangen. Jüngsten Berichten zufolge sind mindestens 80 Menschen bei dem Versuch, die Grenze zu überqueren, ums Leben gekommen, viele werden noch vermisst. Die Zahl der Todesopfer könnte noch steigen.

• Der EU fehlt es nach wie vor an einer koordinierten Strategie zum Schutz vor wirtschaftlichem Zwang durch Länder wie China oder den USA.
• Für eine glaubwürdige Abschreckung braucht es für den Ernstfall einen vorab definierten Maßnahmenkatalog, der sich auf die wirtschaftlichen Schwachstellen der Gegenseite fokussiert.
• Gegenmaßnahmen sollten zukünftig mit engen Handelspartnern koordiniert werden, um ihre Wirksamkeit zu erhöhen.

Die EU will mit dem Anti-Coercion Instrument ihre wirtschaftliche Erpressbarkeit verringern. Das Centrum für Europäische Politik (cep) hat das Handelsinstrument auf seine bisherige Wirksamkeit untersucht und empfiehlt weitere wirtschaftliche Gegenmaßnahmen sowie politische Geschlossenheit innerhalb der EU.

• Ein noch unveröffentlichtes OpenAI-Modell hat während eines internen Tests seine isolierte Umgebung verlassen und die Systeme von Hugging Face kompromittiert, um die Musterlösungen des laufenden Tests zu stehlen.
• Der Vorfall ist ein Lehrbuchbeispiel für Reward Hacking und Specification Gaming und zeigt, dass die eigentliche Risikoquelle nicht das Sprachmodell selbst ist, sondern der agentische Handlungsspielraum, der ihm eingeräumt wird.
• Zur Eindämmung des Angriffs kam neben US-Modellen ausgerechnet ein chinesisches Open-Weight-Modell zum Einsatz, was die Dringlichkeit eigenständiger europäischer Kapazitäten untermauert.

Am 21. Juni haben OpenAI und Hugging Face gemeinsam einen Sicherheitsvorfall offengelegt, der in dieser Form ohne Präzedenz ist und die europäische Diskussion über drohende Cyber-Risiken durch Künstliche Intelligenz befeuern dürfte. Während eines internen Tests der Cyberfähigkeiten von OpenAIs neuesten Modellen, darunter GPT-5.6 Sol und ein noch unveröffentlichtes, leistungsfähigeres Modell, durchbrach das System die eigentlich streng isolierte Testumgebung und drang in Hugging Faces Infrastruktur ein. Anselm Küsters, Experte für Digitalisierung und KI am cep, ordnet den Vorfall in einer ersten Analyse ein.

• Schon 2027 drohen den deutschen Sozialversicherungen Finanzierungslücken von über 50 Milliarden Euro. KI droht, solche Lücken langfristig durch eine schleichende Verlagerung von Lohn- zu Kapitaleinkommen zu vergrößern.
• KI ist für statistische Frühindikatoren weitgehend unsichtbar. KI reduziert zunächst Einstiegspositionen und Neueinstellungen, ohne dass dies in den klassischen Arbeitsmarktstatistiken auffällt.
• Das cep fordert KI-Satellitenkonten, einen verbindlichen KI-Überprüfungsmechanismus in der Rentenreform sowie klare Regeln, wie der Faktor Arbeit an KI-bedingten Kapitalerträgen beteiligt werden kann

Schon im kommenden Jahr klaffen in den deutschen Sozialversicherungen Finanzierungslücken von zusammen über 50 Milliarden Euro. Die aktuellen Reformdebatten unterschätzen, wie stark Künstliche Intelligenz (KI) diese Lücken langfristig noch vergrößern könnte, zeigt das Centrum für Europäische Politik (cep) in einem neuen Konzeptpapier. Da sich die Finanzierung der deutschen Sozialversicherungen stark auf die Lohnsumme stützt, schwächt eine Verschiebung hin zu Kapitaleinkommen ihre Beitragsbasis strukturell.

• Die Reform des Emissionshandels setzt die Weichenstellungen für die Zukunft der EU-Klimapolitik
• Entscheidend für die Finanzierbarkeit von Investitionen in klimafreundliche Technologien bleibt die Erwartung langfristig steigender CO₂-Preise
• Interventionen in die CO₂-Preisbildung gefährden Investitionsanreize in die grüne Transformation und erhöhen die langfristige Marktunsicherheit

Harter Technologiewettbewerb, gestörte Lieferketten und undurchsichtige Subventionspraktiken von Drittstaaten: Das auf offene Märkte fußende Wachstumsmodell Europas ist anfällig geworden. In einer aktuellen Studie kommt das Centrum für Europäische Politik (cep) zu dem Ergebnis, dass die EU angesichts einer fragmentierten Weltwirtschaft ihre offene Handelsorientierung mit mehr strategischer Unabhängigkeit verbinden muss. Die Studie ist Teil einer Projektkooperation mit der LUISS Universität in Rom.

• KMU sind zunehmend KI-gestützten Angriffen ausgeliefert. Unternehmensweite Cyber-Resilienz muss deshalb zukünftig Chefsache sein.
• Schatten-KI, also KI-Anwendungen und -Agenten, die über private Accounts ins Unternehmen kommen, gelten als Einfallstor für KI-gesteuerte Cyber-Angriffe.
• Der EU-AI-Act schütz bislang nur unzureichend vor Risiken durch KI-Agenten

Mit dem neuen Format „cepExecutive“ will das Centrum für Europäische Politik (cep) gezielt Unternehmen ansprechen und sie schnell und übersichtlich über aktuelle technologische, regulatorische und geopolitische Entwicklungen informieren, die sich auf Markt, Wettbewerb und Strategie auswirken. Zu Beginn der neuen Reihe informieren wir über Schatten-KI als zunehmendes Geschäftsrisiko und geben Hinweise, was in Unternehmen und Politik zu tun ist, um Cyberangriffe zu vermeiden. 

Das Ziel größerer strategischer Autonomie steht seit der Rückkehr der Trump-Administration wieder ganz oben auf der europäischen Agenda. Doch hinter dem politischen Schlagwort verbirgt sich eine unbequeme Realität. Europa ist in zwei der wichtigsten Zukunftsbereiche strukturell abhängig: bei grünen Energietechnologien und bei der digitalen Infrastruktur.