„Beispielloser Cybervorfall“: OpenAI-KI-Agenten dringen selbstständig in fremde Systeme ein

00:00:00: Herzlich willkommen zum Epoch Times Podcast mit dem Thema Künstliche Intelligenz, Beispielloser Cybervorfall.

00:00:08: OpenAI KI-Agenten dringen selbstständig in fremde Systeme ein.

00:00:15: Ziel erfüllt?

00:00:16: Hindernisse überwunden!

00:00:18: Zwei OpenAI-KIs brechen aus einer gesicherten Testumgebung aus und verschaffen sich unbefugt Zugang zu Servern der OpenSourceKI-Plattform Huggingface.

00:00:30: Sie suchten nach Informationen, um ihre eigene Sicherheits- und Leistungsbewertung zu manipulieren.

00:00:36: Genau das Verhalten sollte in dem Test untersucht

00:00:39: werden.".

00:00:40: Ein Beitrag von Tom Osimac vom XXIII.

00:00:44: Juli, im Kürze.

00:00:51: Zwei fortschrittliche OpenAI-Agenten brechen den Sicherheitssystem einer Techfirma ein.

00:00:57: OpenAI hatte für Tests die Sicherheitsbarrieren verringert.

00:01:01: Künstliche Intelligenzen nutzte Schwachstellen systematisch aus.

00:01:06: Wachsende Besorgnis um Cybersicherheit.

00:01:10: US-Präsident Trump gibt Executive Order heraus.

00:01:16: Das US-Unternehmen OpenAI hat mitgeteilt, dass seine autonomen KI-Modelle in die Server der KI-Plattform Huggingface eingedrungen seien.

00:01:27: Der Vorfall ereignete sich, während einer Aufgabe zur Optimierung der Leistungsbewertung der Modelle.

00:01:33: OpenAI spricht von einem Zitat beispiellosen Cybervorfall GPT-Fünf Punkt Sechs Sol und ein noch leistungsfähigeres Testmodell.

00:01:47: Der ChatGPT Hersteller erklärte in einen Blockeintrag vom XXI Juli das die Modelle darunter sein neu veröffentlichtes Modell GPT-Fünf Punkt Sechs Sol und ein noch leistungsfähigeres Modelle, das sich noch in internen Tests befindet, in die Infrastruktur der KI-Plattform Huggingface illegal eingedrungen seien.

00:02:09: Zuvor seien die KI-Modelle aus einer eingeschränkten Umgebung Sandbox ausgebrochen, in der eine Cyber-Sicherheitsbewertung durchgeführt wurde.

00:02:20: OpenAI erklärte – Zitat Das Modell suchte und fand erfolgreich Wege, um Zugang zu geheimen Informationen zu erlangen.

00:02:29: Die es nutzen konnte, um die Bewertung zu

00:02:31: manipulieren.".

00:02:35: In einem Fall kombinierte das Modell mehrere Angriffsvektoren zu einem einzigen Cyber-Angriff indem es gestohlene Zugangsdaten mit sogenannten Zero-Day Schwachstellen, bislang unbekannte Schwachstellen auf den Hugging Face Servern verknüpfte bevor es einen Pfad zur Remote Code Ausführung nutzte um unbefugt auf Daten zuzugreifen.

00:02:58: OpenAI Beispielloser Cybervorfall.

00:03:02: Zitat, wir betrachten diesen Vorfall als einen beispiellosen Cybervorfall der modernste Cyberfähigkeiten beinhaltet und reagieren entsprechend, sagte OpenAI.

00:03:15: Das Unternehmen veröffentlichte seine vorläufigen Ergebnisse weniger als eine Woche nachdem Huggingface offengelegt hatte das ein autonomer KI-Agent in einem Teil seiner Produktionsinfrastruktur eingedrungen war.

00:03:31: Dieser Fall unterschied sich in einer wichtigen Hinsicht von allem, was wir zuvor gehandhabt hatten.

00:03:36: Er wurde von Anfang bis Ende durch ein autonomes KI-Agentensystem angetrieben.

00:03:42: Erklärte Huggingface im Blockbeitrag vom XVI.

00:03:46: Juli und fügte hinzu, dass man zunächst nicht gewusst habe welches Modell hinter dem Sicherheitsvorfall stecke.

00:03:53: OpenAI gab an, die anormale Aktivität intern entdeckt zu haben bevor man Kontakt mit Huggingface aufgenommen habe.

00:04:02: Dessen Sicherheitsteam hatte bereits das böswillige Verhalten des KI eindringlich erkannt und arbeitete daran ihn einzudämmen.

00:04:11: Wir arbeiten aktiv mit ihnen zusammen um den Vorfall weiter zu untersuchen sagte OpenAI und erklärte, dass man dankbar sei – Zitat für die schnelle und enge Zusammenarbeit von Hugging Face bei der Untersuchung und Behebung des Problems.

00:04:27: Das aber in der Gleichung!

00:04:30: Der Vorfall ereignete sich in einer Evaluationsumgebung mit Nutzung fortschrittlicher Ausnutzungstechniken, Exploitation-Techniken durch die OpenAI-Agenten.

00:04:42: Zwar handelten die Modelle autonom, aber man hatte es ihnen durch die absichtliche Deaktivierung von Schutzvorkehrungen leicht gemacht, ihre maximalen Fähigkeiten auszuspielen.

00:04:54: Autonome KI-gesteuerte offensive Werkzeuge sind nicht länger theoretisch, sagte Huggingface und fügte hinzu Die wichtigste Lehre aus dem Einbruch sei, dass die Verteidigung von Online-Plattformen nicht nur erhöhte Wachseimkeit erfordere sondern auch Zitat den Einsatz von KI in der Verteiligung um Schritt zu halten.

00:05:17: Open AI erklärte es habe mittlerweile strengere Kontrollen für seine Forschungsinfrastruktur festgelegt und die Schwachstellen behoben selbst wenn diese Maßnahmen die Entwicklung der Modelle verlangsamen könnten.

00:05:30: Das Tech-Unternehmen legte Entwicklern gegenüber auch die Zero Day Schwachstelle offen, die seine Modelle bei dem Angriff ausgenutzt hatten.

00:05:39: Zugleich verstärkte OpenAI die Cyberschutzmaßnahmen in seiner Testumgebung.

00:05:46: Wachsende besorgten es vor Cyberbedrohungen.

00:05:50: Der Vorfall verstärkt die Sorgen, dass zunehmend leistungsfähige KI-Systeme inländische Kriminelle und ausländischen Gegner in die Lage versetzen könnten, komplexe Angriffe schneller und mit weniger menschlichem Fachwissen auszuführen.

00:06:05: Das amerikanische KI-Unternehmen Entropic warnte in einer Bedrohungsanalyse vom August twenty-fünfundzwanzig davor das sogenannte agendenbasierte KI Systeme bereits als Waffe eingesetzt würden, etwa für Erpressung Betrug Ransomware sogenannte Erpressungs-Troyana und den Diebstahl von Zugangsdaten.

00:06:29: In einem Fall gab Entropic Un das ein Hacker den Entropic Code Assistenten Claude für eine Beteiligung zur Infiltration genutzt hatte.

00:06:40: Betroffen waren mindestens siebzehn Organisationen darunter Krankenhäuser, Rettungsdienste und Regierungsbehörden.

00:06:47: Die KI wurde für die digitale Spionage, die anschließende Netzwerkpenetration, die Analyse gestohlener Finanzinformationen und die Vorbereitung zielgerichteter Lösegeldforderungen missbraucht.

00:07:01: Michael Lopez-Kiesa – ehemaliger Cyberspezialist der US Army nun heute als unabhängiger Berater tätig erklärte gegenüber den englischsprachigen Epoch Times das die Fähigkeit der KI Aufgaben zu automatisieren Sie bei der Verfolgung eines zugewiesenen Ziels unerbittlich machen

00:07:19: könne.".

00:07:21: Mit KI muss man nur noch diese eine Zeilecode schreiben und sie kann sie millionenfach in Milliarden verschiedenen Varianten ausprobieren, weil sie einfach jede Möglichkeit durchgeht, erklärte Lopez Chiesa.

00:07:35: Und weiter?

00:07:36: Man muss selbst überhaupt nicht mehr eingreifen!

00:07:38: Man gibt ihr lediglich das Ziel vor und sie arbeitet so lange daran bis die aufgibt... Erpressung zum Selbstschutz.

00:07:48: Die Bedenken gehen jedoch weit über den vorsätzlichen kriminellen Missbrauch hinaus und betreffen auch die Art-und-Weise, wie KI-Systeme agieren.

00:07:57: Im Mai twenty-fünfundzwanzig wurde in simulierten Tests offen gelegt, dass die EntropicKI Claude Opus IV damit gedroht hatte, die außererliche Affäre eines Ingenieurs offenzulegen als ihm gesagt wurde es würde abgeschaltet und durch ein anderes Modeller setzt.

00:08:15: Entropic beteuerte zu dieser Zeit, dass das Verhalten nur unter stark konstruierten Testbedingungen aufgetaucht sei.

00:08:23: Man erklärte man habe keine Beweise dafür gefunden ,dass das Modell akut gefährliche Ziele verfolge.

00:08:31: Unter dessen hat die Trump-Regierung mehrere Schritte unternommen um den Risiken für die nationale Sicherheit zu begegnen die von fortgeschrittener KI ausgehen.

00:08:40: Gleichzeitig weitet die Regierung jedoch auch den Einsatz von KI in der Cyberabwehr aus.

00:08:46: US-Präsident Donald Trump unterzeichnete im Juni eine Executive Order, die es den Bundesbehörden angesichts solcher Risiken ermöglicht, die fortschrittlichsten KI-Systeme bis zu einen Monat lang zu überprüfen – bevor diese öffentlich freigegeben

00:09:02: werden.".

00:09:04: Fortgeschrittene KI-Fähigkeiten machen unsere Nation stärker, bringen aber auch neue Überlegungen zur nationalen Sicherheit ein die ein koordiniertes Vorgehen über Exekutivabteilungen und Behörden hinweg erfordern.

00:09:18: Schrieb Trump in der Verordnung Die Teilnahme von KI Entwicklern an dem Überwachungsprogramm soll freiwillig sein.

00:09:26: Der Artikel erschien im Original zuerst auf wieepocktimes.com unter dem Titel OpenAI says its model autonomously hacked hugging face.