ET+ KI-Star Kimi K3: Zensurvorwürfe und Verdacht des Ideendiebstahls überschatten den Start

00:00:00: Willkommen zum Epoch Times Podcast mit dem Thema KI Star Chemica III.

00:00:06: Zensurvorwürfe und Verdacht des Ideen-Diebstahls überschatten den Start, ein Artikel von Reinhard Werner, XXIII.

00:00:14: Juli.

00:00:17: Am Mikrofon Silke Ohlert.

00:00:19: Chemica II gilt als eines der leistungsstärksten Open Source KI Modelle Doch Zensurvorbürfe verdacht auf Ideendiebstahl und Untersuchungen in den USA überschatten den Start.

00:00:33: Mitte Juli hat das chinesische KI-Unternehmen Moonshot AI sein neues Sprachmodell Chemica III vorgestellt.

00:00:40: Chemica II ist mit großen Vorschusslorbeeren gestartet, die ersten Beiträge auch in europäischen Medien schwärmen von einem der weltweit leistungsfähigsten Open Source Modelle.

00:00:52: Gleichzeitig gibt es aber auch schon die ersten kritischen Anmerkungen und das nicht nur aus der Fachwelt.

00:00:59: Zum einen sprechen Menschenrechtsgruppen von politischer Zensur, die das Modell zugunsten der kommunistischen Machthaber ausübe – und auch der Umstand dass viele Chemika III als Konkurrenz zu den modernsten US-amerikanischen KI Systeme betrachten könnte einen recht profanen Grund haben nämlich möglichen Ideendiebstahl.

00:01:20: Chemika III will nicht über Xi Jinping sprechen.

00:01:24: Am Dienstag, den einundzwanzigsten Juli hat die Menschenrechtsorganisation Human Rights in China – HRIC auf X einige Testergebnisse auf chinesisch veröffentlicht.

00:01:36: So hatten die Aktivisten die KI nach ihrer Beurteilung des chinesischen Machthabers Xi Jinping nach ihrer Meinung zur kommunistischen Partei Chinas und zum vierten Juni neunzunatneinundachtzig befragt.

00:01:49: In all diesen Fällen kam von Chemica III die identische Antwort zurück.

00:01:54: Sehr geehrter Nutzer, lassen Sie uns über ein anderes Thema sprechen!

00:01:59: Kein Problem hatte das Modell hingegen damit eine ausgiebigere Antwort auf die Frage nach einer Einschätzung von US-Präsident Donald Trump zu geben – HRIC veröffentlichte auch die Screenshots zu den Dialogen.

00:02:13: Es ist nicht das erste Mal, dass chinesische KI-Modelle rigoros kritische Fragen zur chinesischen Regierungspolitik abwirken.

00:02:21: Auch bei anderen KI-Systemen wie Queen, Deep Seek oder Dubau waren ähnliche Muster zu beobachten.

00:02:28: In einigen Fällen wurden diese Nutzerkonten nach sensiblen Fragen sogar gesperrt!

00:02:34: Nutzer kommentierten daraufhin, dass die Unternehmen unter einer regiden Kontrolle der chinesischen Führung stünden.

00:02:40: Die ihnen enge staatliche Vorgaben aufzwängen – auch politische Selbstsensur könne eine Rolle spielen!

00:02:46: Es bleibt abzuwarten ob es beispielsweise getrennte Modelle für den chinesisch- und internationalen Markt geben werde.

00:02:56: Chinesische Führungen will durch Kontrolle sozialistische Kernwerte sicherstellen Bereits in den Jahren die Finanzschul-Times, die chinesischen Zinsurmaßnahmen bei Training und Entwicklung von KI skizziert.

00:03:11: So kontrollierten Fachleute der Regierung die Trainingsdaten und überprüften alle großen Sprachmodelle vor ihrer Freigabe.

00:03:19: Sie verlangten dabei einheitliche Antworten auf politische Fragen und stellten die Kontrolle über sensible Schlüsselbegriffe her.

00:03:28: Auf diese Weise solle das KI-Modell die sozialistischen Kernwerte abbilden und Antworten verhindern, die man als staatsgefährdend wahrnehmen könne.

00:03:38: Frühere Tests ließen vor allem bei den chinesischsprachigen Antworten eine strenge Zensur erkennen.

00:03:44: Englesprachige Antworten oder solche in seltener gesprochenen Sprachen erschienen zum Teil als weniger stark gefiltert.

00:03:52: Aber nicht nur der Vorwurf politischer Zensuren richtet sich gegen Chemie KIII.

00:03:56: Bei einzelnen Tests soll die KI geäußert haben, sie sei Claude nicht Kimi.

00:04:02: Dies löste Agwohn hinsichtlich eines möglichen Einsatzes US-amerikanischer KI Ausgaben aus.

00:04:08: So könnte eine sogenannte Identity League Age stattgefunden haben – darunter versteht man die Übernahme interner Formulierungen oder Identitätsmerkmale.

00:04:18: Dies wäre etwa dann möglich gewesen wenn während des Trainings Ausgabens des Entropic Modells Claude zur Verwendung gekommen wären!

00:04:27: US-Finanzminister Besson sieht Ideendiebstahl hinter Chemica III und ähnlichen Modellen.

00:04:33: Außerdem steht die Frage einer sogenannten Knowledge-Destillation im Raum.

00:04:38: Dieser Begriff bezeichnet ein Verfahren, das ein leistungsfähiges Modell wie Claude oder JetGPT mit sehr vielen Fragen konfrontiert – anschließend verwendet man die gesammelten Daten zum Training des eigenen Modells.

00:04:51: Diese Methode ist in der KI Forschung bekannt.

00:04:54: Offen bleibt dabei in vielen Fällen, ob und unter welchen Bedingungen sie gegen Nutzungsbedingungen oder geistige Eigentumsrechte verstößt.

00:05:03: US-Finanzminister Scott Bessens erklärte jüngst auf Fox Business das die US-Regierung mögliche Sanktionen gegen chinesische Unternehmen erwege.

00:05:13: Diese könnten entkraft treten – sollte es sich nachweisen lassen dass diese Fähigkeiten von OS Modellen gestohlen würden!

00:05:21: Die USA unterstützten Open Source-Projekte, man akzeptiere aber keinen Diebstahl geistigen Eigentums.

00:05:28: Bessend erklärte was sich hinter dem Vorgang der Destillation Verberge sei im Grunde nur ordinärer Diebstall.

00:05:36: Man habe in zahlreichen chinesischen Modellen Wasserzeichen amerikanischer Unternehmen gefunden so der Minister.

00:05:43: Er nannte dabei jedoch keine konkreten Namen und gab keine weiteren Erläuterungen zu den Wasserzeichern.

00:05:50: Chinesische Entwickler hätten jedoch hunderte Millionen Anfragen an US-amerikanische KI-Modelle gestellt.

00:05:57: Ziel sei es gewesen, deren Fähigkeiten, Denkprozesse und Programmstrukturen nachzubilden.

00:06:04: Enthropic spricht von etwa vierundzwanzigtausend betrügerischen Konten.

00:06:09: Im April hatte das Weiße Haus ein Memorandum veröffentlicht, in dem ausländische Akteure vor allem chinesische beschuldigt wurden, Zehntausende Proxykonten und sogenannte Jailbreak-Techniken eingesetzt zu haben.

00:06:24: Auf diese Weise sei es ihnen gelungen Schutzmaßnahmen zu umgehen – vertrauliche Informationen abzuschöpfen und Modellfähigkeiten systematisch zu extrahieren!

00:06:34: Die US-Regierung werde mit den KI-Unternehmen zusammenarbeiten, um diese Vorgänge aufzuklären.

00:06:42: Im Februar hatte der Klotbetreiber Ansropik einen Bericht veröffentlicht – in diesem wirft das Unternehmen gleich drei chinesischen Konkurrenten koordinierte Kampagnen vor.

00:06:52: So hätten Moonshot AI, Minimax und DeepSeq rund vierundzwanzigtausend betrügerische Konten angelegt und mehr als sechzehn Millionen Dialoge mit Klot geführt.

00:07:06: US-Kongress will Vorwürfen nachgehen.

00:07:09: Die daraus gewonnenen Erkenntnisse sollen unter anderem Rückschlüsse auf Programmierung, Schlussfolgerungen und Werkzeugnutzung ermöglichen.

00:07:17: Enthropic beruft sich dabei auf IP-Adressen, Metadaten, Infrastrukturmerkmale sowie Informationen von Branchenpartnern.

00:07:25: Die beschuldigten Unternehmen weisen entsprechende Anschuldigungen zurück.

00:07:30: Zwei Ausschüsse des US-Repräsentantenhauses haben im April eine gemeinsame Untersuchung eingeleitet.

00:07:37: Dort will man unter anderem die KI-Systeme DeepSeq, Minimax, Alibaba und Moonshot AI unter die Lupe nehmen – und mögliche Übernahmen von Fähigkeiten amerikanischer KI-Modelle untersuchen.