Der Ethereum-Mitbegründer Vitalik Buterin hat die Entscheidung von Moonshot AI unterstützt, die fortgeschrittenen Hacking-Fähigkeiten in seinem Modell Kimi K3.1 Pro zu begrenzen, und warnte davor, dass schlecht gehandhabte KI-Sicherheitsrisiken zu restriktiven Identitätsprüfungen und weitverbreiteter Überwachung führen könnten.
Zusammenfassung
- Vitalik Buterin unterstützt die Begrenzung gefährlicher KI-Fähigkeiten, ohne den Zugang anhand der Identität der Nutzer einzuschränken.
- Moonshots gefiltertes Kimi-Modell erreichte 81 %, verglichen mit 90,5 % für das ungefilterte Gegenstück.
- Buterin warnte, dass unkontrollierte KI-Angriffe verpflichtende KYC-Verfahren und aufdringliche Überwachung fördern könnten.
- Moonshot plant, die offenen Gewichte von Kimi K3.1 Pro bis zum 4. November zu veröffentlichen.
In einem Beitrag auf X vom 26. Oktober verteidigte Buterin Moonshots Entscheidung, fortgeschrittenes offensives Cybersicherheitsmaterial aus dem Training des Modells auszuschließen, und argumentierte, dass Entwickler mehr Zeit benötigen, um Software gegen zunehmend leistungsfähige KI-Angriffe zu stärken.
Die Kommentare folgten auf Moonshots Ankündigung von Kimi K3.1 Pro am 23. Oktober, das bereits über seine Anwendungen und API verfügbar ist. Das chinesische Startup beabsichtigt, die vollständigen Gewichte des Modells bis zum 4. November zu veröffentlichen.
Vitalik Buterin unterstützt die Begrenzung gefährlicher KI-Fähigkeiten
Vitalik Buterins Position dreht sich um die Unterscheidung zwischen der Einschränkung dessen, was ein KI-Modell tun kann, und der Entscheidung, welche Personen es nutzen dürfen.
„Anwendungsfälle zu diskriminieren ist VIEL weniger schlimm als Nutzer zu diskriminieren“, schrieb er und unterstützte Moonshots Entscheidung, fortgeschrittene offensive Cyber-Fähigkeiten aus dem Training herauszuhalten.
Er argumentierte, dass die Welt Zeit brauche, um sich auf mächtige KI-gesteuerte Angriffe vorzubereiten, indem bestehende Infrastruktur gestärkt, ältere Software überprüft und formale Verifikation auf neu entwickelten Code angewendet werde.
Formale Verifikation beinhaltet die mathematische Prüfung, ob Software festgelegte Anforderungen erfüllt. Buterin hat diesen Ansatz wiederholt unterstützt, um Sicherheitsschwachstellen zu finden, bevor Programme eingesetzt werden.
Im September wies er Behauptungen zurück, dass KI-gesteuertes Hacking die Cybersicherheit letztlich ungewinnbar machen würde, und argumentierte, dass automatisierte Verifikation die Fähigkeit der Verteidiger verbessern könnte, Software zu sichern.
Seine jüngsten Kommentare deuteten nicht darauf hin, dass die Entfernung gefährlichen Trainingsmaterials andere Entwickler daran hindern würde, leistungsfähigere Modelle zu produzieren.
Als der X-Nutzer LOID fragte, ob konkurrierende Labore letztlich ohnehin fortgeschrittene offensive Fähigkeiten entwickeln würden, antwortete Buterin: „Ja, natürlich werden sie das.“
Moonshot berichtet über messbare Auswirkungen der Kimi-Sicherheitsbeschränkungen
Moonshot führte Kimi K3.1 Pro als ein verbessertes Open-Weight-Modell ein, das auf seiner bestehenden Kimi-K3-Architektur aufbaut.
Laut der technischen Ankündigung des Unternehmens entfernten die Entwickler ausgewählte cyberangriffsbezogene Daten aus dem Training und dem Reinforcement Learning, während allgemeine Programmierfähigkeiten erhalten blieben.
Die Entscheidung verringerte die Leistung auf Moonshots internem Exploit-Benchmark. Eine Version ohne die Einschränkungen löste 90,5 % der Aufgaben, verglichen mit 81 % für das veröffentlichte Modell.
Der Unterschied beträgt 9,5 Prozentpunkte, obwohl das Unternehmen nicht festgestellt hat, wie sich diese Verringerung in der realen Verhinderung von Cyberangriffen niederschlägt.
Moonshot berichtete, dass das vorherige Kimi-K3-Modell bei derselben Bewertung 33,3 % erreichte, was darauf hindeutet, dass der eingeschränkte Nachfolger in den eigenen Tests immer noch deutlich besser abschnitt.
Bei Terminal-Bench 4.0 erreichte das neue Modell 65,7 %, verglichen mit den von Moonshot gemeldeten Werten von 66,4 % für Claude Opus 5.5 und 58,2 % für GPT-6 Astra.
Diese Leistungszahlen stammen aus den Tests von Moonshot und wurden nicht unabhängig überprüft.
Das Unternehmen hat eine Highspeed-Version veröffentlicht, die laut eigenen Angaben zwei- bis dreimal schneller als das Standardangebot arbeitet.
Buterin warnt, dass KI-Ausfälle zu strengeren Zugangskontrollen führen könnten
Über die unmittelbaren Cybersicherheitsbedenken hinaus warnte Vitalik Buterin, dass Regierungen und Technologieunternehmen auf schwerwiegende KI-bezogene Vorfälle mit Beschränkungen für normale Nutzer reagieren könnten.
Er beschrieb eine mögliche Zukunft mit abgeriegelten Modellen, verpflichtenden Know-Your-Customer-Prüfungen und aufdringlicher Überwachung.
Unter solchen Regelungen könnte der Zugang zu fortschrittlichen KI-Tools von der Nationalität, den Identitätsdokumenten oder anderen Berechtigungsnachweisen einer Person abhängen.
Buterin warnte, dass einige Nutzer aufgrund ihrer Qualifikationen oder Staatsbürgerschaft zu Teilnehmern „zweiter, dritter oder vierter Klasse“ werden könnten.
Seine Bedenken stehen im Einklang mit seinen jüngsten Experimenten zum privaten KI-Zugang.
Am 16. Oktober stellte er ein datenschutzorientiertes Agenten-Setup vor, das Tor-Routing, anonyme Zahlungen über zkAPI und lokale Prompt-Umschreibung kombiniert, um die an externe Modelle preisgegebenen persönlichen Informationen zu reduzieren.
Das System wurde entwickelt, um Nutzern den Zugang zu KI-Diensten zu ermöglichen und gleichzeitig die Offenlegung ihrer Identitäten und Aktivitäten zu begrenzen.
KI-Cybersicherheit bleibt für Blockchain-Entwickler ein Anliegen
Unabhängige Bewertungen haben zuvor die offensiven Fähigkeiten der Modelle von Moonshot untersucht.
Im Juli bewerteten das U.S. Center for AI Standards and Innovation und das AI Security Institute des Vereinigten Königreichs Kimi K3 anhand simulierter Cyberangriffe.
Die Forscher stellten fest, dass das Modell schlechter abschnitt als führende cyberfähige Systeme, aber trotz seiner bestehenden Schutzmaßnahmen dennoch offensive Operationen versuchen könnte.
Bei einem simulierten Angriff auf ein Unternehmensnetzwerk absolvierte Kimi K3 durchschnittlich 17 von 32 Schritten, verglichen mit 28,5 bei den leistungsfähigsten getesteten US-Modellen.
Die Bewertung betraf die vorherige Kimi-K3-Version, nicht das neu eingeführte K3.1 Pro.
Zuvor hat Buterin vorgeschlagen, mehr KI-unterstützte Entwicklungsarbeit auf Sicherheitstests und mathematische Verifikation auszurichten.
Im Mai identifizierte er Anwendungen für diesen Ansatz in Ethereums Zero-Knowledge-Virtual Machines, kryptografischen Beweisen, Konsenssystemen und quantenresistenter Sicherheitsforschung.
