CISA, NSA und FBI warnen vor Distillationskampagnen chinesischer KI-Unternehmen gegen US-KI-Modelle
KI-generiert (AI). Dieser Text wurde von künstlicher Intelligenz automatisch erstellt und übersetzt und softwaregestützt mit den angegebenen Quellen abgeglichen; keine menschliche Prüfung. Keine Rechtsberatung.
Zusammenfassung
CISA hat gemeinsam mit der NSA und dem FBI eine gemeinsame Cybersicherheitswarnung veröffentlicht, wonach in China ansässige KI-Unternehmen US-amerikanische KI-Unternehmen ins Visier nehmen, um proprietäre Modelle durch Wissensdistillation zu extrahieren. Laut der Warnung haben DeepSeek, Moonshot AI, Alibaba, MiniMax, StepFun und Z.AI seit mindestens Ende 2024 – wahrscheinlich mit Wissen der chinesischen Regierung – Milliarden von Tokens über Millionen von Anfragen aus US-Frontier-Modellen extrahiert. Sie empfiehlt US-Frontier-Unternehmen, Erkennungs- und Gegenmaßnahmen umzusetzen, gezielte Änderungen bei den Antworten auf mutmaßliche Distillationsversuche einzuführen und einen organisationsübergreifenden Informationsaustausch aufzubauen.
Warum es wichtig ist
Die Warnung richtet sich an US-amerikanische Entwickler von Frontier-KI und fordert sie auf, umgehend Schritte zum Schutz ihrer Plattformen vor Distillationskampagnen zu ergreifen. Sie stuft die Aktivität als Verstoß gegen die Nutzungsbedingungen und als Beeinträchtigung des fairen Wettbewerbs ein und empfiehlt drei Maßnahmen zu Erkennung, geänderten Antworten und Informationsaustausch zwischen Modellanbietern, Cloud-Plattformen und API-Aggregatoren.
- Beteiligte
- CISA; NSA; FBI
- Primärquelle
- CISA (cisa.gov)
Quelle abgerufen: . Quellen sind oft in anderen Sprachen; Links öffnen das Original. - Themen
- Frontier-Modelle und Sicherheit · Wettbewerb und Kartellrecht · Allgemeine KI-Governance