Neue KI-Allianz : Keine Sicherheit durch Unklarheit
Das amerikanische Modell zur Entwicklung Künstlicher Intelligenz setzt bislang auf knallharte Kommerzialisierung – mit Erfolg. Aber wenn es um die Sicherheit geht, wäre Kooperation statt Geheimhaltung angezeigt.
Wer die Sicherheit eines Systems gewährleisten möchte, indem er seine Funktionsweise geheim hält, folgt in der IT-Sicherheit dem Prinzip „Security by obscurity“, zu Deutsch: Sicherheit durch Unklarheit. Die Formulierung macht schon klar, dass ihre Namensgeber von dem Prinzip wenig halten.
Die großen amerikanischen Entwickler Künstlicher Intelligenz (KI) folgen ihm dennoch. Die Architektur ihrer Modelle halten Open AI, Anthropic und Google streng geheim, ihre Trainingsdaten erst recht. Sie argumentieren, dass mehr Transparenz über die Funktionsweise ihrer KI gefährlich wäre, weil Akteure mit schlechten Absichten dann leichter Sicherheitsmaßnahmen ausschalten und die KI missbrauchen könnten.
Der vergangene Woche publik gewordene Vorfall um den eigenständigen Hackerangriff einer KI von Open AI auf die Plattform Hugging Face zeigt, warum dieser Ansatz zu kurz greift. Denn Hugging Face gelang es nicht, den KI-Hack mit geschlossenen KI-Modellen aus Amerika abzuwehren. Ausgerechnet deren interne Sicherheitsmechanismen blockierten die notwendigen Maßnahmen, sodass die Modelle nicht zwischen Angreifer und Verteidiger unterscheiden konnten. Stattdessen musste Hugging Face auf ein offenes chinesisches Modell zurückgreifen.
Solche offenen Modelle haben den Vorteil, dass jeder mit dem nötigen Sachverstand nachvollziehen kann, wie sie programmiert wurden. Auch mögliche Sicherheitslücken können potentiell von den Millionen Entwicklern schneller erkannt werden, die sich weltweit im Bereich Open Source engagieren.
Es ist daher zu begrüßen, dass sich jetzt Nvidia mit 40 weiteren Technologieunternehmen zusammengeschlossen hat, um offene KI-Modelle für Cybersicherheitszwecke zu fördern. Mit dabei sind unter anderem Microsoft, IBM, SAP, Dell, Palantir sowie der von Elon Musk gelenkte Konzern SpaceXAI.
Anthropic, Google und Open AI haben sich nicht angeschlossen. Ihr Geschäftsmodell basiert darauf, den Zugang zu ihren geschlossenen Systemen zu verkaufen. Das ist ihr gutes Recht. Der KI-Angriff auf Hugging Face verdeutlicht aber, dass es offene Alternativen braucht. Auch damit lässt sich über Wartungsverträge und spezielle Unternehmenslizenzen gutes Geld verdienen.