Chinesische KI Enorme Sicherheitsbedenken gegen DeepSeek
Die Warnungen vor Sicherheitslücken bei der chinesischen KI DeepSeek werden immer lauter. So werden etwa Profile der Nutzer erstellt, und diese Daten werden in China gespeichert.
Behörden und Cybersicherheitsfachleute haben gravierende Sicherheitsbedenken gegen die chinesische KI DeepSeek. Dabei geht es gleich um mehrere Punkte: die offenkundig sehr weitreichende Speicherung von Nutzerdaten, die Manipulierbarkeit der Anwendung für kriminelle Zwecke und die Frage, inwieweit der chinesische Spionage- und Überwachungsapparat Zugriff auf Nutzerdaten hat.
Speicherung von Tastatureingaben
Ein wesentlicher Kritikpunkt ist die Speicherung der Tastatureingaben. DeepSeek informiert in seinen Datenschutzhinweisen darüber, dass "Tastatureingabemuster oder -rhythmen" (keystroke patterns or rhythms) erfasst werden - ein Verfahren, das zur Identifizierung von Nutzern eingesetzt werden kann.
"Auch Tastatureingaben innerhalb der App können womöglich mitgelesen werden, bevor sie abgeschickt werden", sagt eine Sprecherin des Bundesamts für Sicherheit in der Informationstechnik (BSI) auf Anfrage der Nachrichtenagentur dpa: "Daneben wird die Art und Weise, wie Tastatureingaben vorgenommen werden, gespeichert."
Mit solchen Mustern könnten mit Hilfe Künstlicher Intelligenz Nutzprofile erstellt und wiedererkannt werden. "Das BSI hält diese Möglichkeit mindestens für sicherheitskritische Bereiche für bedenklich", betont die Sprecherin.
Daten werden in China gespeichert
Die etablierte US-Konkurrenz von Open AI hingegen sichert zu, nicht aktiv nach persönlichen Daten zu suchen und keine öffentlichen Daten im Internet zum Aufbau persönlicher Profile zu verwenden. Es werden also keine Nutzerprofile erstellt. Allerdings gibt es ein US-Gesetz - den Cloud Act - das amerikanische Firmen verpflichtet, den Behörden Zugriff auf im Ausland gespeicherte Daten zu gewähren.
DeepSeek ist nach chinesischem Recht sogar verpflichtet, sämtliche Daten in der Volksrepublik zu speichern. Und das chinesische Geheimdienstgesetz verpflichtet Bevölkerung und Organisationen zur Kooperation mit den Sicherheitsbehörden. Etliche China-Beobachter interpretieren die dortige Rechtslage als Zugriffsrecht des Spionageapparats auf sämtliche in der Volksrepublik gespeicherten Daten.
Nutzung für kriminelle Zwecke
Die Erstellung von Nutzerprofilen und die Speicherung der Daten sind Experten zufolge allerdings nicht die einzigen Risiken, die mit der Nutzung von DeepSeek einher gehen. In einer Untersuchung des großen US-Cybersicherheitsdienstleisters Palo Alto Networks ließ sich DeepSeek leicht für kriminelle Zwecke manipulieren. Das berichtet Sam Rubin, Leiter der Bedrohungsanalyse und -beratung des Unternehmens. So brachten die Cyberfachleute DeepSeek dazu, ein Skript zur Auslese von Daten aus Mails und Word-Dateien zu erzeugen. Derartige Skripts werden von Hackern genutzt, um Daten zu stehlen.
Das erfolgreiche Aushebeln von Sicherheitsvorkehrungen heißt in der Software-Branche "Jailbreaking" - Gefängnisausbruch. Laut Palo Alto Networks fehlen DeepSeek die Schutzplanken anderer KI-Modelle. "Unsere Forscher waren in der Lage, die schwachen Sicherheitsvorkehrungen zu umgehen, um bösartige Inhalte zu produzieren, was wenig bis kein Spezialwissen oder Expertise erforderte", sagt Rubin.
Datenschützer gehen gegen DeepSeek vor
In der EU reagiert man nun auf die Sicherheitsbedenken: Die italienische Datenschutzbehörde GDDP hat die chinesische KI bereits Ende Januar auf den Index gesetzt. Und auch deutsche Datenschutzbehörden dürften gegen DeepSeek vorgehen.
Laut EU-Datenschutzgrundverordnung muss ein Unternehmen ohne Niederlassung in der EU zumindest einen gesetzlichen Vertreter benennen, was DeepSeek bislang offenbar nicht getan hat. "Das Fehlen eines gesetzlichen Vertreters stellt an sich schon einen Verstoß gegen die Datenschutz-Grundverordnung dar und kann mit Bußgeld geahndet werden", hieß es auf dpa-Anfrage vom rheinland-pfälzischen Datenschutzbeauftragten.
Behörden und Firmen schützen sich
Um sich gegen die Sicherheitslücken bei KI zu schützen, treffen deutsche Ministerien, Bundesbehörden und große Unternehmen massive Sicherheitsvorkehrungen - das betrifft nicht nur DeepSeek. So hat das Bundesinnenministerium die Nutzung externer Cloud-Dienste grundsätzlich verboten.
Andere Bundesministerien haben ähnliche Vorschriften erlassen: Das Finanzministerium hat die Nutzung "textgenerativer Künstlicher Intelligenz im Internet zu dienstlichen Zwecken grundsätzlich untersagt". Auch das Deutsche Patent- und Markenamt in München - ebenfalls ein potenzielles Spionageziel - setzt DeepSeek nicht ein.
Nach diesem Prozedere verfahren auch große Unternehmen, die ihre Technologie schützen wollen. Dazu zählt die Münchner Wacker Chemie, ein wichtiger Lieferant der Computerchip-Industrie: kein DeepSeek auf Firmenrechnern und -geräten und keine privaten Geräte bei der Arbeit.
Mehrere DAX-Konzerne ermöglichen den Zugriff auf KI-Anwendungen nur über die Sicherheitsschleusen eigener Systeme, bei Siemens etwa "SiemensGTP" geheißen. "Dort ist neben vielen anderen Modellen auch Deep Seek verfügbar - innerhalb eines sicheren Umfelds, das garantiert, dass Siemensdaten bei Siemens bleiben", sagt ein Sprecher.