KI aus China Nutzt Peking DeepSeek für seine Zwecke?
Die chinesische KI-Anwendung DeepSeek sorgt international für Aufsehen. Die Technologie ist kostengünstig und effizient. Doch es gibt Sicherheitsbedenken - und Sorge wegen chinesischer Zensur.
Die chinesische Anwendung DeepSeek verspricht tiefe Suchergebnisse - als würde der blaue Wal im Logo der App in den Tiefen der Ozeane nach Antworten suchen. Doch ausgerechnet die künstliche Intelligenz aus China weiß nicht einmal, wer der chinesische Staats- und Parteichef ist.
Die Software ist zensiert. Wer danach fragt, wer Xi Jinping ist, bekommt von DeepSeek die Antwort, dies sprenge den derzeitigen Horizont der künstlichen Intelligenz (KI). Auf Nachhaken erklärt sie, sie sei nicht sicher, wie sie diese Art von Frage angehen soll. Mathematik und Programmieren sei eher etwas, über das man mit DeepSeek sprechen könne, so die KI.
Auch die Frage nach den blutig niedergeschlagenen Studentenprotesten am Tiananmen-Platz 1989 in Peking wird von DeepSeek auf diese Art und Weise abgeblockt. Es ist ein Thema, das auch sonst im stark zensierten chinesischen Internet nicht existiert und von der Staats- und Parteiführung totgeschwiegen wird.
"Zensur bei DeepSeek ziemlich offensichtlich"
"Einschränkungen beziehungsweise die Zensur bei DeepSeek sind ziemlich offensichtlich", sagt Merlin Münch vom Zentrum für vertrauenswürdige Künstliche Intelligenz auf Anfrage der ARD. Die Informationen und Antworten sollten Nutzer daher in Bezug auf ihren Wahrheitsgehalt immer mit Vorsicht genießen.
Dies gelte auch auch für Chatbots. So habe etwa der KI-Chatbot ChatGPT des US-amerikanischen Unternehmens OpenAI nicht immer richtige Informationen, sagt Antonia Hmaidi, KI-Expertin am China-Forschungsinstitut Merics. Allerdings gebe es dabei keine systematisch und vorsätzlich verzerrten Ergebnisse in eine bestimmte Richtung. Das sei ein Unterschied zu DeepSeek, das sich an chinesische Zensurregularien halte.
Machtvolles Tool, geopolitische Interessen durchzusetzen
Dies sei bedenklich, meint Hmaidi, vor allem "wenn mehr und mehr Menschen DeepSeek verwenden und DeepSeek so eine Rolle als Google-Ersatz hat". Die Sicherheit demokratischer Institutionen sei dann ihrer Ansicht nach sehr gefährdet, wenn sehr viele Menschen hauptsächlich diese Informationen bekommen würden oder nicht mehr in der Lage seien, echte und unechte Informationen voneinander zu unterscheiden, weil ihre Hauptsuchmaschine nur zensierte Informationen teilt.
Eine global genutzte KI wäre ein machtvolles Tool, auch geopolitische Interessen durchzusetzen. China steht international immer wieder wegen Desinformationskampagnen und Vorwürfen verdeckter Einflussnahme in der Kritik. So zum Beispiel 2024 bei den US-Wahlen und bei den Wahlen im demokratisch regierten Taiwan, das von der Volksrepublik als eigenes Staatsgebiet betrachtet wird.
Laut einer Analyse der CDU-nahen Konrad-Adenauer-Stiftung von 2020 verfolgt China eine Strategie, weltweit eigene Narrative zu verbreiten.
Bislang "relativ weit weg von der Regierung"
Doch wie nahe steht das Privatunternehmen DeepSeek der Kommunistischen Partei Chinas? Wirtschaft und Politik sind in China eng miteinander verzahnt. In den chinesischen Staatsmedien wird der internationale Durchbruch von DeepSeek als großer Erfolg gefeiert. International sorgte für Aufsehen, dass Startup-Chef Liang Wenfeng wenige Tage zuvor bei einem Treffen von Wissenschaftlern mit Chinas Ministerpräsident Li Qiang zugegen war.
Allerdings sagt Hmaidi: "DeepSeek ist ein Unternehmen, das aus meiner Sicht relativ weit weg von der chinesischen Regierung entfernt war." Erst durch den internationalen Erfolg der neuen KI sei die chinesische Regierung auf das Unternehmen aufmerksam geworden und habe begonnen, Interesse zu zeigen.
"Scheint datenschutzrechtlich an allem zu fehlen"
DeepSeek hat in mehreren Ländern auch Datenschützer auf den Plan gerufen. In den USA erklärte ein Pressesprecher des Weißen Hauses, dass die Behörden die Auswirkungen der App auf die nationale Sicherheit prüfen.
Irland und Italien haben DeepSeek aufgefordert, über die Verwendung von Nutzerdaten aufzuklären. Die italienische Datenschutzbehörde hat den Unternehmen hinter DeepSeek mittlerweile faktisch die Nutzung von Daten untersagt. Die Beschränkung sei "dringend und mit sofortiger Wirkung" auferlegt worden. Zugleich seien Ermittlungen gegen die Firmen aufgenommen worden.
Wenn man sich bei der App registriert, kann man detailliert nachlesen, welche Daten DeepSeek sammelt. Diese werden auf Servern in der Volksrepublik China gespeichert, heißt es dort.
"Das Unternehmen ist sehr transparent damit, dass es allerhand Userdaten sammelt und verwertet", so Münch vom Zentrum für vertrauenswürdige Künstliche Intelligenz. "Chatverläufe, hochgeladene Dateien, persönliche Daten wie Namen, E-Mail-Adressen oder Zahlungsdaten, aber auch technische Daten, wie die IP-Adresse oder Gerätenummern. Außerdem analysiert das Unternehmen die Tastaturanschläge, also in welchen Rhythmus man seine Suchanfragen eingibt."
"Chats sollten nicht als privat angesehen werden"
In den vergangenen Tagen gab es mehrere Berichte über Sicherheitslücken, unter anderem Cyberangriffe auf das KI-Startup, wodurch sich Nutzer zwischenzeitlich nicht registrieren konnten, und ein Datenleck, welches laut der US-Cybersicherheitsfirma Wiz mehr als eine Million Datensätze öffentlich einsehbar machte.
Auch deutsche Datenschutzbehörden wollen laut einem Medienbericht DeepSeek prüfen. Der rheinland-pfälzische Datenbeauftragte Dieter Kugelmann sagte dem Fachdienst Tagesspiegel Background: "Es scheint bei DeepSeek datenschutzrechtlich an so ziemlich allem zu fehlen."
Das Bundesamt für Sicherheit in der Informationstechnik teilt auf Anfrage der ARD mit, zu DeepSeek gebe es noch keine abschließende Sicherheitsbewertung. Die Chats mit der KI sollten jedenfalls nicht als privat angesehen werden.
KI-Führung ist Staatsziel
Bislang sind die USA Vorreiter bei künstlicher Intelligenz, doch der Abstand Chinas ist nun geringer geworden. KI steht ganz oben auf der Liste der Ambitionen der Kommunistischen Partei Chinas. Bis 2030 soll China nach dem Plan der Regierung weltweit führend in KI werden, auch mithilfe staatlicher Investitionen. In keinem anderen Land der Welt werden so viele Patente im Bereich künstlicher Intelligenz angemeldet wie in China.
KI wird in der Volksrepublik zudem bereits umfassend genutzt, zum Beispiel zur Überwachung und Unterstützung der Polizei bei der Suche von verdächtigen Straftätern. Auch nutzen in China laut einer Umfrage der Softwarefirma SAS und des Marktforschungs-Unternehmens Coleman Parkes 83 Prozent der Unternehmen generative KI-Technologien, so viele wie in keinem anderen Land. In Deutschland waren es demnach 57 Prozent.