Der chinesische Chatbot DeepSeek zählt derzeit zu den beliebtesten KI-Anwendungen weltweit. Doch immer mehr Länder gehen gegen die App vor. Auch in Deutschland gibt es Sicherheitsbedenken.
Südkorea hat die chinesische KI-App DeepSeek vorübergehend verboten. (Archivbild)
Foto: Patrick Pleul/dpa
Der chinesische Chatbot DeepSeek wurde vorübergehend in Südkorea gesperrt. Der Download der App wurde ausgesetzt, da festgestellt wurde, dass DeepSeek nicht vollständig den lokalen Datenschutzgesetzen entspricht, erklärte die nationale Datenschutzbehörde (PIPC). Der Dienst wird erst wieder zugelassen, wenn er den gesetzlichen Anforderungen entspricht. Laut PIPC arbeitet DeepSeek aktiv mit der Datenschutzbehörde zusammen.
Etliche Länder gehen gegen DeepSeek vor
Vorher hatten bereits Behörden in Italien, Taiwan und Australien gegen DeepSeek Maßnahmen ergriffen. Die italienische Datenschutzbehörde hat eine Untersuchung eingeleitet, um festzustellen, ob die App gegen die Datenschutz-Grundverordnung (DSGVO) verstößt. Aufgrund der als unzureichend angesehenen Antworten von DeepSeek wurde die App aus den App-Stores entfernt.
Taiwan und Australien haben die Nutzung von DeepSeek für Regierungsbehörden und staatliche Einrichtungen untersagt. Die Verbote wurden aufgrund der Risiken von Informationslecks und einer potenziellen Bedrohung der nationalen Informationssicherheit durch grenzüberschreitende Datenübertragung gerechtfertigt.
In den Vereinigten Staaten gibt es kein landesweites Verbot, aber verschiedene Bundesbehörden wie die NASA und das Verteidigungsministerium haben ihren Mitarbeitern die Nutzung der App untersagt. Einige Bundesstaaten wie Texas haben DeepSeek auf staatlichen Geräten verboten. Es gibt auch Gesetzesvorschläge, die eine vollständige Sperrung der DeepSeek-App vorsehen.
DeepSeek hat KI-Erdbeben ausgelöst
Der Chatbot aus China, der auf Open-Source-Sprachmodellen basiert, hat in den letzten Wochen die KI-Industrie aufgewühlt, da er vergleichbare oder sogar bessere Ergebnisse als etablierte Anbieter wie OpenAI, Google oder Meta erzielt hat. Laut DeepSeek hat die Entwicklung des Programms nur einen Bruchteil dessen gekostet, was OpenAI in ChatGPT investiert hat. Ende Januar war DeepSeek im App Store für das iPhone in den USA die Spitze der kostenlosen Anwendungen. Derzeit belegt die App den 14. Platz in der Rangliste.
Die Bedenken gegenüber DeepSeek basieren zum einen darauf, dass die App die Nutzerdaten auf Servern in China speichert. Gemäß chinesischer Gesetze könnten diese Daten auf Anfrage an staatliche Stellen weitergegeben werden, was gegen Datenschutzgesetze wie die DSGVO in Europa verstößt. Sicherheitsforscher haben jedoch auch Schwächen wie unzureichende Verschlüsselung und andere Sicherheitslücken festgestellt, die sensible Daten gefährden könnten. Darüber hinaus kann die App leicht manipuliert werden, um Inhalte zu erzeugen, die potenziell gefährlich sind, wie beispielsweise eine Anleitung zum Bau einer Bombe.
Bedenken in Deutschland
Auch in Deutschland meldeten Behörden und Cybersicherheitsfachleute gravierende Sicherheitsbedenken an: Die BSI-Experten verwiesen unter anderem darauf, dass DeepSeek laut den eigenen Datenschutzhinweisen «Tastatureingabemuster oder -rhythmen» erfasst, die dazu genutzt werden könnten, individuelle Nutzerprofile zu erstellen und wiederzuerkennen. Das BSI hält dies in sicherheitskritischen Bereichen für besonders problematisch, da solche Daten potenziell missbraucht werden könnten, um sensible Informationen zu identifizieren oder Nutzer zu überwachen.
Das BSI weist darauf hin, dass es möglich ist, dass Tastatureingaben innerhalb der App mitgelesen werden können, bevor sie abgeschickt werden. Diese Funktion wird auch im Hinblick auf Datenschutz und Cybersicherheit als problematisch angesehen.
Chinas Außenamt erklärte zum aktuellen Vorgehen der Behörden in Südkorea, die Regierung weise chinesische Firmen stets an, sich im Ausland streng an die dort geltenden Gesetze zu halten. Amtssprecher Guo Jiakun sagte in Peking, China hoffe außerdem, dass die Länder eine «Politisierung von Wirtschafts-, Handels- und technologischen Fragen» vermeiden.
