Enorme Sicherheitsbedenken gegen chinesische KI DeepSeek

Behörden und Experten für Cybersicherheit äußern ernsthafte Sicherheitsbedenken in Bezug auf die chinesische KI DeepSeek. Dies betrifft mehrere Aspekte: die offensichtlich umfangreiche Speicherung von Nutzerdaten, die potenzielle Manipulierbarkeit der Anwendung für kriminelle Zwecke und die Frage, ob der chinesische Spionage- und Überwachungsapparat Zugriff auf Nutzerdaten hat. Seit der Veröffentlichung hat sich DeepSeek zu einer der beliebtesten KI-Anwendungen in den deutschen App Stores von Apple und Google entwickelt.

DeepSeek speichert Nutzereingaben in großem Umfang

Ein wesentlicher Kritikpunkt ist die Speicherung der Tastatureingaben. DeepSeek informiert in seinen Datenschutzhinweisen darüber, dass «Tastatureingabemuster oder -rhythmen» (keystroke patterns or rhythms) erfasst werden – ein Verfahren, das zur Identifizierung von Nutzern eingesetzt werden kann. «Auch Tastatureingaben innerhalb der App können womöglich mitgelesen werden, bevor sie abgeschickt werden», sagt eine Sprecherin des Bundesamts für Sicherheit in der Informationstechnik (BSI) auf dpa-Anfrage. 

BSI: für sicherheitskritische Bereiche bedenklich

«Daneben wird die Art und Weise, wie Tastatureingaben vorgenommen werden, gespeichert.» Mit solchen Mustern könnten mit Hilfe Künstlicher Intelligenz Nutzprofile erstellt und wiedererkannt werden. Fazit: «Das BSI hält diese Möglichkeit mindestens für sicherheitskritische Bereiche für bedenklich.» 

Die etablierte US-Konkurrenz von Open AI versichert jedoch, dass sie nicht aktiv nach persönlichen Daten sucht und keine öffentlichen Daten im Internet verwendet, um persönliche Profile zu erstellen. Es existiert jedoch auch ein US-Gesetz – der Cloud Act -, das amerikanische Unternehmen dazu verpflichtet, den Behörden Zugriff auf im Ausland gespeicherte Daten zu gewähren.

Ein «Keylogger», wie ihn kriminelle Hacker und Geheimdienste zum Ausspionieren von Passwörtern und Zugangs-Daten verwenden, ist die Speicherung von Eingabemustern oder -rhythmen durch DeepSeek nach Einschätzung des Experten Rüdiger Trost zwar nicht. «Hier muss man unterscheiden: Ein Keylogger «schneidet alles mit, was über die Tastatur eingegeben wird», sagt der Fachmann, der für den Cybersicherheitdienstleister WithSecure arbeitet. «Das ist etwas Anderes als ein Prompt in einem GenAI Tool oder im Allgemeinen eine Sucheingabe in einem Browser.»

Palo Alto Networks: Hilfreich für Cybergangster

In einer Untersuchung von Palo Alto Networks, einem führenden US-amerikanischen Cybersicherheitsdienstleister, wurde festgestellt, dass DeepSeek leicht für kriminelle Zwecke manipuliert werden kann. Das sagte Sam Rubin, Leiter der Bedrohungsanalyse und -beratung des Unternehmens.

So brachten die Cyberfachleute DeepSeek mit Hilfe der «richtigen Prompts» dazu, ein Skript zur Auslese von Daten aus Mails und Word-Dateien zu erzeugen. Derartige Skripts werden von Hackern genutzt, um Daten zu stehlen. Mit zusätzlichen Prompts habe DeepSeek außerdem tatsächlich «Keylogger Code» produziert, wie Rubin auf Anfrage sagte. 

Das erfolgreiche Aushebeln von Sicherheitsvorkehrungen heißt in der Software-Branche «Jailbreaking» – Gefängnisausbruch. Laut Palo Alto Networks fehlen DeepSeek die Schutzplanken anderer KI-Modelle. «Unsere Forscher waren in der Lage, die schwachen Sicherheitsvorkehrungen zu umgehen, um bösartige Inhalte zu produzieren, was wenig bis kein Spezialwissen oder Expertise erforderte», sagt Rubin. 

Freier Zugriff für Chinas Spione?

Abgesehen davon ist DeepSeek nach chinesischem Recht verpflichtet, alle Daten in der Volksrepublik zu speichern. Das chinesische Geheimdienstgesetz wiederum verpflichtet Bevölkerung und Organisationen zur Zusammenarbeit mit den Sicherheitsbehörden. Der Gummiparagraf wird von vielen China-Beobachtern als Zugriffsrecht des Spionageapparats auf alle in der Volksrepublik gespeicherten Daten interpretiert.

Datenschützer wollen prüfen

Derzeit bereitet der Datenschutzbeauftragte von Rheinland-Pfalz ein Prüfverfahren gegen DeepSeek vor. «Mehrere deutsche Datenschutzaufsichtsbehörden gehen voraussichtlich parallel vor», sagte eine Sprecherin auf Anfrage. Laut EU-Datenschutzgrundverordnung muss ein Unternehmen ohne Niederlassung in der EU zumindest einen gesetzlichen Vertreter benennen, was DeepSeek bislang offenbar nicht getan hat. «Das Fehlen eines gesetzlichen Vertreters stellt an sich schon einen Verstoß gegen die Datenschutz-Grundverordnung dar und kann mit Bußgeld geahndet werden», sagt die Sprecherin. Die italienische Datenschutzbehörde GDDP hat die chinesische KI bereits Ende Januar auf den Index gesetzt. DeepSeek ließ eine dpa-Anfrage zu den verschiedenen Kritikpunkten zunächst unbeantwortet.

Ministerien und Konzerne bei KI grundsätzlich auf der Hut

Deutsche Ministerien, Bundesbehörden und große Unternehmen ergreifen umfangreiche Sicherheitsmaßnahmen gegen Cyberattacken. Dies beinhaltet auch künstliche Intelligenz und betrifft nicht nur DeepSeek.

So hat das Bundesinnenministerium die Nutzung externer Cloud-Dienste grundsätzlich verboten. Andere Bundesministerien haben ähnliche Vorschriften erlassen: Das Finanzministerium hat die Nutzung «textgenerativer Künstlicher Intelligenz im Internet zu dienstlichen Zwecken grundsätzlich untersagt». Das Wirtschaftsministerium hat festgelegt, welche Anwendungen erlaubt sind, DeepSeek und andere KI-Anwendungen gehören nicht dazu. 

Auch das Deutsche Patent- und Markenamt in München – ebenfalls ein potentielles Spionageziel – verwendet nicht DeepSeek. Im bayerischen Innenministerium sind DeepSeek und andere KI-Anwendungen auf dienstlichen Geräten verboten und private Geräte dürfen nicht für dienstliche Zwecke genutzt werden.

Große Unternehmen wie die Münchner Wacker Chemie verfahren nach diesem Prozedere, um ihre Technologie zu schützen. Dies beinhaltet, dass kein DeepSeek auf Firmenrechnern und -geräten durchgeführt wird und keine privaten Geräte bei der Arbeit genutzt werden.

Sicherheitsschleusen bei Dax-Konzernen

Mehrere Dax-Konzerne ermöglichen den Zugriff auf KI-Anwendungen nur über die Sicherheitsschleusen eigener Systeme, bei Siemens etwa «SiemensGTP» geheißen. «Dort ist neben vielen anderen Modellen auch Deep Seek verfügbar – innerhalb eines sicheren Umfelds, das garantiert, dass Siemensdaten bei Siemens bleiben», sagt ein Sprecher. BMW und die BASF gehen nach ähnlichem Muster vor.