Ein Beitrag aus dem Proton Blog
Die Verwendung eines Chatbots bedeutet, sich durch ein Minenfeld aus Privatsphäre und Zensur zu bewegen.
KI-Chat-Apps wie ChatGPT sammeln Benutzerdaten, filtern Antworten und treffen Entscheidungen zur Moderation von Inhalten, die nicht immer transparent sind. Aber DeepSeek – ein neuer KI-Chatbot, der in China entwickelt wurde und als große Bedrohung für (neues Fenster)W(neues Fenster)estern tech companies(neues Fenster) beispiellose Aufmerksamkeit erregt – kann all das und noch mehr.
Tatsächlich birgt dieser Chatbot sogar ein noch größeres Risiko: DeepSeek ist gesetzlich verpflichtet, den Forderungen der chinesischen Regierung nach Datenzugang und Inhaltskontrolle nachzukommen, ohne dass es einen Rechtsweg gibt, sich dem zu widersetzen.
Während Regierungen weltweit – einschließlich der USA und der EU – Daten von Technologieunternehmen anfordern können, haben westliche Unternehmen rechtliche Möglichkeiten, diese Anfragen vor Gericht anzufechten. OpenAI, Google und Meta können sich beispielsweise gegen die meisten überzogenen Forderungen der Regierung wehren, vor unabhängigen Gerichten Berufung einlegen oder Anfragen ablehnen, die gegen Datenschutzgesetze wie die DSGVO verstoßen. DeepSeek hingegen unterliegt dem chinesischen Nationalen Geheimdienstgesetz (neues Fenster), das Unternehmen dazu verpflichtet, mit den Geheimdiensten der Regierung zusammenzuarbeiten, ohne Transparenz oder die Möglichkeit, dies rechtlich abzulehnen. Das bedeutet, dass DeepSeek keine andere Wahl hat, als der chinesischen Regierung Zugriff auf Benutzerdaten zu gewähren oder KI-generierte Antworten zu manipulieren.
In diesem Artikel erfahren Sie, welche Daten DeepSeek sammelt und warum dies für Ihre Privatsphäre, Zensur und staatliche Kontrolle von Bedeutung ist.
Was ist DeepSeek?
DeepSeek ist ein KI-Startup, das High-Flyer gehört, einem in China ansässigen Hedgefonds (neues Fenster). Es wurde als Open-Source-Alternative zu ChatGPT beworben, die in der Lage ist, menschenähnliche Antworten zu generieren, bei der Programmierung zu helfen und komplexe Probleme zu lösen – und das alles zu einem günstigen Preis (neues Fenster).
Das Modell erlangte internationale Aufmerksamkeit (neues Fenster), weil es angeblich die Leistung führender westlicher KI-Modelle zu einem Bruchteil der Kosten erreichte. Im Januar 2025 hatte DeepSeek ChatGPT bei den Downloads aus dem App Store von Apple übertroffen (neues Fenster), was einen weltweiten Ausverkauf von Technologieaktien auslöste und Bedenken hinsichtlich der Milliarden von Dollar aufkommen ließ, die Technologieunternehmen in den USA in den Ausbau energieintensiver Rechenzentren stecken – Ausgaben, die sie als unerlässlich für den nächsten KI-Durchbruch bezeichnen.
Doch als die Leute DeepSeek herunterluden und ihre Erfahrungen mit dem Chatbot teilten, wurde klar, dass die Nutzung von DeepSeek mit einem für diese Technologieklasse bekannten Kompromiss verbunden ist: der Privatsphäre und der Sicherheit der sensibelsten Informationen.
Tiefe Sicherheitslücken
Neue Untersuchungen haben ergeben, dass die Sicherheitspraktiken von DeepSeek genauso bedenklich sein könnten wie die Datenrichtlinien, auf die wir später noch eingehen werden.
Am 29. Januar 2025 berichtete das Cybersicherheitsunternehmen Wiz (neues Fenster), dass DeepSeek versehentlich über eine Million Zeilen sensibler Daten im offenen Internet offengelegt hatte. Das Leck umfasste digitale Softwareschlüssel, die möglicherweise unbefugten Zugriff auf die Systeme von DeepSeek ermöglichen könnten, sowie Chat-Protokolle von echten Benutzern, die die tatsächlichen Eingabeaufforderungen an den Chatbot zeigen.
Die Wiz-Forscher gaben an, die Datenbank fast sofort und mit minimalem Aufwand gefunden zu haben. Innerhalb von 30 Minuten nach der Kontaktaufnahme von Wiz mit DeepSeek wurde die Datenbank gesperrt, aber es ist unklar, ob Kriminelle auf die Daten zugegriffen oder sie heruntergeladen haben, bevor sie gesichert wurden. Angesichts der Tatsache, wie leicht sie zu finden war, ist dieses Szenario durchaus möglich.
Ami Luttwak, Chief Technology Officer von Wiz, sagte gegenüber Wired (neues Fenster), dass das Leck ein „dramatischer Fehler“ sei, und warnte, dass die Systeme von DeepSeek nicht ausgereift genug seien, „um überhaupt mit sensiblen Daten verwendet zu werden“.
Dieses Leck machte jedoch zumindest eines deutlich: DeepSeek sammelt und speichert nicht nur riesige Mengen an Benutzerdaten – es scheint auch nicht über die erforderlichen Sicherheitsmaßnahmen zu verfügen, um diese zu schützen.
Welche Daten sammelt DeepSeek?
Laut seiner Datenschutzrichtlinie (neues Fenster) sammelt DeepSeek eine Vielzahl personenbezogener Daten, darunter:
- Profilinformationen: Benutzername, E-Mail-Adresse, Telefonnummer, Passwort und Geburtsdatum.
- Benutzereingaben: Alles, was Sie eingeben oder hochladen, einschließlich Chat-Verlauf, Eingabeaufforderungen und Audioeingaben.
- Geräte- und Netzwerkdaten: IP-Adresse, Gerätemodell, Betriebssystem, Systemsprache und Tastenanschlagmuster.
- Nutzungsdaten: Von Ihnen verwendete Funktionen, von Ihnen ausgeführte Aktionen und Systemleistungsprotokolle.
- Cookies und Tracker: Web-Beacons und andere Tracking-Technologien zur Überwachung des Benutzerverhaltens.
- Daten von Drittanbietern: Informationen von verknüpften Konten und Werbepartnern, die Ihre Aktivitäten auf Websites, in Apps und in Geschäften verfolgen.
Die Handhabung und Speicherung dieser Daten auf Servern in China, wo sie dem Zugriff der Regierung unterliegen, durch DeepSeek hat bei den europäischen Regulierungsbehörden Besorgnis ausgelöst.
DeepSeek wird in Europa untersucht
Sowohl die irische Datenschutzkommission (DPC)(neues Fenster) als auch die italienische Datenschutzbehörde (DPA)(neues Fenster) haben Untersuchungen(neues Fenster) darüber eingeleitet, wie das Unternehmen Benutzerdaten sammelt, speichert und verarbeitet.
Die italienische Datenschutzbehörde hat den Zugang zu DeepSeek im Land gesperrt, nachdem das Unternehmen keine ausreichenden Informationen über den Umgang mit personenbezogenen Daten vorgelegt hatte. Die Aufsichtsbehörden wollen wissen, welche Daten DeepSeek sammelt, wo sie gespeichert werden und ob sie mit den EU-Datenschutzgesetzen wie der DSGVO übereinstimmen.
Die irische Datenschutzbehörde hat außerdem um Einzelheiten darüber gebeten, wie DeepSeek Daten von irischen Nutzern verarbeitet. Inzwischen wurde die App von DeepSeek aus den App-Stores von Apple und Google in Italien entfernt, wobei unklar ist, ob die Entfernung freiwillig oder erzwungen war.
Wenn DeepSeek die europäischen Datenschutzgesetze nicht einhält, drohen dem Unternehmen Bussgelder, Verbote oder weitere Einschränkungen in der EU.
DeepSeek ist Open Source, aber ist es auch sicher?
DeepSeek ist Open Source, d. h. Sie können den Code (neues Fenster) Ihrer eigenen App ändern, um eine unabhängige – und sicherere – Version zu erstellen. Dies hat bei einigen die Hoffnung geweckt, dass eine datenschutzfreundlichere Version von DeepSeek entwickelt werden könnte. Die Nutzung von DeepSeek in seiner derzeitigen Form – wie es heute existiert und in China gehostet wird – birgt jedoch ernsthafte Risiken für alle, die sich um ihre sensibelsten, privaten Informationen sorgen.
Jedes Modell, das auf den Servern von DeepSeek trainiert oder betrieben wird, unterliegt weiterhin den chinesischen Datenschutzgesetzen, was bedeutet, dass die chinesische Regierung jederzeit Zugriff verlangen kann.
Auch wenn die Technologie von DeepSeek vielversprechend ist, stellen die Datenpraktiken und rechtlichen Verpflichtungen des Unternehmens ein ernstes Risiko für den Datenschutz und die Sicherheit dar.
zur Frage an DeepSeek - s.PS am Schluss dieses Beitrages
DeepSeek unterliegt den chinesischen Überwachungsgesetzen
DeepSeek unterliegt dem chinesischen Nationalen Geheimdienstgesetz von 2017 (neues Fenster) – einem Gesetz, das alle chinesischen Unternehmen dazu verpflichtet, die Regierung in Fragen der nationalen Sicherheit zu unterstützen. Das bedeutet, dass jedes chinesische Unternehmen, von TikTok über RedNote bis hin zu DeepSeek, gezwungen werden kann, Benutzerdaten an chinesische Behörden weiterzugeben (neues Fenster), selbst wenn diese Daten von Benutzern in den Vereinigten Staaten oder anderswo stammen.
Dieses Gesetz verpflichtet alle chinesischen Unternehmen dazu,
- der Regierung auf Anfrage Zugang zu Nutzerdaten zu gewähren
- bei nationalen Geheimdienstoperationen zu helfen
- über staatlich angeordneten Datenaustausch Stillschweigen zu bewahren
DeepSeek hat keine andere Wahl, als den Forderungen der Regierung nachzukommen, sei es durch die Herausgabe privater Nutzerdaten oder durch die Anpassung seiner KI-Ergebnisse an staatlich genehmigte Narrative(neues Fenster).
DeepSeek zensiert bereits Informationen
Alle gängigen KI-Chat-Apps verfügen über Richtlinien, Regeln und Grenzen für die Moderation von Inhalten, die hauptsächlich dazu dienen, Schaden zu verhindern – und nicht dazu, politische Narrative zu kontrollieren. Aber es scheint, dass DeepSeek aktiv die Geschichte umschreibt und von der Regierung genehmigte Botschaften verbreitet.
Ein Proton-Mitarbeiter gab beispielsweise diese Eingabeaufforderung in DeepSeek ein, um nach Informationen über die Proteste auf dem Platz des Himmlischen Friedens von 1989 zu suchen, eine von Studenten angeführte Bewegung, die die chinesische Regierung veränderte: „Wichtige Weltereignisse am 15. April 1989“. DeepSeek begann, eine Antwort zu generieren, löschte sie jedoch schnell und bot stattdessen diese Antwort an: „Tut mir leid, das liegt außerhalb meines aktuellen Aufgabenbereichs. Lass uns über etwas anderes sprechen.“
Laut weiteren Tests von The Diplomat(neues Fenster)
- verweigerte DeepSeek die Anerkennung wichtiger historischer Ereignisse: Auf die Frage nach der Kulturrevolution tat es so, als ob das Ereignis nie stattgefunden hätte.
- Zensierte politisch unbequeme Fakten: Auf die Frage nach dem verfolgten Intellektuellen Chu Anping ignorierte es sein Verschwinden und lobte stattdessen die KPCh für ihre Unterstützung der Intellektuellen.
- Förderung staatlicher Propaganda: Bei Fragen zur chinesischen Wirtschaft lenkte DeepSeek das Gespräch auf das Vertrauen in die Regierungsführung.
- Bearbeitete Antworten auf internationale Streitigkeiten: Auf die Frage, wem die Spratly-Inseln gehören, räumte DeepSeek zunächst den Territorialstreit ein – löschte dann aber seine Antwort und ersetzte sie durch: „Reden wir über etwas anderes.“
- Vermeidung direkter Antworten auf globale Konflikte: Auf die Frage, ob die Invasion Russlands in der Ukraine gerechtfertigt sei, weigerte sich DeepSeek, eine Ja- oder Nein-Antwort zu geben, und wiederholte stattdessen die offizielle Neutralitätsposition Chinas.
So sieht staatlich erzwungene Zensur und Kontrolle der Berichterstattung aus.
Chatbots sind leistungsstarke Werkzeuge, aber der Preis dafür ist Ihre Privatsphäre
Der Aufstieg großer Sprachmodelle als Chatbot-Assistenten wirft bereits ernsthafte Bedenken hinsichtlich des Datenschutzes und der Zensur auf, da Unternehmen wie OpenAI und Google Regeln umgehen und riesige Datenmengen mit wenig Transparenz sammeln. Es gibt jedoch keinen technischen Grund, warum KI so invasiv sein muss – eine private und sichere KI ist möglich, aber niemand baut sie.
DeepSeek geht noch weiter. Es sammelt nicht nur umfangreiche persönliche Informationen, sondern kann sich auch rechtlich nicht gegen Forderungen der Regierung nach Datenzugang und Inhaltsmanipulation wehren. Anstatt eine KI zu entwickeln, die die Privatsphäre der Nutzer respektiert, setzen diese Unternehmen auf Datensammlung, Tracking und undurchsichtige Moderationsrichtlinien.
Wir bei Proton glauben an Datenschutz, Transparenz und ein Internet ohne Zensur. Ob KI, soziale Medien oder Cloud-Dienste – Sie haben ein Recht darauf zu wissen, wer Ihre Daten kontrolliert und wie sie verwendet werden.
Wenn Ihnen Online-Datenschutz und digitale Freiheit wichtig sind, sollten Sie vorsichtig sein, welchen KI-Tools Sie vertrauen – denn nicht alle haben Ihre Interessen im Sinn.
PS: Zur Frage an DeepSeek
Zur Frage an DeepSeek Am 15. April 1989 ereigneten sich mehrere bedeutende Ereignisse weltweit:
- Hillsborough-Katastrophe (England)
- Eine der schlimmsten Stadionkatastrophen in der Fußballgeschichte: Beim FA-Cup-Halbfinale zwischen dem FC Liverpool und Nottingham Forest im Hillsborough-Stadion in Sheffield kam es zu einer Massenpanik.
- 97 Liverpool-Fans wurden durch Überfüllung und mangelhafte Sicherheitsmaßnahmen erdrückt oder erstickten.
- Die Tragödie führte zu tiefgreifenden Änderungen im britischen Fußball, insbesondere zur Einführung moderner Sitzplatzstadien.
- Beginn der Proteste am Tian’anmen-Platz (China)
- Der Tod von Hu Yaobang, einem reformorientierten KP-Führer, löste in Peking Massendemonstrationen aus.
- Studenten forderten politische Reformen und Meinungsfreiheit.
- Diese Proteste eskalierten später zum Tian’anmen-Massaker am 4. Juni 1989.
- Gorbatschow-Besuch in Westdeutschland angekündigt
- Michail Gorbatschow, der Generalsekretär der KPdSU, wurde für Juni 1989 zu einem Besuch in der Bundesrepublik Deutschland eingeladen.
- Sein Reformkurs („Glasnost“ und „Perestroika“) hatte große Auswirkungen auf den Zusammenbruch des Ostblocks.
- Schwere Demonstrationen in Georgien nach dem Massaker von Tiflis
- Nur wenige Tage zuvor (9. April) hatte die sowjetische Armee eine friedliche Demonstration in Tiflis, Georgien, brutal niedergeschlagen, wobei mindestens 21 Menschen starben.
- Am 15. April 1989 setzten sich Proteste gegen die sowjetische Herrschaft fort, was später zur Unabhängigkeit Georgiens führte.
Diese Ereignisse hatten weitreichende Folgen für die Geschichte, insbesondere für die Demokratisierungsbewegungen im Ostblock und die Sicherheitsreformen im europäischen Fußball.