Banale Frage, komplexe Antwort?
-
@AwetTesfaiesus
IMO greift die Haushaltsausnahme von der DSGVO schon mangels Verbindung zu der anderen Person nicht. Also gilt die DSGVO und es stellen sich alle wichtigen Datenschutz-Fragen.Besonders spießen wird es bei Fairness, Transparenz, Zweckbindung, Rechtsgrundlage, Speicherbegrenzung und der Datenübertragung an Empfangende außerhalb der EU. Das umso mehr, wenn die prompts als Trainingsdaten verwendet werden.
Unabhängig davon: für moralisch vertretbar halte ich es auch nicht.
@AwetTesfaiesus
... und mit "besonders spießen" meine ich in dem Fall, dass es typischerweise rechtlich gesehen nicht in Ordnung sein wird. -
Banale Frage, komplexe Antwort? Liebe #Datenschutz-Nerds:
Angenommen, ich wohne neben Marlis Meier in der Gartenstr. in Stuttgart.
Ich habe zu Marlis keine weiteren Bezug außer, dass ich weiß, dass sie weiß, dass sie eben im Nachbarhaus wohnt. Das weiß ich, weil es mir eine andere Nachbarin erzählt hat.
Ist es (rechtlich und moralisch) zulässig, in ein x-beliebiges LLM (sagen wir ChatGPT) folgendes eintippen:
"Marlis Meier wohnt in der Gartenstr. 3 in Stuttgart"?
Unterstellen wir ruhig: der Prompt wird sicher für Training genutzt
-
Banale Frage, komplexe Antwort? Liebe #Datenschutz-Nerds:
Angenommen, ich wohne neben Marlis Meier in der Gartenstr. in Stuttgart.
Ich habe zu Marlis keine weiteren Bezug außer, dass ich weiß, dass sie weiß, dass sie eben im Nachbarhaus wohnt. Das weiß ich, weil es mir eine andere Nachbarin erzählt hat.
Ist es (rechtlich und moralisch) zulässig, in ein x-beliebiges LLM (sagen wir ChatGPT) folgendes eintippen:
"Marlis Meier wohnt in der Gartenstr. 3 in Stuttgart"?
@AwetTesfaiesus darf ich Marlis Meier in meinen Kontakten speichern? Verbraucher sind von den Pflichten der DSGVO befreit, solange sie die Daten nur für sich privat nutzen.
-
@AwetTesfaiesus Hat sie soziale Medien? Dann hat sich die Frage erledigt.
Umgekehrt was verrät die Frage über mich der KI?
@Skeptiker
Was hat die Antwort auf die Frage damit zu tun, ob die Person soziale Medien nutzt oder nicht?
-
@SuicideSchaf moralisch oder juristisch nein?
@AwetTesfaiesus üff müsst ich zusammensuchen aber beides.
(Bin kein jurist) war glaub ich aber so das es unerlaubte Datenweitergabe und Speicherung ist.
Die Paragraphen dazu kann ich dir aber grad nicht nennen. -
@AwetTesfaiesus Wäre es moralisch, diese Information einer unbekannten, potentiell sehr großen Anzahl von Menschen zugänglich zu machen? Ich finde nein, das kann für die Person potentiell gefährlich werden. Wir leben in einer Zeit, wo wir einander vor Datenmissbrauch schützen müssen, sei es durch Datenhändler etc. oder durch Täter im realen Umfeld.
Da bei einem LLM keine Kontrolle besteht, wo die Daten hingehen, sehe ich da in der moralischen Bewertung keinen Unterschied.
@timstrutzi kannst du unterstellen, dass diese Info nicht ohnehin zugänglich ist? Ich hätte da schon große Zweifel. Immerhin haben alle (!) Parteien Zugriff auf die Meldedaten
-
@Skeptiker
Was hat die Antwort auf die Frage damit zu tun, ob die Person soziale Medien nutzt oder nicht?@r_alb @AwetTesfaiesus gut dass du fragst
KI enttarnt Internetnutzer in wenigen Minuten für nur wenige Dollar
Forscher der ETH Zürich und von Anthropic demonstrieren, dass sich pseudonyme Internetnutzer mit handelsüblichen KI-Modellen für wenige Dollar pro Person identifizieren lassen. Die Ergebnisse stellen grundlegende Annahmen über Online-Anonymität infrage.
The Decoder (the-decoder.de)
-
Banale Frage, komplexe Antwort? Liebe #Datenschutz-Nerds:
Angenommen, ich wohne neben Marlis Meier in der Gartenstr. in Stuttgart.
Ich habe zu Marlis keine weiteren Bezug außer, dass ich weiß, dass sie weiß, dass sie eben im Nachbarhaus wohnt. Das weiß ich, weil es mir eine andere Nachbarin erzählt hat.
Ist es (rechtlich und moralisch) zulässig, in ein x-beliebiges LLM (sagen wir ChatGPT) folgendes eintippen:
"Marlis Meier wohnt in der Gartenstr. 3 in Stuttgart"?
Weiterhin: Name und Hausnummer stehen auch am Haus (Briefkasten, Klingel)
-
@r_alb @AwetTesfaiesus gut dass du fragst
KI enttarnt Internetnutzer in wenigen Minuten für nur wenige Dollar
Forscher der ETH Zürich und von Anthropic demonstrieren, dass sich pseudonyme Internetnutzer mit handelsüblichen KI-Modellen für wenige Dollar pro Person identifizieren lassen. Die Ergebnisse stellen grundlegende Annahmen über Online-Anonymität infrage.
The Decoder (the-decoder.de)
@Skeptiker
Das macht die Frage doch eigentlich nur umso wichtiger, oder? -
Weiterhin: Name und Hausnummer stehen auch am Haus (Briefkasten, Klingel)
@AwetTesfaiesus wie creepy so ein Name an der Haustür sein kann:
Bei Menschen mit türkischem Nachnamen wird gezielt geklingelt um mit ihnen ins gespräch zu kommen.Ok war jetzt nicht Thema
-
Weiterhin: Name und Hausnummer stehen auch am Haus (Briefkasten, Klingel)
@AwetTesfaiesus Also ich bin kein Datenschutznerd, aber ich weiß, dass ich damit ein Problem hätte, wenn das jemand in ein LLM eingibt und es das dann evtl. ausspuckt, wenn jemand danach fragt.
Mein Vorname steht nicht am Briefkasten. Ich bin als Künstler*in in der Öffentlichkeit und weiß, dass ich mich immer mehr zur Zielscheibe mache, je mehr ich mich politisch äußere. Und ich bin sehr vorsichtig damit, dass meine Adresse nicht öffentlich wird. Die letzte Hasswelle hat das nochmal bestätigt. -
Banale Frage, komplexe Antwort? Liebe #Datenschutz-Nerds:
Angenommen, ich wohne neben Marlis Meier in der Gartenstr. in Stuttgart.
Ich habe zu Marlis keine weiteren Bezug außer, dass ich weiß, dass sie weiß, dass sie eben im Nachbarhaus wohnt. Das weiß ich, weil es mir eine andere Nachbarin erzählt hat.
Ist es (rechtlich und moralisch) zulässig, in ein x-beliebiges LLM (sagen wir ChatGPT) folgendes eintippen:
"Marlis Meier wohnt in der Gartenstr. 3 in Stuttgart"?
Nicht-juristische Laienmeinung:
Das beantwortet jetzt nicht direkt die Frage, aber wenn die Firma, die das LLM anbietet, in der EU operiert, dann muss sie sich doch an die DSGVO halten - d.h. persönliche Daten dürfen i.d.R. gar nicht ohne Zustimmung der betroffenen Person gespeichert werden. Die Verantwortung für den Umgang mit pers. Daten würde ich in erster Linie an deren Ende suchen, nicht beim User.
-
@AwetTesfaiesus Hat sie soziale Medien? Dann hat sich die Frage erledigt.
Umgekehrt was verrät die Frage über mich der KI?
@Skeptiker Was zählt für Dich zu „Soziale Medien“? Das hier? Oder nur die „bösen“? @AwetTesfaiesus
-
@AwetTesfaiesus Also ich bin kein Datenschutznerd, aber ich weiß, dass ich damit ein Problem hätte, wenn das jemand in ein LLM eingibt und es das dann evtl. ausspuckt, wenn jemand danach fragt.
Mein Vorname steht nicht am Briefkasten. Ich bin als Künstler*in in der Öffentlichkeit und weiß, dass ich mich immer mehr zur Zielscheibe mache, je mehr ich mich politisch äußere. Und ich bin sehr vorsichtig damit, dass meine Adresse nicht öffentlich wird. Die letzte Hasswelle hat das nochmal bestätigt.@mashapotempa @AwetTesfaiesus das erinnert mich an dieses Ding mit den anonymisierten Klingelschildern in Österreich nach Einführung der DSGVO . keine Ahnung ob das noch so ist
-
@timstrutzi kannst du unterstellen, dass diese Info nicht ohnehin zugänglich ist? Ich hätte da schon große Zweifel. Immerhin haben alle (!) Parteien Zugriff auf die Meldedaten
@AwetTesfaiesus @timstrutzi Auch wenn man der Weitergabe explizit auf dem Amt widersprochen hat?
-
@timstrutzi kannst du unterstellen, dass diese Info nicht ohnehin zugänglich ist? Ich hätte da schon große Zweifel. Immerhin haben alle (!) Parteien Zugriff auf die Meldedaten
@AwetTesfaiesus Das sehe ich auch kritisch. An Parteien werden die Meldedaten aber nur zeitlich beschränkt herausgegeben. Und dann hat auch erstmal nur eine Partei die Daten, sie sind noch nicht öffentlich. Damit diese jetzt an irgendeinen bad actor gelangen ist noch mindestens eine Datenweitergabe durch die Partei nötig. Und da habe ich natürlich auch rechtliche und moralische Erwartungen, dass das nur sehr beschränkt und datenminimierend geschieht.
Bei einem LLM gibt es diese Kontrolle nicht, die Daten liegen sofort auf dem Server eines US Unternehmens und seinen 537 Partnern. Was die und die US-Behörden damit machen entzieht sich sofort unserer Kontrolle.
Meine eigenen Meldedaten sind übrigens gesperrt, die dürfen nicht für solche Zwecke herausgegeben werden.
-
@AwetTesfaiesus Hat sie soziale Medien? Dann hat sich die Frage erledigt.
Umgekehrt was verrät die Frage über mich der KI?
Was Marlies selbst wem übermittelt, ist ihre Entscheidung und hat wenig damit zu tun, was andere übermitteln.
(Theorie und Praxis. De fakto kann man seine Telefonnummer niemanden mehr geben, weil sie mit nahezu 100%ihre Wahrscheinlichkeit an Meta in Gestalt von WhatsApp übermittelt wird.)
-
Banale Frage, komplexe Antwort? Liebe #Datenschutz-Nerds:
Angenommen, ich wohne neben Marlis Meier in der Gartenstr. in Stuttgart.
Ich habe zu Marlis keine weiteren Bezug außer, dass ich weiß, dass sie weiß, dass sie eben im Nachbarhaus wohnt. Das weiß ich, weil es mir eine andere Nachbarin erzählt hat.
Ist es (rechtlich und moralisch) zulässig, in ein x-beliebiges LLM (sagen wir ChatGPT) folgendes eintippen:
"Marlis Meier wohnt in der Gartenstr. 3 in Stuttgart"?
-
@AwetTesfaiesus Wenn es auch am Briefkasten steht, dann dürfte es eine öffentlich zugängliche Information sein
Nach der Argumentation wäre auch Doxxing kein Problem
-
@Skeptiker
Das macht die Frage doch eigentlich nur umso wichtiger, oder?Wahrscheinlich
Aber vermutlich hat sich das Thema erledigt
