Banale Frage, komplexe Antwort?
-
Banale Frage, komplexe Antwort? Liebe #Datenschutz-Nerds:
Angenommen, ich wohne neben Marlis Meier in der Gartenstr. in Stuttgart.
Ich habe zu Marlis keine weiteren Bezug außer, dass ich weiß, dass sie weiß, dass sie eben im Nachbarhaus wohnt. Das weiß ich, weil es mir eine andere Nachbarin erzählt hat.
Ist es (rechtlich und moralisch) zulässig, in ein x-beliebiges LLM (sagen wir ChatGPT) folgendes eintippen:
"Marlis Meier wohnt in der Gartenstr. 3 in Stuttgart"?
@AwetTesfaiesus Wenn es auch am Briefkasten steht, dann dürfte es eine öffentlich zugängliche Information sein

-
Banale Frage, komplexe Antwort? Liebe #Datenschutz-Nerds:
Angenommen, ich wohne neben Marlis Meier in der Gartenstr. in Stuttgart.
Ich habe zu Marlis keine weiteren Bezug außer, dass ich weiß, dass sie weiß, dass sie eben im Nachbarhaus wohnt. Das weiß ich, weil es mir eine andere Nachbarin erzählt hat.
Ist es (rechtlich und moralisch) zulässig, in ein x-beliebiges LLM (sagen wir ChatGPT) folgendes eintippen:
"Marlis Meier wohnt in der Gartenstr. 3 in Stuttgart"?
@AwetTesfaiesus NEIN ist es nicht
-
@AwetTesfaiesus nein zumindest moralisch
Und der Teil ist auch nicht komplex
@sequundi und juristisch?
-
Banale Frage, komplexe Antwort? Liebe #Datenschutz-Nerds:
Angenommen, ich wohne neben Marlis Meier in der Gartenstr. in Stuttgart.
Ich habe zu Marlis keine weiteren Bezug außer, dass ich weiß, dass sie weiß, dass sie eben im Nachbarhaus wohnt. Das weiß ich, weil es mir eine andere Nachbarin erzählt hat.
Ist es (rechtlich und moralisch) zulässig, in ein x-beliebiges LLM (sagen wir ChatGPT) folgendes eintippen:
"Marlis Meier wohnt in der Gartenstr. 3 in Stuttgart"?
@AwetTesfaiesus
IMO greift die Haushaltsausnahme von der DSGVO schon mangels Verbindung zu der anderen Person nicht. Also gilt die DSGVO und es stellen sich alle wichtigen Datenschutz-Fragen.Besonders spießen wird es bei Fairness, Transparenz, Zweckbindung, Rechtsgrundlage, Speicherbegrenzung und der Datenübertragung an Empfangende außerhalb der EU. Das umso mehr, wenn die prompts als Trainingsdaten verwendet werden.
Unabhängig davon: für moralisch vertretbar halte ich es auch nicht.
-
Banale Frage, komplexe Antwort? Liebe #Datenschutz-Nerds:
Angenommen, ich wohne neben Marlis Meier in der Gartenstr. in Stuttgart.
Ich habe zu Marlis keine weiteren Bezug außer, dass ich weiß, dass sie weiß, dass sie eben im Nachbarhaus wohnt. Das weiß ich, weil es mir eine andere Nachbarin erzählt hat.
Ist es (rechtlich und moralisch) zulässig, in ein x-beliebiges LLM (sagen wir ChatGPT) folgendes eintippen:
"Marlis Meier wohnt in der Gartenstr. 3 in Stuttgart"?
@AwetTesfaiesus Spannend.
Das letzte Mal, dass ich es gecheckt habe, wurden einzelne User-Interaktionen nicht zum Training verwendet, wäre das Preisgeben dieser Information in einem ChatGPT-Dialog also nicht _so_ kritisch gewesen.
Umgekehrt wäre es natürlich nicht nur kritisch, die Information in einer Unterhaltung preiszugeben, sondern in jedem Kontext, in dem es irgendwie bei einem Unternehmen landet, dass sich irgendwo in seinen Terms and Conditions vorbehält, die Daten zum Training von LLMs zu verwenden.
Darfst es dann also eigentlich auch nicht in eine hundsgewöhnliche Word-Datei schreiben, ohne vorher zu checken, ob es per OneDrive bei Microsoft landet und ob sie mit der Enshittification schon so weit fortgeschritten sind, dass es in einem Trainings-Set landen könnte.
-
@AwetTesfaiesus Ich verstehe die letzte Zeile nicht:
Soll das eine Frage sein an die LLM oder möchtest du die LLM mit dieser Info füttern. Also, was ist dein Anwendungsfall?
@dnkrupinski egal. Es ist schlicht Teil eines Prompts
-
@AwetTesfaiesus NEIN ist es nicht
@SuicideSchaf moralisch oder juristisch nein?
-
Banale Frage, komplexe Antwort? Liebe #Datenschutz-Nerds:
Angenommen, ich wohne neben Marlis Meier in der Gartenstr. in Stuttgart.
Ich habe zu Marlis keine weiteren Bezug außer, dass ich weiß, dass sie weiß, dass sie eben im Nachbarhaus wohnt. Das weiß ich, weil es mir eine andere Nachbarin erzählt hat.
Ist es (rechtlich und moralisch) zulässig, in ein x-beliebiges LLM (sagen wir ChatGPT) folgendes eintippen:
"Marlis Meier wohnt in der Gartenstr. 3 in Stuttgart"?
@AwetTesfaiesus Wäre es moralisch, diese Information einer unbekannten, potentiell sehr großen Anzahl von Menschen zugänglich zu machen? Ich finde nein, das kann für die Person potentiell gefährlich werden. Wir leben in einer Zeit, wo wir einander vor Datenmissbrauch schützen müssen, sei es durch Datenhändler etc. oder durch Täter im realen Umfeld.
Da bei einem LLM keine Kontrolle besteht, wo die Daten hingehen, sehe ich da in der moralischen Bewertung keinen Unterschied.
-
Banale Frage, komplexe Antwort? Liebe #Datenschutz-Nerds:
Angenommen, ich wohne neben Marlis Meier in der Gartenstr. in Stuttgart.
Ich habe zu Marlis keine weiteren Bezug außer, dass ich weiß, dass sie weiß, dass sie eben im Nachbarhaus wohnt. Das weiß ich, weil es mir eine andere Nachbarin erzählt hat.
Ist es (rechtlich und moralisch) zulässig, in ein x-beliebiges LLM (sagen wir ChatGPT) folgendes eintippen:
"Marlis Meier wohnt in der Gartenstr. 3 in Stuttgart"?
@AwetTesfaiesus Hat sie soziale Medien? Dann hat sich die Frage erledigt.
Umgekehrt was verrät die Frage über mich der KI?
-
@dnkrupinski egal. Es ist schlicht Teil eines Prompts
@AwetTesfaiesus Dann hoffe ich, es werden dir andere helfen können.
-
@AwetTesfaiesus
IMO greift die Haushaltsausnahme von der DSGVO schon mangels Verbindung zu der anderen Person nicht. Also gilt die DSGVO und es stellen sich alle wichtigen Datenschutz-Fragen.Besonders spießen wird es bei Fairness, Transparenz, Zweckbindung, Rechtsgrundlage, Speicherbegrenzung und der Datenübertragung an Empfangende außerhalb der EU. Das umso mehr, wenn die prompts als Trainingsdaten verwendet werden.
Unabhängig davon: für moralisch vertretbar halte ich es auch nicht.
@AwetTesfaiesus
... und mit "besonders spießen" meine ich in dem Fall, dass es typischerweise rechtlich gesehen nicht in Ordnung sein wird. -
Banale Frage, komplexe Antwort? Liebe #Datenschutz-Nerds:
Angenommen, ich wohne neben Marlis Meier in der Gartenstr. in Stuttgart.
Ich habe zu Marlis keine weiteren Bezug außer, dass ich weiß, dass sie weiß, dass sie eben im Nachbarhaus wohnt. Das weiß ich, weil es mir eine andere Nachbarin erzählt hat.
Ist es (rechtlich und moralisch) zulässig, in ein x-beliebiges LLM (sagen wir ChatGPT) folgendes eintippen:
"Marlis Meier wohnt in der Gartenstr. 3 in Stuttgart"?
Unterstellen wir ruhig: der Prompt wird sicher für Training genutzt
-
Banale Frage, komplexe Antwort? Liebe #Datenschutz-Nerds:
Angenommen, ich wohne neben Marlis Meier in der Gartenstr. in Stuttgart.
Ich habe zu Marlis keine weiteren Bezug außer, dass ich weiß, dass sie weiß, dass sie eben im Nachbarhaus wohnt. Das weiß ich, weil es mir eine andere Nachbarin erzählt hat.
Ist es (rechtlich und moralisch) zulässig, in ein x-beliebiges LLM (sagen wir ChatGPT) folgendes eintippen:
"Marlis Meier wohnt in der Gartenstr. 3 in Stuttgart"?
@AwetTesfaiesus darf ich Marlis Meier in meinen Kontakten speichern? Verbraucher sind von den Pflichten der DSGVO befreit, solange sie die Daten nur für sich privat nutzen.
-
@AwetTesfaiesus Hat sie soziale Medien? Dann hat sich die Frage erledigt.
Umgekehrt was verrät die Frage über mich der KI?
@Skeptiker
Was hat die Antwort auf die Frage damit zu tun, ob die Person soziale Medien nutzt oder nicht?
-
@SuicideSchaf moralisch oder juristisch nein?
@AwetTesfaiesus üff müsst ich zusammensuchen aber beides.
(Bin kein jurist) war glaub ich aber so das es unerlaubte Datenweitergabe und Speicherung ist.
Die Paragraphen dazu kann ich dir aber grad nicht nennen. -
@AwetTesfaiesus Wäre es moralisch, diese Information einer unbekannten, potentiell sehr großen Anzahl von Menschen zugänglich zu machen? Ich finde nein, das kann für die Person potentiell gefährlich werden. Wir leben in einer Zeit, wo wir einander vor Datenmissbrauch schützen müssen, sei es durch Datenhändler etc. oder durch Täter im realen Umfeld.
Da bei einem LLM keine Kontrolle besteht, wo die Daten hingehen, sehe ich da in der moralischen Bewertung keinen Unterschied.
@timstrutzi kannst du unterstellen, dass diese Info nicht ohnehin zugänglich ist? Ich hätte da schon große Zweifel. Immerhin haben alle (!) Parteien Zugriff auf die Meldedaten
-
@Skeptiker
Was hat die Antwort auf die Frage damit zu tun, ob die Person soziale Medien nutzt oder nicht?
@r_alb @AwetTesfaiesus gut dass du fragst
KI enttarnt Internetnutzer in wenigen Minuten für nur wenige Dollar
Forscher der ETH Zürich und von Anthropic demonstrieren, dass sich pseudonyme Internetnutzer mit handelsüblichen KI-Modellen für wenige Dollar pro Person identifizieren lassen. Die Ergebnisse stellen grundlegende Annahmen über Online-Anonymität infrage.
The Decoder (the-decoder.de)
-
Banale Frage, komplexe Antwort? Liebe #Datenschutz-Nerds:
Angenommen, ich wohne neben Marlis Meier in der Gartenstr. in Stuttgart.
Ich habe zu Marlis keine weiteren Bezug außer, dass ich weiß, dass sie weiß, dass sie eben im Nachbarhaus wohnt. Das weiß ich, weil es mir eine andere Nachbarin erzählt hat.
Ist es (rechtlich und moralisch) zulässig, in ein x-beliebiges LLM (sagen wir ChatGPT) folgendes eintippen:
"Marlis Meier wohnt in der Gartenstr. 3 in Stuttgart"?
Weiterhin: Name und Hausnummer stehen auch am Haus (Briefkasten, Klingel)
-
@r_alb @AwetTesfaiesus gut dass du fragst
KI enttarnt Internetnutzer in wenigen Minuten für nur wenige Dollar
Forscher der ETH Zürich und von Anthropic demonstrieren, dass sich pseudonyme Internetnutzer mit handelsüblichen KI-Modellen für wenige Dollar pro Person identifizieren lassen. Die Ergebnisse stellen grundlegende Annahmen über Online-Anonymität infrage.
The Decoder (the-decoder.de)
@Skeptiker
Das macht die Frage doch eigentlich nur umso wichtiger, oder? -
Weiterhin: Name und Hausnummer stehen auch am Haus (Briefkasten, Klingel)
@AwetTesfaiesus wie creepy so ein Name an der Haustür sein kann:
Bei Menschen mit türkischem Nachnamen wird gezielt geklingelt um mit ihnen ins gespräch zu kommen.Ok war jetzt nicht Thema