Banale Frage, komplexe Antwort?
-
Nach der Argumentation wäre auch Doxxing kein Problem
@jonasgraphie @AwetTesfaiesus wenn mir die Nachbarin erzählt hätte, dass Marlis Meier 5 mal in der Schule sitzen geblieben ist, und ich gebe das in die KI ein, dann wäre es das
-
@sequundi und juristisch?
@AwetTesfaiesus bin kein Anwalt.
(Deswegen kann ich ja nur moralisch antworten
) -
Banale Frage, komplexe Antwort? Liebe #Datenschutz-Nerds:
Angenommen, ich wohne neben Marlis Meier in der Gartenstr. in Stuttgart.
Ich habe zu Marlis keine weiteren Bezug außer, dass ich weiß, dass sie weiß, dass sie eben im Nachbarhaus wohnt. Das weiß ich, weil es mir eine andere Nachbarin erzählt hat.
Ist es (rechtlich und moralisch) zulässig, in ein x-beliebiges LLM (sagen wir ChatGPT) folgendes eintippen:
"Marlis Meier wohnt in der Gartenstr. 3 in Stuttgart"?
ad 1) Ich bin kein Jurist, aber mein juristisches Bauchgefühl sagt nein, es ist nicht illegal. Name und Anschrift sind bei den meisten Personen keine besonders geschützten Daten und ChatGPT könnte sie auch direkt bei den Meldeämtern kaufen. Wobei ich als Laie nicht wissen kann, ob nicht ausgerechnet Marlis Meier einer Weitergabesperre unterliegt, und ich dann doch etwas auch juristisch bedenkliches täte.
ad 2) Ja, ich finde das moralisch falsch.
1/2 -
ad 1) Ich bin kein Jurist, aber mein juristisches Bauchgefühl sagt nein, es ist nicht illegal. Name und Anschrift sind bei den meisten Personen keine besonders geschützten Daten und ChatGPT könnte sie auch direkt bei den Meldeämtern kaufen. Wobei ich als Laie nicht wissen kann, ob nicht ausgerechnet Marlis Meier einer Weitergabesperre unterliegt, und ich dann doch etwas auch juristisch bedenkliches täte.
ad 2) Ja, ich finde das moralisch falsch.
1/2Erstens macht man sich zum kostenlosen Dateneingeber für das LLM. Zweitens gehört es sich einfach nicht, personenbezogene Daten von Dritten weiterzugeben. Zum dritten kriegt das LLM in Wirklichkeit weitaus mehr an Daten als nur die Anschrift von Marlis Meier: Es weiß, wer (jedenfalls ungefähr, bei Login sogar genau) sich zu welchem Zeitpunkt und von welcher IP aus sich in irgendeiner Weise mit Marlies Meier beschäftigt hat. Nein.
-
Weiterhin: Name und Hausnummer stehen auch am Haus (Briefkasten, Klingel)
Der Prompt ist nichts anderes als eine Abfrage in einer Suchmaschine.
Wenn die Daten öffentlich zugänglich sind, dann kann jede Person diese Daten erfragen.
Der wichtige Punkt ist also, ob diese Information prinzipiell öffentlich verfügbar ist. Vergleichbar mit der Panoramaregelung bei Fotografie.
Wenn eine als vertraulich eingestufte Information ohne Genehmigung veröffentlicht wurde, liegt wohl eine Straftat vor. Durch denjenigen, der die Information öffentlich gemacht hat. -
@lennybacon Was ist mit diesem Beispiel?
Guy Bockamp (@guy_bockamp@mastodon.social)
@AwetTesfaiesus Ich finde die Frage auf den 1. Blick simpel aber auf den 2. krass kompliziert, weil sich die Frage nach Sinn und Zweck schon aufdrängt (ich weiß schon: Zweckbindung und keine Verschiebung, etc.) Wandeln wir den SV etwas ab: Jemand ist blind und bekommt von Marlis (mit Abdsenderadr.) Post und LLM lässt sich das von ChatGPT vorlesen (mit als häufiger Fall bekannt)?
Mastodon (mastodon.social)
Es besteht nicht der geringste Grund, dass Vorlesetechnik für Blinde alle Texte an einen Server irgendwo in der Welt schickt, wo sie für immer gespeichert und ausgewertet werden. Diese Beispiele werden mit böser Absicht konstruiert, um zu suggerieren, dass das Ganze für bestimmte Personen einfach notwendig wäre, und dass man dann ja gar nichts mehr machen könnte.
-
Banale Frage, komplexe Antwort? Liebe #Datenschutz-Nerds:
Angenommen, ich wohne neben Marlis Meier in der Gartenstr. in Stuttgart.
Ich habe zu Marlis keine weiteren Bezug außer, dass ich weiß, dass sie weiß, dass sie eben im Nachbarhaus wohnt. Das weiß ich, weil es mir eine andere Nachbarin erzählt hat.
Ist es (rechtlich und moralisch) zulässig, in ein x-beliebiges LLM (sagen wir ChatGPT) folgendes eintippen:
"Marlis Meier wohnt in der Gartenstr. 3 in Stuttgart"?
@AwetTesfaiesus
Unterscheidet sich die Frage eigentlich, wenn ich die Daten in eine Suchmaschine eingebe, damit mit das auf einer Karte angezeigt wird? Google verarbeitet und speichert auch Suchanfragen. -
Es besteht nicht der geringste Grund, dass Vorlesetechnik für Blinde alle Texte an einen Server irgendwo in der Welt schickt, wo sie für immer gespeichert und ausgewertet werden. Diese Beispiele werden mit böser Absicht konstruiert, um zu suggerieren, dass das Ganze für bestimmte Personen einfach notwendig wäre, und dass man dann ja gar nichts mehr machen könnte.
@jk @AwetTesfaiesus @lennybacon
Das ist wirklich absolut nicht konstruiert sondern total Alltag.
Die Navigation im Raum ändert sich fundamental!
Barrierefreiheit - So hilft die künstliche Intelligenz
Fortschritte in der Künstlichen Intelligenz bieten auch für sehbehinderte und blinde Menschen neue Möglichkeiten. Sprachmodelle beschreiben die Umgebung.
Deutschlandfunk Kultur (www.deutschlandfunkkultur.de)
KI und Inklusion - Wie KI-Systeme Menschen mit Behinderungen unterstützen
KI-Werkzeuge können das Leben von Menschen mit Behinderungen erleichtern. Künstliche Intelligenz kann aber auch für mehr Ausgrenzung und Ungleichheit sorgen.
Deutschlandfunk (www.deutschlandfunk.de)
-
@AwetTesfaiesus
Habe kürzlich erfahren, dass Professoren meinen Namen in ChatGPT eingegeben haben, um das Teil zu fragen, ob ich wohl für eine bestimmte Projektleitung gut geeignet wäre.
Das waren Menschen, die mich und meinen gesamten Werdegang kennen, bzw. einfach erfragen könnten.
Regt mich immer noch auf.Schade das Du kein Fake Profil, falsche Angaben, Dummstuss etc. ins Netz gelegt hast.
Gerade weil die dich kennen hätten die gemerkt das die #LLM nur Müll abgibt.
-
Weiterhin: Name und Hausnummer stehen auch am Haus (Briefkasten, Klingel)
@AwetTesfaiesus Ja, das ist für mich wieder das Free-Refill-Thema.
McDonalds bietet unbegrenzten Free Refill.
Ist es okay, sich zweimal zu trinken zu holen? Ja.
Ist es okay, sich nen halben Nachmittag zum Zeichnen reinzusetzen und immer mal wieder was nachzuholen? Auch eher ja.
Ist es okay, mit dem Tanklaster vorzufahren? Ähhh, nein.Also Dinge können in "haushaltsüblichen Mengen" okay sein und trotzdem im Extremfall ein Problem.
-
Nicht-juristische Laienmeinung:
Das beantwortet jetzt nicht direkt die Frage, aber wenn die Firma, die das LLM anbietet, in der EU operiert, dann muss sie sich doch an die DSGVO halten - d.h. persönliche Daten dürfen i.d.R. gar nicht ohne Zustimmung der betroffenen Person gespeichert werden. Die Verantwortung für den Umgang mit pers. Daten würde ich in erster Linie an deren Ende suchen, nicht beim User.
Würden sich Llm Firmen, wie Open AI an Gesetze halten, dann würden sie gar nicht funktionieren.
Sie verstoßen schon beim Training permanent und auch unter Einsatz von Hacker Methoden gegen das Copyright Recht und es wird vom Gesetzgeber geduldet, weil die Geld bringen.Klagen haben schon erfolglos versucht, die Konzerne zur Offenlegung des Tariningsdatenmaterials zu zwingen.
-
@jk @AwetTesfaiesus @lennybacon
Das ist wirklich absolut nicht konstruiert sondern total Alltag.
Die Navigation im Raum ändert sich fundamental!
Barrierefreiheit - So hilft die künstliche Intelligenz
Fortschritte in der Künstlichen Intelligenz bieten auch für sehbehinderte und blinde Menschen neue Möglichkeiten. Sprachmodelle beschreiben die Umgebung.
Deutschlandfunk Kultur (www.deutschlandfunkkultur.de)
KI und Inklusion - Wie KI-Systeme Menschen mit Behinderungen unterstützen
KI-Werkzeuge können das Leben von Menschen mit Behinderungen erleichtern. Künstliche Intelligenz kann aber auch für mehr Ausgrenzung und Ungleichheit sorgen.
Deutschlandfunk (www.deutschlandfunk.de)
@guy_bockamp @jk @AwetTesfaiesus Wirklich so gut wie jede*r wirft alle mögliche Scheiße in LLMs die bei Providers laufen. Die dümmsten Fragen. Unter anderem weil die Medien da ganz toll animieren „Probier es doch auch mal“. Datenschutzrechtliche, Ökologische oder überhaupt irgendwelche Bedenken - leider Fehlanzeige.
LLM nur da wo sie Algorithmen gegenüber sinnvoll genutzt werden.
Lokale Modelle sind immer vorzuziehen. -
@timstrutzi kannst du unterstellen, dass diese Info nicht ohnehin zugänglich ist? Ich hätte da schon große Zweifel. Immerhin haben alle (!) Parteien Zugriff auf die Meldedaten
@AwetTesfaiesus
Du unterstellst, dass Marlies Meier das Meldegesetz nicht kennt und davon keinen Gebrauch macht. -
Banale Frage, komplexe Antwort? Liebe #Datenschutz-Nerds:
Angenommen, ich wohne neben Marlis Meier in der Gartenstr. in Stuttgart.
Ich habe zu Marlis keine weiteren Bezug außer, dass ich weiß, dass sie weiß, dass sie eben im Nachbarhaus wohnt. Das weiß ich, weil es mir eine andere Nachbarin erzählt hat.
Ist es (rechtlich und moralisch) zulässig, in ein x-beliebiges LLM (sagen wir ChatGPT) folgendes eintippen:
"Marlis Meier wohnt in der Gartenstr. 3 in Stuttgart"?
@AwetTesfaiesus Juristisch hängt es von der DSGVO ab, die ja nur für Unternehmen einschlägig ist. Macht man das als Unternehmer, muss man die Marlis Meier darüber informieren etc. Außerdem ist es ein Fall von Auftragsdatenverarbeitung, für den man mit dem LLM erst eine genaue Vereinbarung treffen müsste.
Fazit: Sehr wahrscheinlich ist es verboten.
Moralisch denke ich, dass die LLM das eh schon weiß, falls die Marlies im Telefonbuch steht. Falls nicht wäre es halt so ähnlich ... 1/2
-
@AwetTesfaiesus Juristisch hängt es von der DSGVO ab, die ja nur für Unternehmen einschlägig ist. Macht man das als Unternehmer, muss man die Marlis Meier darüber informieren etc. Außerdem ist es ein Fall von Auftragsdatenverarbeitung, für den man mit dem LLM erst eine genaue Vereinbarung treffen müsste.
Fazit: Sehr wahrscheinlich ist es verboten.
Moralisch denke ich, dass die LLM das eh schon weiß, falls die Marlies im Telefonbuch steht. Falls nicht wäre es halt so ähnlich ... 1/2
@AwetTesfaiesus ... wie wenn man z.B. das Foto eines Fremden in Social Media veröffentlicht. Er sollte schon einverstanden sein, denke ich 2/2
-
Der Prompt ist nichts anderes als eine Abfrage in einer Suchmaschine.
Wenn die Daten öffentlich zugänglich sind, dann kann jede Person diese Daten erfragen.
Der wichtige Punkt ist also, ob diese Information prinzipiell öffentlich verfügbar ist. Vergleichbar mit der Panoramaregelung bei Fotografie.
Wenn eine als vertraulich eingestufte Information ohne Genehmigung veröffentlicht wurde, liegt wohl eine Straftat vor. Durch denjenigen, der die Information öffentlich gemacht hat.@_RyekDarkener_ @AwetTesfaiesus Es geht in der Frage ja darum dass die Informationen aus dem Prompt potenziell in den Datensatz aus dem LLM fliessen kann. Und wie die Anbieter gewährleisten dass keine personengebundenen Daten aus Suchanfragen gespeichert werden.
-
@AwetTesfaiesus
IMO greift die Haushaltsausnahme von der DSGVO schon mangels Verbindung zu der anderen Person nicht. Also gilt die DSGVO und es stellen sich alle wichtigen Datenschutz-Fragen.Besonders spießen wird es bei Fairness, Transparenz, Zweckbindung, Rechtsgrundlage, Speicherbegrenzung und der Datenübertragung an Empfangende außerhalb der EU. Das umso mehr, wenn die prompts als Trainingsdaten verwendet werden.
Unabhängig davon: für moralisch vertretbar halte ich es auch nicht.
@r_alb @AwetTesfaiesus greift die DSGVO hier überhaupt?
Art. 2 DSGVO definiert unter
(2) Diese Verordnung findet keine Anwendung auf die Verarbeitung personenbezogener Daten
c) durch natürliche Personen zur Ausübung ausschließlich persönlicher oder familiärer Tätigkeiten,”Ausübung ausschließlich persönlicher Tätigkeiten“ müsste in dem genannten Szenario doch zutreffen?
-
@_RyekDarkener_ @AwetTesfaiesus Es geht in der Frage ja darum dass die Informationen aus dem Prompt potenziell in den Datensatz aus dem LLM fliessen kann. Und wie die Anbieter gewährleisten dass keine personengebundenen Daten aus Suchanfragen gespeichert werden.
Ein LLM verwaltet: Token. Und erstellt darauf basierend eine plausibel klingende Antwort.
Wenn LLMs Zugang zu strukturierten Datensätzen haben, dann können sie damit arbeiten – wie jedes andere Programm auch, was Zugang zu diesen Daten hat. Diese sind aber nicht Teil des Sprachmodells selbst.
Somit ist die Frage an sich schon falsch gestellt.
Noch einmal: JEDES Programm, dass Zugriff auf Daten hat, kann mit diesen arbeiten. Das Problem ist nicht das Programm. -
@guy_bockamp @jk @AwetTesfaiesus Wirklich so gut wie jede*r wirft alle mögliche Scheiße in LLMs die bei Providers laufen. Die dümmsten Fragen. Unter anderem weil die Medien da ganz toll animieren „Probier es doch auch mal“. Datenschutzrechtliche, Ökologische oder überhaupt irgendwelche Bedenken - leider Fehlanzeige.
LLM nur da wo sie Algorithmen gegenüber sinnvoll genutzt werden.
Lokale Modelle sind immer vorzuziehen.@lennybacon @jk @AwetTesfaiesus Sehe ich ähnlich.
Aber die Frage ist, ob der Regulierungsrahmen der DSGVO noch sinntragend ist
-
Banale Frage, komplexe Antwort? Liebe #Datenschutz-Nerds:
Angenommen, ich wohne neben Marlis Meier in der Gartenstr. in Stuttgart.
Ich habe zu Marlis keine weiteren Bezug außer, dass ich weiß, dass sie weiß, dass sie eben im Nachbarhaus wohnt. Das weiß ich, weil es mir eine andere Nachbarin erzählt hat.
Ist es (rechtlich und moralisch) zulässig, in ein x-beliebiges LLM (sagen wir ChatGPT) folgendes eintippen:
"Marlis Meier wohnt in der Gartenstr. 3 in Stuttgart"?
@AwetTesfaiesus Kann man bei deinen Angaben aus meiner Sicht nicht valide beurteilen.
Einfach mal auf der folgenden Seite nach Purpose suchen:
https://gdpr-info.eu/art-5-gdpr/Anders gesagt: Du brauchst einen »Zweck«, warum du diese personenbezogenen Daten verarbeitest. Nach deinen Angaben hast Du aber keinen = Nicht zulässig.
