Banale Frage, komplexe Antwort?

[jk@nfdi.social]

@AwetTesfaiesus

ad 1) Ich bin kein Jurist, aber mein juristisches Bauchgefühl sagt nein, es ist nicht illegal. Name und Anschrift sind bei den meisten Personen keine besonders geschützten Daten und ChatGPT könnte sie auch direkt bei den Meldeämtern kaufen. Wobei ich als Laie nicht wissen kann, ob nicht ausgerechnet Marlis Meier einer Weitergabesperre unterliegt, und ich dann doch etwas auch juristisch bedenkliches täte.

ad 2) Ja, ich finde das moralisch falsch.
1/2

[jk@nfdi.social]

@AwetTesfaiesus

Erstens macht man sich zum kostenlosen Dateneingeber für das LLM. Zweitens gehört es sich einfach nicht, personenbezogene Daten von Dritten weiterzugeben. Zum dritten kriegt das LLM in Wirklichkeit weitaus mehr an Daten als nur die Anschrift von Marlis Meier: Es weiß, wer (jedenfalls ungefähr, bei Login sogar genau) sich zu welchem Zeitpunkt und von welcher IP aus sich in irgendeiner Weise mit Marlies Meier beschäftigt hat. Nein.

[_ryekdarkener_@mastodon.social]

@AwetTesfaiesus

Der Prompt ist nichts anderes als eine Abfrage in einer Suchmaschine.
Wenn die Daten öffentlich zugänglich sind, dann kann jede Person diese Daten erfragen.
Der wichtige Punkt ist also, ob diese Information prinzipiell öffentlich verfügbar ist. Vergleichbar mit der Panoramaregelung bei Fotografie.
Wenn eine als vertraulich eingestufte Information ohne Genehmigung veröffentlicht wurde, liegt wohl eine Straftat vor. Durch denjenigen, der die Information öffentlich gemacht hat.

[jk@nfdi.social]

@AwetTesfaiesus @lennybacon

Es besteht nicht der geringste Grund, dass Vorlesetechnik für Blinde alle Texte an einen Server irgendwo in der Welt schickt, wo sie für immer gespeichert und ausgewertet werden. Diese Beispiele werden mit böser Absicht konstruiert, um zu suggerieren, dass das Ganze für bestimmte Personen einfach notwendig wäre, und dass man dann ja gar nichts mehr machen könnte.

[beandev@social.tchncs.de]

@AwetTesfaiesus
Unterscheidet sich die Frage eigentlich, wenn ich die Daten in eine Suchmaschine eingebe, damit mit das auf einer Karte angezeigt wird? Google verarbeitet und speichert auch Suchanfragen.

[guy_bockamp@mastodon.social]

@jk @AwetTesfaiesus @lennybacon

Das ist wirklich absolut nicht konstruiert sondern total Alltag.

Die Navigation im Raum ändert sich fundamental!

Barrierefreiheit - So hilft die künstliche Intelligenz

Fortschritte in der Künstlichen Intelligenz bieten auch für sehbehinderte und blinde Menschen neue Möglichkeiten. Sprachmodelle beschreiben die Umgebung.

Deutschlandfunk Kultur (www.deutschlandfunkkultur.de)

KI und Inklusion - Wie KI-Systeme Menschen mit Behinderungen unterstützen

KI-Werkzeuge können das Leben von Menschen mit Behinderungen erleichtern. Künstliche Intelligenz kann aber auch für mehr Ausgrenzung und Ungleichheit sorgen.

Deutschlandfunk (www.deutschlandfunk.de)

[maexchen1@nrw.social]

@Kadsenchaos @AwetTesfaiesus

Schade das Du kein Fake Profil, falsche Angaben, Dummstuss etc. ins Netz gelegt hast.

Gerade weil die dich kennen hätten die gemerkt das die #LLM nur Müll abgibt.

[teskariel@mastodon.pnpde.social]

@AwetTesfaiesus Ja, das ist für mich wieder das Free-Refill-Thema.

McDonalds bietet unbegrenzten Free Refill.
Ist es okay, sich zweimal zu trinken zu holen? Ja.
Ist es okay, sich nen halben Nachmittag zum Zeichnen reinzusetzen und immer mal wieder was nachzuholen? Auch eher ja.
Ist es okay, mit dem Tanklaster vorzufahren? Ähhh, nein.

Also Dinge können in "haushaltsüblichen Mengen" okay sein und trotzdem im Extremfall ein Problem.

[v_d_richards@literatur.social]

@HansZauner @AwetTesfaiesus

Würden sich Llm Firmen, wie Open AI an Gesetze halten, dann würden sie gar nicht funktionieren.
Sie verstoßen schon beim Training permanent und auch unter Einsatz von Hacker Methoden gegen das Copyright Recht und es wird vom Gesetzgeber geduldet, weil die Geld bringen.

Klagen haben schon erfolglos versucht, die Konzerne zur Offenlegung des Tariningsdatenmaterials zu zwingen.

[lennybacon@infosec.exchange]

@guy_bockamp @jk @AwetTesfaiesus Wirklich so gut wie jede*r wirft alle mögliche Scheiße in LLMs die bei Providers laufen. Die dümmsten Fragen. Unter anderem weil die Medien da ganz toll animieren „Probier es doch auch mal“. Datenschutzrechtliche, Ökologische oder überhaupt irgendwelche Bedenken - leider Fehlanzeige.

LLM nur da wo sie Algorithmen gegenüber sinnvoll genutzt werden.
Lokale Modelle sind immer vorzuziehen.

[halbwach@wandzeitung.xyz]

@AwetTesfaiesus
Du unterstellst, dass Marlies Meier das Meldegesetz nicht kennt und davon keinen Gebrauch macht.

@timstrutzi

[hobo_ahoi@mastodon.social]

@AwetTesfaiesus Juristisch hängt es von der DSGVO ab, die ja nur für Unternehmen einschlägig ist. Macht man das als Unternehmer, muss man die Marlis Meier darüber informieren etc. Außerdem ist es ein Fall von Auftragsdatenverarbeitung, für den man mit dem LLM erst eine genaue Vereinbarung treffen müsste.

Fazit: Sehr wahrscheinlich ist es verboten.

Moralisch denke ich, dass die LLM das eh schon weiß, falls die Marlies im Telefonbuch steht. Falls nicht wäre es halt so ähnlich ... 1/2

[hobo_ahoi@mastodon.social]

@AwetTesfaiesus ... wie wenn man z.B. das Foto eines Fremden in Social Media veröffentlicht. Er sollte schon einverstanden sein, denke ich 2/2

[saale_coop@digitalcourage.social]

@_RyekDarkener_ @AwetTesfaiesus Es geht in der Frage ja darum dass die Informationen aus dem Prompt potenziell in den Datensatz aus dem LLM fliessen kann. Und wie die Anbieter gewährleisten dass keine personengebundenen Daten aus Suchanfragen gespeichert werden.

[pantarhei@freiburg.social]

@r_alb @AwetTesfaiesus greift die DSGVO hier überhaupt?

Art. 2 DSGVO definiert unter
(2) Diese Verordnung findet keine Anwendung auf die Verarbeitung personenbezogener Daten
c) durch natürliche Personen zur Ausübung ausschließlich persönlicher oder familiärer Tätigkeiten,

”Ausübung ausschließlich persönlicher Tätigkeiten“ müsste in dem genannten Szenario doch zutreffen?

[_ryekdarkener_@mastodon.social]

@saale_coop @AwetTesfaiesus

Ein LLM verwaltet: Token. Und erstellt darauf basierend eine plausibel klingende Antwort.

Wenn LLMs Zugang zu strukturierten Datensätzen haben, dann können sie damit arbeiten – wie jedes andere Programm auch, was Zugang zu diesen Daten hat. Diese sind aber nicht Teil des Sprachmodells selbst.

Somit ist die Frage an sich schon falsch gestellt.
Noch einmal: JEDES Programm, dass Zugriff auf Daten hat, kann mit diesen arbeiten. Das Problem ist nicht das Programm.

[guy_bockamp@mastodon.social]

@lennybacon @jk @AwetTesfaiesus Sehe ich ähnlich.

Aber die Frage ist, ob der Regulierungsrahmen der DSGVO noch sinntragend ist

[h_albermann@mastodon.social]

@AwetTesfaiesus Kann man bei deinen Angaben aus meiner Sicht nicht valide beurteilen.

Einfach mal auf der folgenden Seite nach Purpose suchen:
https://gdpr-info.eu/art-5-gdpr/

Anders gesagt: Du brauchst einen »Zweck«, warum du diese personenbezogenen Daten verarbeitest. Nach deinen Angaben hast Du aber keinen = Nicht zulässig.

[guy_bockamp@mastodon.social]

@lennybacon @jk @AwetTesfaiesus

BTW: Persönlich denke ich, wir brauchen dringend ein Grundrecht darauf, gänzlich frei von Interaktion mit KI leben zu können.

[h_albermann@mastodon.social]

@AwetTesfaiesus Dabei ist zu beachten, dass es neben den in der GDPR aufgeführten Gründen andere, ggf. lokale, Bestimmungen über die Speicherung oder Verarbeitung von personenbezogenen Daten geben kann.

So kann eine Person die Löschung ihrer Daten fordern, gesetzliche Aufbewahrungsfristen oder Dokumentationspflichten können dem aber entgegen stehen.

Daher sollten IT Systeme diese Fälle (Purpose) unterscheiden können um die Speicherung und Verarbeitung auf die jeweilige Zwecke zu beschränken.