"Menschen betrügen manchmal, deshalb darf man eine Maschine, die ziemlich verlässlich falsche Informationen verbreitet nicht deshalb kritisieren" ist ein ziemlicher Hot Take für eine *checks notes* Bundestagsabgeordnete.
-
Das (vorgeschobene) Versprechen von Automatisierung ist ja die Sicherung und Standardisierung von Qualität: Es kommt verlässlich ein gewisser Qualitätsstandard heraus. Das ist eine der zentralen Legitimationen von Automatisierung (neben der echten: Arbeitnehmermacht reduzieren und Kosten drücken).
Wenn man das nimmt, dann gehts halt wirklich nur noch ums Kosten drücken. Das ist in einem Bereich wie Jura, wo es um existenzielle Bedürfnisse und Rechte von Menschen geht, ziemlich fatal. Wäre jetzt nicht mein Move da so mit "naja, is ja eh so" drüber wegzugehen.
@tante der Wille, Kosten zu drücken, scheint auch Antrieb zu sein, wenn vermeintliche Eitelkeiten kritisiert werden.
-
Finde das auf jeden Fall keine sonderlich gute Beschwichtigung: "Falschinformationen durchs Werkzeug sind egal, wir lügen eh ständig".
Weiß nich, wäre nicht meine Verteidigung.
@tante Das wäre wohl der psychologische Effekt von «Deception Fatigue» [1], wo niemand mehr Lügen als sozial unakzeptabel zurückweist, sondern sie höchstens noch mit «aach, eS lüGEn dOCH eH aLLE!» abtun.
-
@tante der Wille, Kosten zu drücken, scheint auch Antrieb zu sein, wenn vermeintliche Eitelkeiten kritisiert werden.
@ingo @tante Jede Automatisierung hat mindestens zu Beginn - oft auch bis heute - schon immer Qualität reduziert.
Und was KI angeht: Das Versprechen ist ja hier nicht ein Qualitätsstandard sondern eine Beschleunigung um Größenordnungen. Viele sind bereit dafür Einbußen bei der Qualität hinzunehmen. Und das ist meiner Erfahrung nach nicht nur ein Kostendrückenargument sondern für viele tatsächlich eine (gefühlte oder wirkliche) Erleichterung im Alltag.
-
Finde das auf jeden Fall keine sonderlich gute Beschwichtigung: "Falschinformationen durchs Werkzeug sind egal, wir lügen eh ständig".
Weiß nich, wäre nicht meine Verteidigung.
@tante es ist im Zweifelsfall ja auch einfach nur ein weiterer Layer an Falschheit. Also nicht naja das eine macht Fehler das andere auc sondern der Mensch der immer Fehler macht nutzt jetzt ein Programm das immer Fehler macht. Das akkumuliert sich. Und bei kommerziellen Produkten schiebt dann vll. Noch der Besitzer absichtlich falsches rein.
-
@ingo @tante Jede Automatisierung hat mindestens zu Beginn - oft auch bis heute - schon immer Qualität reduziert.
Und was KI angeht: Das Versprechen ist ja hier nicht ein Qualitätsstandard sondern eine Beschleunigung um Größenordnungen. Viele sind bereit dafür Einbußen bei der Qualität hinzunehmen. Und das ist meiner Erfahrung nach nicht nur ein Kostendrückenargument sondern für viele tatsächlich eine (gefühlte oder wirkliche) Erleichterung im Alltag.
-
-
@ingo was meinst Du mit KO? Stehe auf dem Schlauch.
-
RE: https://mastodon.social/@AwetTesfaiesus/116119030408309460
"Menschen betrügen manchmal, deshalb darf man eine Maschine, die ziemlich verlässlich falsche Informationen verbreitet nicht deshalb kritisieren" ist ein ziemlicher Hot Take für eine *checks notes* Bundestagsabgeordnete.
Selbe Logik: "Menschen fahren manchmal zu schnell, daher dürfen Selbstfahrende Autos so schnell fahren, wie sie wollen." oder "Menschen machen manchmal den Grill an und erzeigen CO2, daher braucht eine automatisierte Produktionsstraße sich nicht an CO2 Limits zu halten".
Das ist eine Kapitulation. Die Aufgabe politischen Gestaltungswillens weil man an Technikdeterminismus glaubt.
Nicht ideal für die Obfrau des Ausschusses für u.a. Medien.
@tante Wenn man Ihre Äußerungen im weiteren Thread betrachtet, muss man das glaube ich differenzierter sehen.
Sie beschreibt einen Zustand, sie sagt nicht, dass das so super ist. -
@tante Ich kann auch wirklich nicht verstehen, was da jetzt die Intention ist. Wenn manche Menschen falsch rechnen, soll ich nicht den Anspruch haben, dass ein Taschenrechner richtig rechnet? Ich sehe hier nur den Versuch einer Legitimierung einer offensichtlich dysfunktionalen Technologie und frage mich, wem das eigentlich nutzt und warum nicht gerade die Politik den Anspruch hat, das zu bessern.
@leitmedium @tante „… gerade die Politik den Anspruch hat, das zu bessern.“
„gerade die Politik“: was wir da erleben sind ja individuelle Abgeordnete, die nicht selten eher eigenwillige Vorstellungen von „Recht“ haben, und öfter nicht mal Gerichtsurteile akzeptieren.
„Anspruch“ der Politik ist ja sich die Welt zu gestalten und manch MdB oder Minister:in scheint so machtbesoffen, dass sie sich dabei weder von (Grund-)Gesetzen noch von Naturgesetzen begrenzen lassen wollen.
„bessern“: Die Vorstellungen was besser ist geht bei den Politiker:innen ja weit auseinander. Oft unterstellen sie den Widrigkeiten Motive, die nur eingebildet sind, da Menschen, Interessengruppen und Tiere oder gar Technologie (hier AI/LLM) andere (evtl keine) Ziele haben als die, die sie sich vorstellen (können).
-
Das (vorgeschobene) Versprechen von Automatisierung ist ja die Sicherung und Standardisierung von Qualität: Es kommt verlässlich ein gewisser Qualitätsstandard heraus. Das ist eine der zentralen Legitimationen von Automatisierung (neben der echten: Arbeitnehmermacht reduzieren und Kosten drücken).
Wenn man das nimmt, dann gehts halt wirklich nur noch ums Kosten drücken. Das ist in einem Bereich wie Jura, wo es um existenzielle Bedürfnisse und Rechte von Menschen geht, ziemlich fatal. Wäre jetzt nicht mein Move da so mit "naja, is ja eh so" drüber wegzugehen.
@tante und dieses Versprechen fällt in vielen Bereichen auf fruchtbaren Boden, weil wir in den letzten Jahren durch mehr Komplexität und weniger Zeit in so vielen Bereichen Qualitätsverluste akzeptiert haben.
-
@ingo was meinst Du mit KO? Stehe auf dem Schlauch.
@benni KI, sorry
-
@ingo @tante Jede Automatisierung hat mindestens zu Beginn - oft auch bis heute - schon immer Qualität reduziert.
Und was KI angeht: Das Versprechen ist ja hier nicht ein Qualitätsstandard sondern eine Beschleunigung um Größenordnungen. Viele sind bereit dafür Einbußen bei der Qualität hinzunehmen. Und das ist meiner Erfahrung nach nicht nur ein Kostendrückenargument sondern für viele tatsächlich eine (gefühlte oder wirkliche) Erleichterung im Alltag.
-
RE: https://mastodon.social/@AwetTesfaiesus/116119030408309460
"Menschen betrügen manchmal, deshalb darf man eine Maschine, die ziemlich verlässlich falsche Informationen verbreitet nicht deshalb kritisieren" ist ein ziemlicher Hot Take für eine *checks notes* Bundestagsabgeordnete.
Selbe Logik: "Menschen fahren manchmal zu schnell, daher dürfen Selbstfahrende Autos so schnell fahren, wie sie wollen." oder "Menschen machen manchmal den Grill an und erzeigen CO2, daher braucht eine automatisierte Produktionsstraße sich nicht an CO2 Limits zu halten".
Das ist eine Kapitulation. Die Aufgabe politischen Gestaltungswillens weil man an Technikdeterminismus glaubt.
Nicht ideal für die Obfrau des Ausschusses für u.a. Medien.
@tante Man kann den Original-Post aber auch anders lesen, dass sie die Aussage "KI-lügt" (vereinfacht) ärgert, weil sich auch in ihrem beruflichem Umfeld nicht viele um professionelle Ansprüche an Wahrheitsrepräsentanz kümmern, solange der Prozess gewonnen wird.
Ich denke nicht, dass @AwetTesfaiesus den moralischen Makel trägt sich nicht um Ehrlichkeit und Aufrichtigkeit zu sorgen.
Und das Thema Wahrheit ist sowieso hoch philosophisch.
-
RE: https://mastodon.social/@AwetTesfaiesus/116119030408309460
"Menschen betrügen manchmal, deshalb darf man eine Maschine, die ziemlich verlässlich falsche Informationen verbreitet nicht deshalb kritisieren" ist ein ziemlicher Hot Take für eine *checks notes* Bundestagsabgeordnete.
Selbe Logik: "Menschen fahren manchmal zu schnell, daher dürfen Selbstfahrende Autos so schnell fahren, wie sie wollen." oder "Menschen machen manchmal den Grill an und erzeigen CO2, daher braucht eine automatisierte Produktionsstraße sich nicht an CO2 Limits zu halten".
Das ist eine Kapitulation. Die Aufgabe politischen Gestaltungswillens weil man an Technikdeterminismus glaubt.
Nicht ideal für die Obfrau des Ausschusses für u.a. Medien.
@tante Im Grunde macht die KI-Debatte darauf aufmerksam, dass man nicht jeder dahergelaufenen Info glauben soll, sondern nachprüfen. Dabei ist es egal, ob die Info von Menschen oder von KI kommt (ist beides ein neuronales Netz), beides ist fehleranfällig, ob gewollt oder nicht.
Das Problem bei KI ist, dass das im unglaublicher Menge tun kann und durch dieses Extrem, wie durch viele andere Extremsituationen auch, Missstände zu Tage treten, die viel zu lange nicht beachtet worden sind, z.B. mangelnde KiTa- und Schulplätze werden durch Zuwanderung verschärft, Folgen des immer tiefer in die Natur eindringends durch den Klimawandel, mangelnde physiotherapeutische Versorgung durch physisch traumatisierte aus Kriegsgebieten oder Erfahrungen der Coronapandemie, sinkende medizinische Versorgung durch gleichbleibende Bevölkerung aufgrund von Zuwanderung, …
Was allen gleich ist, dass die Lösung oft dadurch gesucht ist, allein die verschärfende Ursache anzugehen, „die Asylbewerber sind Schuld“, … statt die Ursachen anzugehen. -
R relay@relay.an.exchange shared this topic
-
@tante Man kann den Original-Post aber auch anders lesen, dass sie die Aussage "KI-lügt" (vereinfacht) ärgert, weil sich auch in ihrem beruflichem Umfeld nicht viele um professionelle Ansprüche an Wahrheitsrepräsentanz kümmern, solange der Prozess gewonnen wird.
Ich denke nicht, dass @AwetTesfaiesus den moralischen Makel trägt sich nicht um Ehrlichkeit und Aufrichtigkeit zu sorgen.
Und das Thema Wahrheit ist sowieso hoch philosophisch.
-
RE: https://mastodon.social/@AwetTesfaiesus/116119030408309460
"Menschen betrügen manchmal, deshalb darf man eine Maschine, die ziemlich verlässlich falsche Informationen verbreitet nicht deshalb kritisieren" ist ein ziemlicher Hot Take für eine *checks notes* Bundestagsabgeordnete.
Selbe Logik: "Menschen fahren manchmal zu schnell, daher dürfen Selbstfahrende Autos so schnell fahren, wie sie wollen." oder "Menschen machen manchmal den Grill an und erzeigen CO2, daher braucht eine automatisierte Produktionsstraße sich nicht an CO2 Limits zu halten".
Das ist eine Kapitulation. Die Aufgabe politischen Gestaltungswillens weil man an Technikdeterminismus glaubt.
Nicht ideal für die Obfrau des Ausschusses für u.a. Medien.
@tante mich hat das Zitat auch erstmal verblüfft. Aber nachdem ich die Argumentation im Detail angeschaut habe, bin ich bei ihr. Ich muss dazusagen, dass ich die juristische Denkweise aus der Uni kenne, das ist ein ganz spezieller Sport. Ohne Kontext muss man das falsch verstehen, das führt oft zu Unbehagen gegenüber Juristen
-
Finde das auf jeden Fall keine sonderlich gute Beschwichtigung: "Falschinformationen durchs Werkzeug sind egal, wir lügen eh ständig".
Weiß nich, wäre nicht meine Verteidigung.
@tante
Manchmal konkretisieren sich erste Beiträge im weiteren Thread-Antwortverlauf... -
-
@tante mich hat das Zitat auch erstmal verblüfft. Aber nachdem ich die Argumentation im Detail angeschaut habe, bin ich bei ihr. Ich muss dazusagen, dass ich die juristische Denkweise aus der Uni kenne, das ist ein ganz spezieller Sport. Ohne Kontext muss man das falsch verstehen, das führt oft zu Unbehagen gegenüber Juristen
-
@AwetTesfaiesus nur um das zu spiegeln: so hatte ich das auch verstanden. Beim Mensch <-> KI Vergleich wird der Mensch oft idealisierter dargestellt, um künstlich ein Gefälle zu erzeugen. Da wird auch von den Kritiker*innen oft Moving the Goalpost gespielt. Egal ob Wahrheitsgehalt oder andere Fähigkeiten/Traits.
Ich glaub wenn @tante so drauf angesprungen ist, hast du mit einem Neo-Ludditen den richtigen erwischt
