Ich mache gerade einen Kurs zu Claude Code und Command Line für Journalist:innen (Advanced Prompt Engineering for Journalists) und es kommen so ein paar "42-Feelings" auf.
-
"Frag doch KI" geht gerne mal schief. Natürlich kann man versuchen, die Auskünfte von KI factzuchecken etc. Aber das ist sehr mühsam, und je weiter man sich in ein Territorium wagt, in dem man nicht so genau bescheid weiß, auch riskant. Gerade jetzt, wo es in Richtung Vibe-Coding geht, will ich mich eben nicht darauf verlassen, dass die KI schon richtig liegt. Weil: die Scherben anderer Vibe-Coder liegen vor meinen Füßen bzw deren sensible Daten in meinen Händen. (Stay tuned, Text in the making)
@evawolfangel Ja, zu viele nutzen KI als Dunning-Kruger-as-a-service.
Meine Vorgehen ist: ich lasse KI nix machen, das ich nicht auch selber, ohne KI, könnte (aber eventuell nicht möchte, weil es langweilige und vor allem per Hand extrem langwierige Arbeiten sind).
Für Dinge, die ich nicht selber kann, wende ich mich an Menschen, die das auch ohne KI können. wenn die sich dann wiederum auch mal von KI helfen lassen ist das für mich OK.
-
"Frag doch KI" geht gerne mal schief. Natürlich kann man versuchen, die Auskünfte von KI factzuchecken etc. Aber das ist sehr mühsam, und je weiter man sich in ein Territorium wagt, in dem man nicht so genau bescheid weiß, auch riskant. Gerade jetzt, wo es in Richtung Vibe-Coding geht, will ich mich eben nicht darauf verlassen, dass die KI schon richtig liegt. Weil: die Scherben anderer Vibe-Coder liegen vor meinen Füßen bzw deren sensible Daten in meinen Händen. (Stay tuned, Text in the making)
@evawolfangel Er zeigt hoffentlich einen Entwicklungspfad dahin auf. Der nicht nur "nehmt halt KI und es ist vibe" heißt.
-
Und auch die wissenschaftliche Fachliteratur wird mehr und mehr von AI-Content kontaminiert. Ich frage mich, wie wir in Zukunft vertrauenswürdige und nicht vertrauenswürdige Quellen unterscheiden - vielleicht durch eine Art Netzwerk aus persönlichen Kontakten, die sich einem Verhaltenscode verpflichten?
...eigentlich wäre genau das ja die Aufgabe des Peer Review. Aber das traditionelle Peer-Review-Verfahren ist dieser Aufgabe nicht gewachsen, fürchte ich.
-
...eigentlich wäre genau das ja die Aufgabe des Peer Review. Aber das traditionelle Peer-Review-Verfahren ist dieser Aufgabe nicht gewachsen, fürchte ich.
@HansZauner @evawolfangel Peer Review macht niemand gerne (soweit ich weiß, bin selbst nicht in der Akademia tätig), da wird dem Hörensagen nach auch an allen Ecken "KI" eingesetzt, das lässt sich alles nur noch schwer wieder einfangen.
Mal sehen wann die Bubble platzt, vielleicht lassen sich danach Lösungen finden -
@HansZauner @evawolfangel Peer Review macht niemand gerne (soweit ich weiß, bin selbst nicht in der Akademia tätig), da wird dem Hörensagen nach auch an allen Ecken "KI" eingesetzt, das lässt sich alles nur noch schwer wieder einfangen.
Mal sehen wann die Bubble platzt, vielleicht lassen sich danach Lösungen findenJa, KI-geschriebene Artikel, die dann mit KI begutachtet werden...
An beiden Enden Fehlanreize. Forscher werden nach ihren Publikationen beurteilt (Anzahl und Reputation des Journals zählt, nicht unbedingt der Inhalt), und Begutachten ist ein zeitaufwändiger und eher undankbarer Job.
-
@LupinoArts @343max @evawolfangel und wenn man Menschen 2x die gleichen Anforderungen gibt, kommt 2x das gleiche Programm raus?
@df5hz @LupinoArts @343max @evawolfangel
Das Problem ist mglw., daß LLMs und Menschen unterschiedliche Fehler machen.
Fehler von Menschen sind für andere Menschen oft nachvollziehbar (sie sind auf Umstände, Kompetenz und Erfahrung rückführbar).
Fehler, die von LLMs erzeugt werden, sind oft kaum nachvollziehbar (sie wirken willkürlich oder gar "hinterhältig").
LLM-Fehler wirken somit doppelt negativ: als Fehler und als Verunsicherung.
Das Auffinden von LLM-Fehlern ist wohl auch aufwändiger.
-
@df5hz @LupinoArts @343max @evawolfangel
Das Problem ist mglw., daß LLMs und Menschen unterschiedliche Fehler machen.
Fehler von Menschen sind für andere Menschen oft nachvollziehbar (sie sind auf Umstände, Kompetenz und Erfahrung rückführbar).
Fehler, die von LLMs erzeugt werden, sind oft kaum nachvollziehbar (sie wirken willkürlich oder gar "hinterhältig").
LLM-Fehler wirken somit doppelt negativ: als Fehler und als Verunsicherung.
Das Auffinden von LLM-Fehlern ist wohl auch aufwändiger.
@stekopf @LupinoArts @343max @evawolfangel das stimmt. Deshalb würde ich in solch einem Fall auch nicht versuchen, das Ergebnis des LLMs zu prüfen.
-
@stekopf @LupinoArts @343max @evawolfangel das stimmt. Deshalb würde ich in solch einem Fall auch nicht versuchen, das Ergebnis des LLMs zu prüfen.
@df5hz @stekopf @LupinoArts Okay, aber manche von uns haben schon ein Interesse daran, dass unsere Arbeit gewisse Qualitätsstandards erfüllt.
-
@evawolfangel "Wenn Mama nein sagt, frag' ich Papa."
@claudius @evawolfangel und Microsoft bittet dich höflich deinen Systemadministrator zu fragen.
-
@df5hz @stekopf @LupinoArts Okay, aber manche von uns haben schon ein Interesse daran, dass unsere Arbeit gewisse Qualitätsstandards erfüllt.
@343max @stekopf @LupinoArts aber wenn man auf vibe-coding setzt, muss man nicht anfangen, das Zeug von Hand zu fixen, sondern muss die Fehler in der Eingabe beheben.
-
@claudius @evawolfangel und Microsoft bittet dich höflich deinen Systemadministrator zu fragen.
@bauernline Ja, genau!
-
@343max @stekopf @LupinoArts aber wenn man auf vibe-coding setzt, muss man nicht anfangen, das Zeug von Hand zu fixen, sondern muss die Fehler in der Eingabe beheben.
@df5hz @stekopf @LupinoArts Vielleicht, aber dafür muss man sich das trotzdem erst mal anschauen. Wobei ich ich es auch für Quatsch halte, dass man Fehler nur per Prompten fixen darf. Viele Probleme sind schneller per Hand gefixt als der LLM dabei zuzusehen bis der Groschen fällt.
-
@df5hz @stekopf @LupinoArts Vielleicht, aber dafür muss man sich das trotzdem erst mal anschauen. Wobei ich ich es auch für Quatsch halte, dass man Fehler nur per Prompten fixen darf. Viele Probleme sind schneller per Hand gefixt als der LLM dabei zuzusehen bis der Groschen fällt.
@df5hz @stekopf @LupinoArts Ich schwanke immer etwas, aber im Augenblick bin ich mir relativ sicher, dass AI Programmierung ein Hype ist der relativ bald massiv abflauen wird. Die Probleme sind riesig und selbst die Anbieter der LLMs kriegen sie offenbar nicht in den Griff.
-
@df5hz @stekopf @LupinoArts Vielleicht, aber dafür muss man sich das trotzdem erst mal anschauen. Wobei ich ich es auch für Quatsch halte, dass man Fehler nur per Prompten fixen darf. Viele Probleme sind schneller per Hand gefixt als der LLM dabei zuzusehen bis der Groschen fällt.
Genau, dann ist man wieder hier: https://mastodon.social/@343max/116413883282819847
Der Testaufwand dürfte ergeblich höher sein?
-
@343max @stekopf @LupinoArts aber wenn man auf vibe-coding setzt, muss man nicht anfangen, das Zeug von Hand zu fixen, sondern muss die Fehler in der Eingabe beheben.
@df5hz @343max @stekopf @LupinoArts Dazu muss man die Fehler erstmal bemerken, bevor der Mist beim Kunden ist.
-
Ich mache gerade einen Kurs zu Claude Code und Command Line für Journalist:innen (Advanced Prompt Engineering for Journalists) und es kommen so ein paar "42-Feelings" auf. Ihr erinnert euch? An der Schule 42 habe ich schon mal versucht, programmieren zu lernen - und das war...irgendwie krass. Auch der jetzige Kurs ist overwhelming und der Kursleiter arbeitet dran, sich selbst abzuschaffen, weil er bei jeder Frage sagt: "Frag doch KI". Hahaha wieso mache ich denn einen Kurs mit einem Menschen??
@evawolfangel So lernt man doch kein Programmieren, geschweige denn eine CL sinnvoll zu benutzen (welche btw einfach nur eine Texteingabe für Befehle ist).
Für skripting Anwendungen ist es vielleicht geeignet,
aber für längerfristige Projekte mit Verlässlichkeitsanforderungen ist Chaos vorprogrammiert, zumal keiner weiß ob das Programm das macht was es machen soll.Programmieren ist in der Informatik, wie Schreiben im Journalismus – das Werkzeug aber nicht die Kunst (Hoffe der Vergleich hilft).
-
"Frag doch KI" geht gerne mal schief. Natürlich kann man versuchen, die Auskünfte von KI factzuchecken etc. Aber das ist sehr mühsam, und je weiter man sich in ein Territorium wagt, in dem man nicht so genau bescheid weiß, auch riskant. Gerade jetzt, wo es in Richtung Vibe-Coding geht, will ich mich eben nicht darauf verlassen, dass die KI schon richtig liegt. Weil: die Scherben anderer Vibe-Coder liegen vor meinen Füßen bzw deren sensible Daten in meinen Händen. (Stay tuned, Text in the making)
@evawolfangel das Thema Vibe Coding und sensible Daten hatte @steigerlegal letztens schon mal aufgegriffen - „Patientendaten stehen nach «Vibe Coding» mit KI offen im Internet“:
Patientendaten stehen nach «Vibe Coding» mit KI offen im Internet – Steiger Legal
«Vibe Coding» mit KI führte bei einer medizinischen Leistungserbringerin in der Schweiz dazu, dass die Daten aller Patienten offen im Internet standen. Tobias Brunner, ein schweizerischer Blogger, beschreibt seine als …
Steiger Legal (steigerlegal.ch)
-
@df5hz @343max @stekopf @LupinoArts Dazu muss man die Fehler erstmal bemerken, bevor der Mist beim Kunden ist.
@well030 @343max @stekopf @LupinoArts Man sollte nicht so tun als würde nur fehlerfreie Software ausgeliefert werden. In der Regel wird mit Fehler behaftete Software ausgeliefert, wenn die Projekte etwas größer werden.
Die Statistik sagt für durchschnittliche Applikationssoftware im Schnitt 5-10 Bugs/kLoC. Hohe Qualität ist im Bereich 0,5-5 Bugs/kLoC.
Ich weiß, dass es besser geht, aber mit höheren Kosten verbunden ist. -
Genau, dann ist man wieder hier: https://mastodon.social/@343max/116413883282819847
Der Testaufwand dürfte ergeblich höher sein?
@stekopf Ich denke, der Testausfwand wird steigen, aber da man die Tests ebenfalls generiert und automatisiert, wird es eher akzeptiert werden
-
@df5hz @stekopf @LupinoArts Vielleicht, aber dafür muss man sich das trotzdem erst mal anschauen. Wobei ich ich es auch für Quatsch halte, dass man Fehler nur per Prompten fixen darf. Viele Probleme sind schneller per Hand gefixt als der LLM dabei zuzusehen bis der Groschen fällt.
@343max Es geht nicht um 1 oder 0. Und natürlich kann man es von Hand patchen.
Ich erwarte jedoch, dass es in etlichen Bereichen dazu kommen wird, dass man bei Fehler die Eingaben anpassen und anschließend alles neu generieren wird. Massive, automatisierte (generierte) Tests werden die Lieferung stützen.
Das Vorgehen wird ähnlich sein, wie in Regelsystemen, in denen man auch das Simulink-Modell anpasst und nicht den daraus generierten Code.
