Ich mache gerade einen Kurs zu Claude Code und Command Line für Journalist:innen (Advanced Prompt Engineering for Journalists) und es kommen so ein paar "42-Feelings" auf.
-
@ftranschel @grauhausen @evawolfangel
Dann hoffe ich, dass das ein Missverständnis war.
Ich hatte an der Uni in den frühen 00ern tatsächlich noch Klausuren, wo ich Algorithmen in echtem Code zu Papier bringen sollte.
Da war dann jedes fehlende Semikolon oder Buchstabendreher gleich Punktabzug.Später im Beruf habe ich vermutlich nie ein Papier zur Hand genommen. Wozu auch?
@eXo_X5 @grauhausen @evawolfangel "Wozu auch?"
Um Distanz vom Gegenstand zu bekommen.
Ich mache das schon und es hilft *mir* extrem. YYMV, obviously.
-
@343max @evawolfangel um ehrlich zu sein: wie oft hast Du schon einen Compiler qualifiziert, der Dein Programm in Assembler umsetzt?
Oder verlässt Du Dich darauf, dass der Compiler richtig arbeitet und die angezogen Libs auch? -
@343max @evawolfangel um ehrlich zu sein: wie oft hast Du schon einen Compiler qualifiziert, der Dein Programm in Assembler umsetzt?
Oder verlässt Du Dich darauf, dass der Compiler richtig arbeitet und die angezogen Libs auch?@df5hz @343max @evawolfangel Der Vergleich hinkt: ein Compiler ist deterministisch, wenn ich da zweimal dasselbe reingebe, kommt auch zweimal dasselbe raus. Bei dem, was man heute als "KI" bezeichnet, ist genau das nicht der Fall.
-
@df5hz @343max @evawolfangel Der Vergleich hinkt: ein Compiler ist deterministisch, wenn ich da zweimal dasselbe reingebe, kommt auch zweimal dasselbe raus. Bei dem, was man heute als "KI" bezeichnet, ist genau das nicht der Fall.
@LupinoArts @343max @evawolfangel und wenn man Menschen 2x die gleichen Anforderungen gibt, kommt 2x das gleiche Programm raus?
-
@eXo_X5 @grauhausen @evawolfangel "Wozu auch?"
Um Distanz vom Gegenstand zu bekommen.
Ich mache das schon und es hilft *mir* extrem. YYMV, obviously.
@ftranschel @grauhausen @evawolfangel da kann ich genug über meinen Tellerrand schauen, um anzuerkennen, dass das nützlich sein kann.
Für mich ist Papier einfach das falsche Medium.
Ich brauche etwas, was schon bei der Eingabe automatisch strukturiert und (gerade) auch bei Änderungen sauber bleibt.Papier würde ich Stapelweise wegschmeißen, bis am Ende etwas Brauchbares draufsteht.
-
@evawolfangel Wenn man kein Domänenwissen hat, wird "factchecken" aka googlen auch immer schwieriger, die ersten Suchergebnisse sind auch Gemini und viele Quellen haben auch keine klare AI-Policy und sind im Zweifelsfall auch frei erfunden...
Dead Internet Theory eben.Und auch die wissenschaftliche Fachliteratur wird mehr und mehr von AI-Content kontaminiert. Ich frage mich, wie wir in Zukunft vertrauenswürdige und nicht vertrauenswürdige Quellen unterscheiden - vielleicht durch eine Art Netzwerk aus persönlichen Kontakten, die sich einem Verhaltenscode verpflichten?
-
"Frag doch KI" geht gerne mal schief. Natürlich kann man versuchen, die Auskünfte von KI factzuchecken etc. Aber das ist sehr mühsam, und je weiter man sich in ein Territorium wagt, in dem man nicht so genau bescheid weiß, auch riskant. Gerade jetzt, wo es in Richtung Vibe-Coding geht, will ich mich eben nicht darauf verlassen, dass die KI schon richtig liegt. Weil: die Scherben anderer Vibe-Coder liegen vor meinen Füßen bzw deren sensible Daten in meinen Händen. (Stay tuned, Text in the making)
@evawolfangel Ja, zu viele nutzen KI als Dunning-Kruger-as-a-service.
Meine Vorgehen ist: ich lasse KI nix machen, das ich nicht auch selber, ohne KI, könnte (aber eventuell nicht möchte, weil es langweilige und vor allem per Hand extrem langwierige Arbeiten sind).
Für Dinge, die ich nicht selber kann, wende ich mich an Menschen, die das auch ohne KI können. wenn die sich dann wiederum auch mal von KI helfen lassen ist das für mich OK.
-
"Frag doch KI" geht gerne mal schief. Natürlich kann man versuchen, die Auskünfte von KI factzuchecken etc. Aber das ist sehr mühsam, und je weiter man sich in ein Territorium wagt, in dem man nicht so genau bescheid weiß, auch riskant. Gerade jetzt, wo es in Richtung Vibe-Coding geht, will ich mich eben nicht darauf verlassen, dass die KI schon richtig liegt. Weil: die Scherben anderer Vibe-Coder liegen vor meinen Füßen bzw deren sensible Daten in meinen Händen. (Stay tuned, Text in the making)
@evawolfangel Er zeigt hoffentlich einen Entwicklungspfad dahin auf. Der nicht nur "nehmt halt KI und es ist vibe" heißt.
-
Und auch die wissenschaftliche Fachliteratur wird mehr und mehr von AI-Content kontaminiert. Ich frage mich, wie wir in Zukunft vertrauenswürdige und nicht vertrauenswürdige Quellen unterscheiden - vielleicht durch eine Art Netzwerk aus persönlichen Kontakten, die sich einem Verhaltenscode verpflichten?
...eigentlich wäre genau das ja die Aufgabe des Peer Review. Aber das traditionelle Peer-Review-Verfahren ist dieser Aufgabe nicht gewachsen, fürchte ich.
-
...eigentlich wäre genau das ja die Aufgabe des Peer Review. Aber das traditionelle Peer-Review-Verfahren ist dieser Aufgabe nicht gewachsen, fürchte ich.
@HansZauner @evawolfangel Peer Review macht niemand gerne (soweit ich weiß, bin selbst nicht in der Akademia tätig), da wird dem Hörensagen nach auch an allen Ecken "KI" eingesetzt, das lässt sich alles nur noch schwer wieder einfangen.
Mal sehen wann die Bubble platzt, vielleicht lassen sich danach Lösungen finden -
@HansZauner @evawolfangel Peer Review macht niemand gerne (soweit ich weiß, bin selbst nicht in der Akademia tätig), da wird dem Hörensagen nach auch an allen Ecken "KI" eingesetzt, das lässt sich alles nur noch schwer wieder einfangen.
Mal sehen wann die Bubble platzt, vielleicht lassen sich danach Lösungen findenJa, KI-geschriebene Artikel, die dann mit KI begutachtet werden...
An beiden Enden Fehlanreize. Forscher werden nach ihren Publikationen beurteilt (Anzahl und Reputation des Journals zählt, nicht unbedingt der Inhalt), und Begutachten ist ein zeitaufwändiger und eher undankbarer Job.
-
@LupinoArts @343max @evawolfangel und wenn man Menschen 2x die gleichen Anforderungen gibt, kommt 2x das gleiche Programm raus?
@df5hz @LupinoArts @343max @evawolfangel
Das Problem ist mglw., daß LLMs und Menschen unterschiedliche Fehler machen.
Fehler von Menschen sind für andere Menschen oft nachvollziehbar (sie sind auf Umstände, Kompetenz und Erfahrung rückführbar).
Fehler, die von LLMs erzeugt werden, sind oft kaum nachvollziehbar (sie wirken willkürlich oder gar "hinterhältig").
LLM-Fehler wirken somit doppelt negativ: als Fehler und als Verunsicherung.
Das Auffinden von LLM-Fehlern ist wohl auch aufwändiger.
-
@df5hz @LupinoArts @343max @evawolfangel
Das Problem ist mglw., daß LLMs und Menschen unterschiedliche Fehler machen.
Fehler von Menschen sind für andere Menschen oft nachvollziehbar (sie sind auf Umstände, Kompetenz und Erfahrung rückführbar).
Fehler, die von LLMs erzeugt werden, sind oft kaum nachvollziehbar (sie wirken willkürlich oder gar "hinterhältig").
LLM-Fehler wirken somit doppelt negativ: als Fehler und als Verunsicherung.
Das Auffinden von LLM-Fehlern ist wohl auch aufwändiger.
@stekopf @LupinoArts @343max @evawolfangel das stimmt. Deshalb würde ich in solch einem Fall auch nicht versuchen, das Ergebnis des LLMs zu prüfen.
-
@stekopf @LupinoArts @343max @evawolfangel das stimmt. Deshalb würde ich in solch einem Fall auch nicht versuchen, das Ergebnis des LLMs zu prüfen.
@df5hz @stekopf @LupinoArts Okay, aber manche von uns haben schon ein Interesse daran, dass unsere Arbeit gewisse Qualitätsstandards erfüllt.
-
@evawolfangel "Wenn Mama nein sagt, frag' ich Papa."
@claudius @evawolfangel und Microsoft bittet dich höflich deinen Systemadministrator zu fragen.
-
@df5hz @stekopf @LupinoArts Okay, aber manche von uns haben schon ein Interesse daran, dass unsere Arbeit gewisse Qualitätsstandards erfüllt.
@343max @stekopf @LupinoArts aber wenn man auf vibe-coding setzt, muss man nicht anfangen, das Zeug von Hand zu fixen, sondern muss die Fehler in der Eingabe beheben.
-
@claudius @evawolfangel und Microsoft bittet dich höflich deinen Systemadministrator zu fragen.
@bauernline Ja, genau!
-
@343max @stekopf @LupinoArts aber wenn man auf vibe-coding setzt, muss man nicht anfangen, das Zeug von Hand zu fixen, sondern muss die Fehler in der Eingabe beheben.
@df5hz @stekopf @LupinoArts Vielleicht, aber dafür muss man sich das trotzdem erst mal anschauen. Wobei ich ich es auch für Quatsch halte, dass man Fehler nur per Prompten fixen darf. Viele Probleme sind schneller per Hand gefixt als der LLM dabei zuzusehen bis der Groschen fällt.
-
@df5hz @stekopf @LupinoArts Vielleicht, aber dafür muss man sich das trotzdem erst mal anschauen. Wobei ich ich es auch für Quatsch halte, dass man Fehler nur per Prompten fixen darf. Viele Probleme sind schneller per Hand gefixt als der LLM dabei zuzusehen bis der Groschen fällt.
@df5hz @stekopf @LupinoArts Ich schwanke immer etwas, aber im Augenblick bin ich mir relativ sicher, dass AI Programmierung ein Hype ist der relativ bald massiv abflauen wird. Die Probleme sind riesig und selbst die Anbieter der LLMs kriegen sie offenbar nicht in den Griff.
-
@df5hz @stekopf @LupinoArts Vielleicht, aber dafür muss man sich das trotzdem erst mal anschauen. Wobei ich ich es auch für Quatsch halte, dass man Fehler nur per Prompten fixen darf. Viele Probleme sind schneller per Hand gefixt als der LLM dabei zuzusehen bis der Groschen fällt.
Genau, dann ist man wieder hier: https://mastodon.social/@343max/116413883282819847
Der Testaufwand dürfte ergeblich höher sein?
