Ich mache gerade einen Kurs zu Claude Code und Command Line für Journalist:innen (Advanced Prompt Engineering for Journalists) und es kommen so ein paar "42-Feelings" auf.
-
@evawolfangel Notiz an mich: keine Journalist*innen zu meinen Kursen¹ zulassen, die stellen nur unangenehme Fragen.
Ist das wie bei Anwält*innen? Für die will auch niemand Dienstleistungen anbieten, weil die immer gleich klagen.
___
¹ ich geb gar keine 🤪 -
@evawolfangel Wart ab, bald sagt sie: Fahr doch Bahn. 🤭
@Fischblog
Der wird man die Wokeness schon noch austreiben! 🧐 -
@evawolfangel programmieren lernt man mit Stift und Papier. Das sage ich meinen Studenten auch immer.
Das klingt jetzt vielleicht etwas hart, dennoch muss ich sagen: "Das ist grober Unfug."
Ich kenne tatsächlich keinen Programmierer, der nicht iterativ arbeitet. D.h. Dinge ausprobiert, in den Kompiler/Linter wirft, Fehler korrigiert, testet, bis am Ende das Gewünschte raus kommt.
Papier und Stift verlangt, dass alles auf Anhieb richtig ist.
Diesen Grad von Perfektion schafft kaum jemand. Unnötige Selektion.
War in den 60-70ern mal nötig, heute zum Glück nicht.
-
Ich mache gerade einen Kurs zu Claude Code und Command Line für Journalist:innen (Advanced Prompt Engineering for Journalists) und es kommen so ein paar "42-Feelings" auf. Ihr erinnert euch? An der Schule 42 habe ich schon mal versucht, programmieren zu lernen - und das war...irgendwie krass. Auch der jetzige Kurs ist overwhelming und der Kursleiter arbeitet dran, sich selbst abzuschaffen, weil er bei jeder Frage sagt: "Frag doch KI". Hahaha wieso mache ich denn einen Kurs mit einem Menschen??
@evawolfangel Viele Dozierende (akademisch und außerhalb) arbeiten sich ja genüsslich am Thema "kritisches Denken" ab: Wenn man nur kritisch ist, dann geht Vibe-Prompting jeglicher Coleur schon "irgendwie"...
Nur ist meine Hypothese halt, dass kritisches Denken tendenziell sogar *schadet*, wenn kein Welt-Modell mit echter Expertise dahinter steht.
-
@evawolfangel Viele Dozierende (akademisch und außerhalb) arbeiten sich ja genüsslich am Thema "kritisches Denken" ab: Wenn man nur kritisch ist, dann geht Vibe-Prompting jeglicher Coleur schon "irgendwie"...
Nur ist meine Hypothese halt, dass kritisches Denken tendenziell sogar *schadet*, wenn kein Welt-Modell mit echter Expertise dahinter steht.
@evawolfangel Die richtig fiesen Fails sind ja die, die man nur dann feststellt, wenn man eigentlich genau dieses Problem schon gelöst hat.
Das haben aber Schüler, Studis und alle, die irgendwie irgendwas neues lernen/erschaffen wollen, eben gerade nicht.
Deshalb ist mein Take, dass man für Vibe Coding *MINDESTENS* wirklich ein kleines Projekt selbst gecodet haben sollte - wobei mehr natürlich mehr und besser natürlich besser ist...
️ -
Das klingt jetzt vielleicht etwas hart, dennoch muss ich sagen: "Das ist grober Unfug."
Ich kenne tatsächlich keinen Programmierer, der nicht iterativ arbeitet. D.h. Dinge ausprobiert, in den Kompiler/Linter wirft, Fehler korrigiert, testet, bis am Ende das Gewünschte raus kommt.
Papier und Stift verlangt, dass alles auf Anhieb richtig ist.
Diesen Grad von Perfektion schafft kaum jemand. Unnötige Selektion.
War in den 60-70ern mal nötig, heute zum Glück nicht.
@eXo_X5 @grauhausen @evawolfangel Glaube nicht, dass das so gemeint war.
Aber Architektur in Pseudo-Code vorher mal draften hilft schon echt extrem.
(Übrigens sogar dann, wenn man sich das dann von Claude coden lässt ... und je kleinteiliger, desto besser. Nicht, dass ich das empfehlen würde.)
-
@evawolfangel Ich glaube das ist genau die Crux bei programmieren mit AI: entweder man verlässt sich drauf, dass die AI das schon hinbekommt, was einem eher früher als später auf die Füße fallen wird oder man verifiziert alles was bei rauskommt, dann sind die Effizienzsteigerungen lächerlich bis negativ. Und ich bin mir nicht sicher ob es einen guten Zwischenweg gibt.
@343max @evawolfangel um ehrlich zu sein: wie oft hast Du schon einen Compiler qualifiziert, der Dein Programm in Assembler umsetzt?
Oder verlässt Du Dich darauf, dass der Compiler richtig arbeitet und die angezogen Libs auch? -
@eXo_X5 @grauhausen @evawolfangel Glaube nicht, dass das so gemeint war.
Aber Architektur in Pseudo-Code vorher mal draften hilft schon echt extrem.
(Übrigens sogar dann, wenn man sich das dann von Claude coden lässt ... und je kleinteiliger, desto besser. Nicht, dass ich das empfehlen würde.)
@ftranschel @grauhausen @evawolfangel
Dann hoffe ich, dass das ein Missverständnis war.
Ich hatte an der Uni in den frühen 00ern tatsächlich noch Klausuren, wo ich Algorithmen in echtem Code zu Papier bringen sollte.
Da war dann jedes fehlende Semikolon oder Buchstabendreher gleich Punktabzug.Später im Beruf habe ich vermutlich nie ein Papier zur Hand genommen. Wozu auch?
-
@ftranschel @grauhausen @evawolfangel
Dann hoffe ich, dass das ein Missverständnis war.
Ich hatte an der Uni in den frühen 00ern tatsächlich noch Klausuren, wo ich Algorithmen in echtem Code zu Papier bringen sollte.
Da war dann jedes fehlende Semikolon oder Buchstabendreher gleich Punktabzug.Später im Beruf habe ich vermutlich nie ein Papier zur Hand genommen. Wozu auch?
@eXo_X5 @grauhausen @evawolfangel "Wozu auch?"
Um Distanz vom Gegenstand zu bekommen.
Ich mache das schon und es hilft *mir* extrem. YYMV, obviously.
-
@343max @evawolfangel um ehrlich zu sein: wie oft hast Du schon einen Compiler qualifiziert, der Dein Programm in Assembler umsetzt?
Oder verlässt Du Dich darauf, dass der Compiler richtig arbeitet und die angezogen Libs auch? -
@343max @evawolfangel um ehrlich zu sein: wie oft hast Du schon einen Compiler qualifiziert, der Dein Programm in Assembler umsetzt?
Oder verlässt Du Dich darauf, dass der Compiler richtig arbeitet und die angezogen Libs auch?@df5hz @343max @evawolfangel Der Vergleich hinkt: ein Compiler ist deterministisch, wenn ich da zweimal dasselbe reingebe, kommt auch zweimal dasselbe raus. Bei dem, was man heute als "KI" bezeichnet, ist genau das nicht der Fall.
-
@df5hz @343max @evawolfangel Der Vergleich hinkt: ein Compiler ist deterministisch, wenn ich da zweimal dasselbe reingebe, kommt auch zweimal dasselbe raus. Bei dem, was man heute als "KI" bezeichnet, ist genau das nicht der Fall.
@LupinoArts @343max @evawolfangel und wenn man Menschen 2x die gleichen Anforderungen gibt, kommt 2x das gleiche Programm raus?
-
@eXo_X5 @grauhausen @evawolfangel "Wozu auch?"
Um Distanz vom Gegenstand zu bekommen.
Ich mache das schon und es hilft *mir* extrem. YYMV, obviously.
@ftranschel @grauhausen @evawolfangel da kann ich genug über meinen Tellerrand schauen, um anzuerkennen, dass das nützlich sein kann.
Für mich ist Papier einfach das falsche Medium.
Ich brauche etwas, was schon bei der Eingabe automatisch strukturiert und (gerade) auch bei Änderungen sauber bleibt.Papier würde ich Stapelweise wegschmeißen, bis am Ende etwas Brauchbares draufsteht.
-
@evawolfangel Wenn man kein Domänenwissen hat, wird "factchecken" aka googlen auch immer schwieriger, die ersten Suchergebnisse sind auch Gemini und viele Quellen haben auch keine klare AI-Policy und sind im Zweifelsfall auch frei erfunden...
Dead Internet Theory eben.Und auch die wissenschaftliche Fachliteratur wird mehr und mehr von AI-Content kontaminiert. Ich frage mich, wie wir in Zukunft vertrauenswürdige und nicht vertrauenswürdige Quellen unterscheiden - vielleicht durch eine Art Netzwerk aus persönlichen Kontakten, die sich einem Verhaltenscode verpflichten?
-
"Frag doch KI" geht gerne mal schief. Natürlich kann man versuchen, die Auskünfte von KI factzuchecken etc. Aber das ist sehr mühsam, und je weiter man sich in ein Territorium wagt, in dem man nicht so genau bescheid weiß, auch riskant. Gerade jetzt, wo es in Richtung Vibe-Coding geht, will ich mich eben nicht darauf verlassen, dass die KI schon richtig liegt. Weil: die Scherben anderer Vibe-Coder liegen vor meinen Füßen bzw deren sensible Daten in meinen Händen. (Stay tuned, Text in the making)
@evawolfangel Ja, zu viele nutzen KI als Dunning-Kruger-as-a-service.
Meine Vorgehen ist: ich lasse KI nix machen, das ich nicht auch selber, ohne KI, könnte (aber eventuell nicht möchte, weil es langweilige und vor allem per Hand extrem langwierige Arbeiten sind).
Für Dinge, die ich nicht selber kann, wende ich mich an Menschen, die das auch ohne KI können. wenn die sich dann wiederum auch mal von KI helfen lassen ist das für mich OK.
-
"Frag doch KI" geht gerne mal schief. Natürlich kann man versuchen, die Auskünfte von KI factzuchecken etc. Aber das ist sehr mühsam, und je weiter man sich in ein Territorium wagt, in dem man nicht so genau bescheid weiß, auch riskant. Gerade jetzt, wo es in Richtung Vibe-Coding geht, will ich mich eben nicht darauf verlassen, dass die KI schon richtig liegt. Weil: die Scherben anderer Vibe-Coder liegen vor meinen Füßen bzw deren sensible Daten in meinen Händen. (Stay tuned, Text in the making)
@evawolfangel Er zeigt hoffentlich einen Entwicklungspfad dahin auf. Der nicht nur "nehmt halt KI und es ist vibe" heißt.
-
Und auch die wissenschaftliche Fachliteratur wird mehr und mehr von AI-Content kontaminiert. Ich frage mich, wie wir in Zukunft vertrauenswürdige und nicht vertrauenswürdige Quellen unterscheiden - vielleicht durch eine Art Netzwerk aus persönlichen Kontakten, die sich einem Verhaltenscode verpflichten?
...eigentlich wäre genau das ja die Aufgabe des Peer Review. Aber das traditionelle Peer-Review-Verfahren ist dieser Aufgabe nicht gewachsen, fürchte ich.
-
...eigentlich wäre genau das ja die Aufgabe des Peer Review. Aber das traditionelle Peer-Review-Verfahren ist dieser Aufgabe nicht gewachsen, fürchte ich.
@HansZauner @evawolfangel Peer Review macht niemand gerne (soweit ich weiß, bin selbst nicht in der Akademia tätig), da wird dem Hörensagen nach auch an allen Ecken "KI" eingesetzt, das lässt sich alles nur noch schwer wieder einfangen.
Mal sehen wann die Bubble platzt, vielleicht lassen sich danach Lösungen finden -
@HansZauner @evawolfangel Peer Review macht niemand gerne (soweit ich weiß, bin selbst nicht in der Akademia tätig), da wird dem Hörensagen nach auch an allen Ecken "KI" eingesetzt, das lässt sich alles nur noch schwer wieder einfangen.
Mal sehen wann die Bubble platzt, vielleicht lassen sich danach Lösungen findenJa, KI-geschriebene Artikel, die dann mit KI begutachtet werden...
An beiden Enden Fehlanreize. Forscher werden nach ihren Publikationen beurteilt (Anzahl und Reputation des Journals zählt, nicht unbedingt der Inhalt), und Begutachten ist ein zeitaufwändiger und eher undankbarer Job.
-
@LupinoArts @343max @evawolfangel und wenn man Menschen 2x die gleichen Anforderungen gibt, kommt 2x das gleiche Programm raus?
@df5hz @LupinoArts @343max @evawolfangel
Das Problem ist mglw., daß LLMs und Menschen unterschiedliche Fehler machen.
Fehler von Menschen sind für andere Menschen oft nachvollziehbar (sie sind auf Umstände, Kompetenz und Erfahrung rückführbar).
Fehler, die von LLMs erzeugt werden, sind oft kaum nachvollziehbar (sie wirken willkürlich oder gar "hinterhältig").
LLM-Fehler wirken somit doppelt negativ: als Fehler und als Verunsicherung.
Das Auffinden von LLM-Fehlern ist wohl auch aufwändiger.
