CIRCLE WITH A DOT

@CerstinMahlow Ich würde eher sagen: Es ist immer mehr Reflexion und Aufwand nötig, um dem auszuweichen, aber noch kann man es. Und man kann es um so besser, je mehr man an eigenen Fertigkeiten erwirbt — wer eine gute Zusammenfassung schreiben kann, erkennt, wie schlecht die KI-Zusammenfassungen sind, wer selbst in der Lage ist, relevante Literatur zu erschließen, erkennt, was für eine beliebige Zusammenstellung einem eine KI-gestützte Suche liefert, usw.

@Giliell Ich sage nicht, dass sie egal sind, sondern, dass sie als Bewertungskriterium im Fremdsprachenunterreicht ungeeignet sind. (Ich glaube, man lernt sie auch besser durch positives Feedback und positive Vorbilder als durch Angst vor schlechten Noten, aber das wäre noch mal ein anderes Thema).

@frank Sehr schöne Beschreibung des Problems! @michaelgiesler @goblin

@ennopark Als Institut sind wir in unserer Geschlossenheit die Ausnahme, aber viele Kolleg_innen sehen es natürlich wie wir. Über den Einsatz in der Forschung haben wir im Institut nicht diskutiert und wollen das zunächst auch nicht tun. Mir ist bisher aber kein sinnvoller (oder auch nur am Rande plausibler) Einsatz von generativer KI in der Forschung begegnet — höchstens mal, dass man eine Datei von csv in json konvertiert, aber das konnten wir ja vorher auch ohne KI...

@Giliell Das ist nur deshalb unrealistisch, weil die Schulen an einer überholten Vorstellung von Sprachverwendung und Sprachenlernen festhalten, und weil sie nicht berücksichtigen, dass Fremdsprachenunterricht etwas qualitativ völlig anderes ist als andere Schulfächer. In einem modernen Fremdsprachunterricht, der sich an kommunikativen Kompetenzen orientiert, sollten sprachliche Fehler tatsächlich nicht zu (nennenswerten) Punktabzügen führen!

@michaelgiesler Auf jeden Fall kannst du sehr gut falsche Äquivalenzen produzieren — übrigens eine der wenigen Dinge, in denen auch die LLMs gut sind @glitzersachen

@danimrich Ja, und natürlich gibt es niemanden, der so etwas unterrichten könnte — allein schon, weil die Tools in ihrer Funktionsweise absichtlich intransparent sind und sich ständig ändern, so dass es eigentlich nur zwei Arten von potenziellen Lehrkräften für solche Kurse gibt: Diejenigen, die sich einbilden, sie wüssten, wie man sinn-/verantwortungsvoll mit KI umgeht, und diejenigen, die wissen, dass es einen solchen Umgang nicht gibt.

@Teskariel Die haben wir ja auch jetzt bei Präsenzprüfungen im Blick. Die Betroffenen haben normalerweise einen Nachteilsausgleich, der solche Situationen regelt (zum Beispiel durch zusätzliche Zeit bei der Vorbereitung und/oder der Prüfung selbst, durch die Bereitstellung von Räumen, in denen sie alleine sitzen können, durch vorherigen Aufbau von Vertrauen zwischen Prüfling und Prüfer_in usw.). @cwilcke

@CerstinMahlow Wie unser Statement zeigt, ist die Recherche ja explizit einer der Bereiche, in denen wir die KI nicht erlauben, aber da kämpfen wir auch durchaus gegen die eigene Uni-Bibliothek, die eine KI in den Bibliothekskatalog integriert hat. Im Moment muss die wenigstens noch explizit aktiviert werden...

@CerstinMahlow In dem Beispiel geht es ja eher schon darum, die Studierenden vor diesen Technologien zu warnen und ihnen beizubringen, sie zu umgehen. Bei der Literaturrecherche muss man wieder stärker auf traditionelle Methoden der Erschließung setzen, oder sich eben durch den KI-generierten Ergebnis-Müll wühlen. Bei den Zusammenfassungen kann man den Studierenden wenigstens recht leicht zeigen, wie schlecht die sind und wie wenig Sinn es hat, sich auf sie zu verlassen.

@michaelgiesler Weder ein Taschenrechner noch ein Computer haben in ihrem Wesen irgendetwas mit generativer KI gemeinsam, aber wie @goblin richtig sagt, müssen/sollten wir selbst mit diesen Technologien immer so vorgehen, dass wir auch darauf verzichten könnten.

@michaelgiesler Man löst das Problem, dass die Studierenden das eigene Denken und Handeln outsourcen, und noch dazu an einen Textgenerator, der ein Denken und Handeln dann nur oberflächlich simuliert. Ob der Einsatz von KI im geisteswissenschaftlichen Umfeld gang und gäbe ist, würde ich jetzt erstmal dahingestellt sein lassen — aber selbst, wenn es so wäre, wäre dieser Einsatz falsch und kein Grund, sich dem anzuschließen.

@ingo _vonstattengehen_ wird seit 2004 als ein Wort geschrieben, aber dafür ziehe ich keine Punkte ab!

@Bindestriche Das Beispiel mit Sehbehinderungen (oder anderen Einschränkungen) ist ein eigenes Thema — die betroffenen Studierenden beantragen Nachteilsausgleiche, in denen steht, wo sie welche zusätzlichen Hilfsmittel verwenden dürfen. Das ist schon jetzt so, und das wird auch bei KI-Tools der Fall sein. Über diese Ausgleiche entscheiden aber (aus guten Gründen) nicht die Institute und die Lehrenden, sondern Leute, die sich mit so etwas auskennen!

@Bindestriche Was das Beispiel mit dem Entziffern von Handschriften betrifft, das ist für unser Fach nicht sehr relevant, aber ein gutes Beispiel dafür, warum wir den KI-Einsatz verbieten: Studierende müssen ja lernen, Handschriften zu entziffern, also ist es sinnlos, ihnen dafür die Benutzung einer KI zu erlauben. Wenn sie es erst einmal können, können sie später auch die Ergebnisse solcher KIs kritisch überprüfen (so steht es ja allgemein in unserem Statement).

Zum Beispiel, indem man sprachliche Korrektheit nicht in die Note einbezieht. Die Studierenden bekommen Feedback zu ihren Fehlern, aber keinen Punktabzug — schon gibt es keine Motivation mehr, den Text vor der Abgabe durch eine „KI“ korrigieren zu lassen. Oder, indem man weniger die Ergebnisse und mehr den Weg dahin zum Prüfungskriterium macht — schon ist es weniger attraktiv, ein KI-generiertes „Endprodukt“ abzugeben, weil man den Weg dahin sehr aufwändig fälschen müsste.

Weil im Thread mehrfach nach Möglichkeiten der Überprüfung gefragt wird (seht auch meine Antworten dort), hier ein wichtiger Gedanke: Es geht nicht vorrangig darum, Studierende im Nachhinein zu überführen, sondern darum, sie von vornherein davon abzuhalten, überhaupt „KI“ zu verwenden. Das geht manchmal mit sehr einfachen Mitteln:

@Bindestriche Ich würde nicht ausschließen, dass wir in Zukunft stärker differenzieren — im Kern geht es uns als Philologie natürlich um LLMs und ähnliche Anwendungen, die Aufgaben wie die in unserem Statement aufgeführten übernehmen (bzw. vorspiegeln, das zu tun), allgemeiner um alles, was man als „generativ“ bezeichnen könnte, also um alles, was Leistungen des menschlichen Geistes simuliert.

@Bindestriche Eine reine Rechtschreibprüfung auf Wortebene wäre wohl geduldet, eine weitergehende sprachliche Prüfung (mit Grammatikprüfung, Paraphrasierungsvorschlägen usw.) auf jeden Fall nicht (bei OCR bin ich mir nicht sicher, inwiefern das Scannen eines Dokuments Teil einer Studien- oder Prüfungsleistung sein könnte). Das Verbot ist absichtlich sehr breit gefasst, damit Studierende sich im Zweifelsfall eine explizite Erlaubnis bei uns einholen.

@stefan_hessbrueggen Durch andere Prüfungsformen (mündl. Prüfungen, Fachgespräche, Klausuren), durch Dokumentation von Zwischenschritten bei schriftlichen Arbeiten und durch sorgfältiges Lesen (ist ja nicht so, als ob wir den LLM-Output nicht von dem unterscheiden könnten, was Studierende selbst produzieren). Diese Probleme betreffen aber nicht speziell uns, sondern auch Institute, auch die, die den Einsatz von KI für bestimmte Zwecke zulassen.