Ganz frisch von mir.

[holgertdittmann@ruhr.social]

@lipow @evawolfangel Ein Sanitätshaus hier in der Gegend hat seinen Telefon-KI-Assistenten wieder abgeschaltet nachdem Servicetechniker*innen häufiger zu anderen Terminen Hausbesuche durchgeführt haben als das System mit den Kund*innen vereinbart hatte.

[brahms@chaos.social]

@UlrikeHeiss @evawolfangel das kommt dann konkret auf die implementierung an. Das drehkreuz (schöne metapher!) muss ja nicht zwangsläufig administrative rechte besitzen. ordentliche security baut hoffentlich auf dem least-privilege prinzip auf, wobei dann natürlich die annahme besteht, dass jemand aus security-sicht draufschaut und die entscheidungskompetenz dazu hat, auch schwierig ^^

[zollak@bonn.social]

@realn2s
Die Tools sind eben zum einen schlauer als die schlausten Menschen (deswegen werden sie uns ja alle ersetzen) und trotzdem darf man diese Superintelligenz nicht beim Umgang selbst erwarten.

Ganz naiv gedacht müssten doch bei so viel Intelligenz schlechte Prompts auch einfach erkannt und behoben werden können...

Eine Kollegin hat LLMs mal als extrem motivierte und fleißige Schülerpraktikanten beschrieben. Das fand ich relativ passend.

@evawolfangel

[a_goodall_spaceship@norden.social]

@evawolfangel Ich hab's jetzt nochmal gelesen, sogar das Intro der Original-Studie.
Alles kommt zwar modern witzig spielerisch rüber, aber mir scheint alles mit wissenschaftlich-informativem Anspruch veröffentlicht zu sein.
Es ist halt noch ein witziges Thema, wie mit Schleimpilzen, aber Ironie bin ich irgendwie zu blöd zu entdecken.
Das kann aber auch an meiner zunehmenden Krampfneigung bei dem Thema liegen.
Aber bitte weiterhin nicht mit Erklär-Icons nachstecken, ich blamiere mich lieber.

[nike_leonhard@literatur.social]

@evawolfangel
Ich habe ihn gerade "in eine Firma fallen lassen." ^^
@UlrikeHeiss

[holgertdittmann@ruhr.social]

@lipow @evawolfangel „Tobi“, der KI-Assistent von Vodafone, wusste vor ein paar Monaten nicht dass man auch einen reinen Kabelfernsehanschluss haben kann, und wenn man den LTE-Router „Gigacube“ nutzt kann „Tobi“ auch nicht helfen. Die Technischer-Service-Telefonnummer erfragt man dann beim Vertrieb, die kennen das inzwischen.

[lim@ioc.exchange]

@evawolfangel Ich bin nicht überrascht. Jetzt ist der nächste Schritt zu verstehen, wie man das Tool KI Agenten sicher verwenden kann.

[frederik@ohai.social]

@realn2s @zollak @evawolfangel

Ich würde schon sagen, dass man auch Menschen "falsch prompten" kann. Schonmal eine Übungs-/Klausuraufgabe gestellt und hinterher gedacht "Mist, so wie die das gelöst haben hab ich das doch gar nicht gemeint!"?

Aber ich würde auch sagen, dass das bei KI ne andere Größenordnung ist. Bei Menschen muss nicht nur ich mein eigenes Verhalten mit 17 Kursen/Fortbildungen in "Prompting" (bzw. Personalführung) massiv umkrempeln. Da können sich *beide* Seiten entwickeln.

[calceola@mastodon.social]

@evawolfangel es ist immer wieder erstaunlich, wie Entwicklerinnen und Entwickler glauben an alles gedacht zu haben und dann kommt die Realität und straft sie Lügen. Mikrowellengeräte sind toll, trotzdem ist es eine blöde Idee eine Katze rein zu packen.

[energisch_@troet.cafe]

@evawolfangel Vielen Dank für diesen Einblick. Ist noch schlimmer als angenommen :

[energisch_@troet.cafe]

@evawolfangel Wenn ich mir vorstelle, dass viele Verwaltungen vorhaben, Personal zu reduzieren, um Verwaltungsabläufe schneller über KI regeln zu lassen... das wird uns so auf die Füße fallen. Gruselig.

[kattascha@chaos.social]

@slesa Die wunderbare @evawolfangel ist auch eine meiner Lieblingspublizierenden

[naturemc@mastodon.online]

@zollak KI hat keinerlei Intelligenz. Nicht mal die einer Ameise. @realn2s @evawolfangel

[realn2s@infosec.exchange]

@Weirdaholic @zollak @evawolfangel

Ich stimme dem Teil "sich damit beschäftigen ist sinnvoll" voll zu (abgesehen von den ethischen Implikationen)

Ich stimme nur dem "wenn man es jetzt nicht tut, ist man (für immer) abgehängt" nicht zu.

Es gibt m.E. keinen dauerhaften First-Mover Vorteil.

Wenn man Firmen betrachtet: Google war nicht die erste Suchmaschine, Apple nicht der erste Computer oder das erste Smartphone (und der Android Markt ist inzwischen viel größer), Facebook war nicht das erste Soziale Netzwerk. Und Microsoft war quasi überall zu spät (GUI, Tabellenkalkulation, Datenbanken, Internet, Browser, Email, Cloud, ..) ist aber auf vielen der Gebiete jetzt vorherrschend.

Auf den Punkt gebracht, ja sich mit KI auszukennen ist gut. Aber man kann sich (speziell als Firma) auch Zeit lassen und dann anfangen, wenn sich der Nebel gelichtet hat.
Für Privatpersonen ist natürlich die KI Expertise ein absolutes "Verkaufsargument" auf dem Jobmarkt

[evawolfangel@chaos.social]

@kattascha Und das gilt ebenso andersherum. Same here.

@slesa

[guacamole@chaos.social]

@evawolfangel Und das in Kombination mit einem komplett unfähigen Präsidenten, der sicher die KI beauftragt: "Beende den Krieg in Iran" und Wargames ist echt kein Science Fiction mehr.

[zollak@bonn.social]

@NatureMC
Darauf wollte ich grob hinaus, ja.

Diese Erkenntnis müsste sich noch etwas weiter verbreiten. Viele scheinen ja gern Eloquenz mit Intelligenz zu verwechseln.
Oder machen mit, weil sie am Hype verdienen wollen.

@realn2s @evawolfangel

[lumiukko@metalhead.club]

@evawolfangel Stimmt, dass die Autor:innen fake sein könnten, hatte ich gar nicht überlegt. Tatsächlich fiel mir aber auf, dass die Affiliations relativ grob sind, also keine Departments oder Fakultäten, nur die Unis.

[docwu@troet.cafe]

@zollak @evawolfangel ich gehe davon aus, das die wenigsten Unternehmen, die gerade auf den "AI or die" Zug aufspringen, die Absicherung ihrer Agenten wirklich auf dem Radar haben. Da werden dann auch gerne mal bestehende Autorisierungssysteme für menschliche Akteure, oft rollen-basiert, druntergebaut, die einfach nicht für non-human gemacht sind. Aber selbst eine ideale Autorisierung kann das Risiko nur verringern.

[kzad_bhat@chaos.social]

@evawolfangel wow.. einfach..🤯 Danke dafür.