Kolumne: Softwareagenten können das Verhalten menschlicher Dilettanten offenbar bereits hervorragend simulieren.

[ralpho@hessen.social]

@chrisstoecker

Abgesehen vom Artikel:

"der werfe die erste Maus" danke für diesen Lacher den ich künftig häufig verwenden werde!

[sabbeljan@norden.social]

@chrisstoecker Danke. Auch für die launigen Beispiele, was Maschinen so angestellt haben. Und, wieder eine "Sorry, told you so" Kolumne.

[_tillwe_@mastodon.social]

@chrisstoecker Danke für den Artikel. Ich frage mich allerdings, ob "alignment" das Problem wirklich trifft - da schwingt ja sowas wie Willensfreiheit mit. Die einem LLM oder einem KI-Agenten zuzuschreiben, greift mir zu weit. Das Zauberlehrling-Beispiel scheint es mir eher zu treffen. Oder halt doch ... Goblins.

[nullbockgeneration@mastodon.social]

@chrisstoecker Eigentlich hat die Menschheit ja genug Probleme mit der Klimakrise.
Auch das noch!

[chrisstoecker@mastodon.social]

@_tillwe_ Ich würde Alignment nicht mit so schwierigen Vokabeln wie Willensfreiheit verknüpfen (das Thema haben wir ja nicht mal bei uns selbst ausdiskutiert :)). Es geht einfach darum, dass es mindestens sehr schwierig ist, ein Problem so exakt zu beschreiben, dass die Maschine beim Lösungsversuch nicht lauter nicht intendierte Dinge tut. Ich finde den Zauberlehrling und den Flaschengeist auch sehr passend.

[chrisstoecker@mastodon.social]

@JamesBont Dazu steht einiges im Text.

[werawelt@social.tchncs.de]

@chrisstoecker
#KI ist künstliche Imitation.
Deshalb kann diese so programmierte Software nur begrenzt etwas Sinnvolles veranlassen und gelungen in die Irre führen.
Es sind die Menschen, die mehr darin zu erkennen glauben.

KI im Spiegel der Gedanken - Werawelt-Blog

Wir Menschen projizieren unsere geistigen Inhalte in das Internet und konservieren sie dort. Das Internet spiegelt dadurch den Geist der Menschheit. Für KI werden massenhaft die Erzeugnisse des menschlichen Geistes im Internet abgegriffen. KI wird dadurch zum Spiegel des Spiegels der geistigen Inhalte der Menschheit. Wird nun etwas durch KI erzeugt, potenziert sich der Blick

Werawelt-Blog - Weltgeschehen, Wissenschaft, Weltsicht (blog.werawelt.de)

[schmidt_fu@mstdn.social]

@chrisstoecker
"To err is human, to really foul things up requires a computer." - attributed to Bill Vaughan or Agatha Christie

[mschfr@mastodon.social]

@chrisstoecker @_tillwe_ Was ich da total interessant finde: Das gleiche Problem gibt es ja auch ohne KI mit echten Menschen in Staaten oder in Firmen. Goodhart's Law oder diese Kobra-Effekte sind ja bekannt und im Kern ja auch Ausdruck des gleichen Phänomen: Der Lösungsversuch macht dann diverse nicht intendierte Dinge und am Ende hast du eine Kobraplage.

[jamesbont@mastodon.social]

@gunchleoc @chrisstoecker

Otto?
Glaubst Du dass jedes Unternehmen sich die Hacker leisten kann die zur Absicherung des eigenes Netzwerkes nötig wären?

Das gilt auch für SW-Entwicklung. Denn viele sind nur kleine Klitschen, bestehend aus ein paar Leuten aber gleichzeitig gezwungen mithalten zu müssen.

Was viele dabei vergessen: es treibt auch die Kosten in die Höhe, was dann wiederum zu Preissteigerungen führt.

Da hat sich die IT-Branche einen richtig schönen Kreislauf gebildet ...