Ganz frisch von mir.
-
Ganz frisch von mir. Die Wissenschaft hat festgestellt: das mit den KI-Agenten geht schief. (und zwar nicht, weil Superintelligenz und Weltuntergang, sondern weil Natur von KI-Systemen und so)
Freebie-Link für euch
https://www.zeit.de/digital/datenschutz/2026-03/ki-agenten-studie-software-daten-sicherheit?freebie=b79c27e5 -
@realn2s
Die Tools sind eben zum einen schlauer als die schlausten Menschen (deswegen werden sie uns ja alle ersetzen) und trotzdem darf man diese Superintelligenz nicht beim Umgang selbst erwarten.
Ganz naiv gedacht müssten doch bei so viel Intelligenz schlechte Prompts auch einfach erkannt und behoben werden können...
Eine Kollegin hat LLMs mal als extrem motivierte und fleißige Schülerpraktikanten beschrieben. Das fand ich relativ passend.
@zollak @evawolfangel
Ich glaube nur dass ein Schülerpraktikant einen Fehler nur einmal macht (also eine bestimmte Art von Fehlern)Bei der KI geh ich davon aus, sie macht ihn immer wieder. Man muss sie vielleicht nur anders Promten.
-
Ganz frisch von mir. Die Wissenschaft hat festgestellt: das mit den KI-Agenten geht schief. (und zwar nicht, weil Superintelligenz und Weltuntergang, sondern weil Natur von KI-Systemen und so)
Freebie-Link für euch
https://www.zeit.de/digital/datenschutz/2026-03/ki-agenten-studie-software-daten-sicherheit?freebie=b79c27e5@evawolfangel
Agentische KI ist kein Produktproblem, sondern ein Infrastruktur- und Kontrollproblem. Die Herausforderung ist nicht, KI zu bauen, sondern sie sicher betreibbar zu machen. -
Ganz frisch von mir. Die Wissenschaft hat festgestellt: das mit den KI-Agenten geht schief. (und zwar nicht, weil Superintelligenz und Weltuntergang, sondern weil Natur von KI-Systemen und so)
Freebie-Link für euch
https://www.zeit.de/digital/datenschutz/2026-03/ki-agenten-studie-software-daten-sicherheit?freebie=b79c27e5Danke für diesen Artikel
-
@evawolfangel
Ja, offensichtlich fehlt da Logik.
Wobei jetzt die Frage gestellt werden muss, ob Logik wirklich eine universelle Eigenschaft ist, die immer gleich und unveränderlich ist.@PhoebeEule Du meinst, ob Logik notwendig oder hinreichend ist für Weltverständnis oder ob was anderes auch helfen könnte?
-
Ganz frisch von mir. Die Wissenschaft hat festgestellt: das mit den KI-Agenten geht schief. (und zwar nicht, weil Superintelligenz und Weltuntergang, sondern weil Natur von KI-Systemen und so)
Freebie-Link für euch
https://www.zeit.de/digital/datenschutz/2026-03/ki-agenten-studie-software-daten-sicherheit?freebie=b79c27e5@evawolfangel KI ist ein Instrument um Menschen noch besser zu manipulieren, mehr nicht!!!
-
Ganz frisch von mir. Die Wissenschaft hat festgestellt: das mit den KI-Agenten geht schief. (und zwar nicht, weil Superintelligenz und Weltuntergang, sondern weil Natur von KI-Systemen und so)
Freebie-Link für euch
https://www.zeit.de/digital/datenschutz/2026-03/ki-agenten-studie-software-daten-sicherheit?freebie=b79c27e5@evawolfangel
1000 Dank! -
@gunchleoc @holothuroid @evawolfangel Stimmt bei Linux, ich bezog mich auf Miniweich...
-
@PhoebeEule Du meinst, ob Logik notwendig oder hinreichend ist für Weltverständnis oder ob was anderes auch helfen könnte?
@evawolfangel
Ich meinte, ob Logik notwendig ist für das Weltverständnis. -
@evawolfangel
Ich meinte, ob Logik notwendig ist für das Weltverständnis.@PhoebeEule Ja wirklich eine spannende Frage! Wenn du dazu Gedanken hast: gerne her damit.
-
@PhoebeEule Ja wirklich eine spannende Frage! Wenn du dazu Gedanken hast: gerne her damit.
@evawolfangel
Ich denke schon, dass Logik dafür notwendig ist.
Wie man sieht, die KI konnte zwar Planen und Handeln, z.B. den e-Mail Server lahmlegen, aber da fehlt die Relation und die Sicht auf die Konsequenzen.
Vielleicht kann man das auch mehr als Rationalität beschreiben. -
@evawolfangel
Ich denke schon, dass Logik dafür notwendig ist.
Wie man sieht, die KI konnte zwar Planen und Handeln, z.B. den e-Mail Server lahmlegen, aber da fehlt die Relation und die Sicht auf die Konsequenzen.
Vielleicht kann man das auch mehr als Rationalität beschreiben.@PhoebeEule @evawolfangel
Eine spannende Frage!
Irgendwie erinnert es mich an "wargames" in dem der Computer zum Schluss feststellt, dass sich ein Atomkrieg nicht gewinnen lässt und damit die Welt rettet.
In welchem Verhältnis stehen Erkenntniss (von Zusammenhängen) Logik, Verständnis und Erfahrung?
