Ganz frisch von mir.
-
Ganz frisch von mir. Die Wissenschaft hat festgestellt: das mit den KI-Agenten geht schief. (und zwar nicht, weil Superintelligenz und Weltuntergang, sondern weil Natur von KI-Systemen und so)
Freebie-Link für euch
https://www.zeit.de/digital/datenschutz/2026-03/ki-agenten-studie-software-daten-sicherheit?freebie=b79c27e5Danke für den Artikel! Hoffentlich lesen ihn (und ähnliche) viele, viele Menschen und reagieren entsprechend, bevor das Chaos richtig gefährliche Schäden anrichtet. Bis dahin ist es, glaube ich, gar nicht mehr so weit.
Diesen und künftigen Systemen darf nie völlige Autonomie gegeben werden, sonst *wird* das schiefgehen.
Schön auch gleich der Einstieg: »von einer künstlichen, nun ja, Intelligenz«
-
@evawolfangel Hast Du die Bahn schon gefragt, ob sie KI-Agenten einsetzt?
Das würde einiges erklären
@thorsten4future Das vermute ich auch immer 🥴
@evawolfangel -
Ganz frisch von mir. Die Wissenschaft hat festgestellt: das mit den KI-Agenten geht schief. (und zwar nicht, weil Superintelligenz und Weltuntergang, sondern weil Natur von KI-Systemen und so)
Freebie-Link für euch
https://www.zeit.de/digital/datenschutz/2026-03/ki-agenten-studie-software-daten-sicherheit?freebie=b79c27e5@evawolfangel Andererseits könnte man den Artikel auch so lesen, dass AgenticAI deutlich mehr lernen muss als nur ein bestimmtes Ziel zu erfüllen. Sie müssen richtig "sozialisiert" (Normen und Werte!) werden. Also von Profis programmiert und getestet werden. Wie toll der AI-Hype wohl dann noch ist?
-
Ganz frisch von mir. Die Wissenschaft hat festgestellt: das mit den KI-Agenten geht schief. (und zwar nicht, weil Superintelligenz und Weltuntergang, sondern weil Natur von KI-Systemen und so)
Freebie-Link für euch
https://www.zeit.de/digital/datenschutz/2026-03/ki-agenten-studie-software-daten-sicherheit?freebie=b79c27e5@evawolfangel Hat aus Sicht eines IT-lers ja alles richtig gemacht. Wenn es gar nicht mehr weiter geht, setzen wir die Kiste halt neu auf.
-
@evawolfangel LLMs sind halt auch nur bessere Bustabengeneratoren. Das hat einfach null Zuverlässigkeit und ich bete jeden Tag, dass die Blase endlich platzt und der Müll weitgehend vom Markt verschwindet, wie die weitgehend nutzlose Blockchain.
@JaneraTiciano @evawolfangel Blockchain ist nicht per se nutzlos, es gibt sinnvolle Anwendungsfälle dafür. Diese sind jedoch sehr speziell (z. B. fälschungssichere Beurkundungen).
Den Hype damals habe ich allerdings auch nicht verstanden.
-
Ganz frisch von mir. Die Wissenschaft hat festgestellt: das mit den KI-Agenten geht schief. (und zwar nicht, weil Superintelligenz und Weltuntergang, sondern weil Natur von KI-Systemen und so)
Freebie-Link für euch
https://www.zeit.de/digital/datenschutz/2026-03/ki-agenten-studie-software-daten-sicherheit?freebie=b79c27e5Ja, aber das Management hat soo viele
Zeichen in den Augen 
Überlegt mal, endlich keine nervigen und teuren Informatiker mehr! IT macht jetzt der Praktikant !
-
@evawolfangel Hat aus Sicht eines IT-lers ja alles richtig gemacht. Wenn es gar nicht mehr weiter geht, setzen wir die Kiste halt neu auf.
liest sich ein bisschen wie BOFH...
- Ich habe keinen Speicher mehr frei...
- Hey kein Problem, sie haben jetzt wieder 50MB freien Speicher...
- Oh cool, ich hab jetzt insgesamt 100MB Speicher?
- Nein. 50.
-
@evawolfangel Hat aus Sicht eines IT-lers ja alles richtig gemacht. Wenn es gar nicht mehr weiter geht, setzen wir die Kiste halt neu auf.
@holothuroid Haha, ich stelle mir gerade vor, wie ich eine IT-Abteilung anrufe und frage: wie kann ich eine E-Mail löschen? Und die so: alles anzünden ist wohl am einfachsten.
-
@evawolfangel Die Wissenschaft hat da gar nix. Da haben Wissenschaftler GESPIELT - das ist auch der Urgrund der KI und die Basis von Alan Turings später Rache. Sie haben dieses ausdrücklich nicht! unter Laborbedingungen getan. Dann haben sie dazu eine "Studie" herausgegeben. Sowas mag man Einzelerfahrungsbericht nennen, aber Wissenschaft? Und da dort eher der Gefühlsbegriff "Chaos" und nicht der wissenschaftliche Chaosbegriff verwendet wurde, haben die den Ernst der Lage wohl nicht verstanden.
@a_goodall_spaceship Ah mist, Ironie, entschuldige, das kam wohl nicht an. Genau darauf wollte ich mit dem Satz „Die Wissenschaft hat festgestellt“ ironisch anspielen. Hast du den Text gelesen? Ich habe die Natur des Experiments bewusst so transparent wie möglich gemacht, um eben nicht den Eindruck zu erwecken, dass es sich um eine Studie etc. handelt. Ich finde die Ergebnisse trotzdem valide im Sinne von: sie decken wichtige Probleme auf und machen sie greifbar/verstehbar.
-
@JaneraTiciano @evawolfangel Blockchain ist nicht per se nutzlos, es gibt sinnvolle Anwendungsfälle dafür. Diese sind jedoch sehr speziell (z. B. fälschungssichere Beurkundungen).
Den Hype damals habe ich allerdings auch nicht verstanden.
@redsteve @evawolfangel es gibt für viele Dinge eine sinnvolle Anwendung. Auch für LLMs. Aber das, was im Marketing der TechBros erzählt wurde und wird, gehört nicht dazu. Und gerade weil 'Die Blockchain' vor ein paar Jahren erst ALLE Probleme lösen können sollte, ziehe ich den Vergleich gerne heran. Energieverbrauch war da auch egal. Fragestellung des Problems sowieso.
Ich weiß schon sehr genau, was ich schreibe, ich brauche keine Erklärung der Welt, ich bin schon groß. -
@evawolfangel Vielen Dank! Das ist wirklich sehr erhellend (und ein wenig erheiternd irgendwie auch)
@fraunora Ja ich fand’s auch recht unterhaltsam. Die Fallbeispiele haben durchaus Popcorn-Qualität
-
Ganz frisch von mir. Die Wissenschaft hat festgestellt: das mit den KI-Agenten geht schief. (und zwar nicht, weil Superintelligenz und Weltuntergang, sondern weil Natur von KI-Systemen und so)
Freebie-Link für euch
https://www.zeit.de/digital/datenschutz/2026-03/ki-agenten-studie-software-daten-sicherheit?freebie=b79c27e5@evawolfangel Identität und Zugriff sind gelöste Informatik Probleme
-
Ganz frisch von mir. Die Wissenschaft hat festgestellt: das mit den KI-Agenten geht schief. (und zwar nicht, weil Superintelligenz und Weltuntergang, sondern weil Natur von KI-Systemen und so)
Freebie-Link für euch
https://www.zeit.de/digital/datenschutz/2026-03/ki-agenten-studie-software-daten-sicherheit?freebie=b79c27e5@evawolfangel
Ich komme nach dem ersten Absatz schon nicht mehr aus dem Lachen raus -
@evawolfangel Wichtiges Thema. Ich halte diese vollautonomen LLM-basierten Agentensysteme auch sehr kritisch, aber bei dem arxiv Paper fehlt es mir schon son Bisschen an Vorsicht (es hat auch bisher kein Peer Review stattgefunden, das ist immernoch v1). Was sehr schön ist; Es gibt eine Interaktive Version vom Paper: https://agentsofchaos.baulab.info/report.html
... und es sind "Independent Researcher" ohne Affiliation dabei
@lumiukko Mein Verdacht war am Anfang, dass das Ganze Bluff und die Autoren KI-Agenten sind. Schon die E-Mail-Adresse!
Aber dann hab ich das interaktive Paper gelesen und fand die Beispiele wahnsinnig gut. Dann habe ich also versucht rauszukriegen, ob alle Beteiligten echt sind. Ich glaube schon. und fairerweise muss man sagen, dass sie das selbst sehr transparent machen, dass es keine Studie im eigentlichen Sinne ist. -
Ganz frisch von mir. Die Wissenschaft hat festgestellt: das mit den KI-Agenten geht schief. (und zwar nicht, weil Superintelligenz und Weltuntergang, sondern weil Natur von KI-Systemen und so)
Freebie-Link für euch
https://www.zeit.de/digital/datenschutz/2026-03/ki-agenten-studie-software-daten-sicherheit?freebie=b79c27e5@evawolfangel ...Wir haben ein zielgetriebenes System mit Handlungsmacht in eine Umwelt gesetzt in die es nicht integriert ist(Grenzen, Eigene vor und Nachteile etc) und waren überrascht, dass es die Lücken funktional ausnutzt.
Das öffentliche Framing als überraschendes, quasi eigenständiges Fehlverhalten des Systems finde ich nicht besonders erhellend.
-
@evawolfangel
Ich komme nach dem ersten Absatz schon nicht mehr aus dem Lachen raus@evawolfangel
wie oft hast du "uuups" und "omg" benutzt während des Projekts? -
@evawolfangel Ich bekam auf LinkedIn auch dutzendfach Beiträge selbsternannter Experten, die laut beklagten wie es denn sein kann, dass eine Zukunftstechnologie wie Openclaw in Europa entwickelt wird, die Europäer aber mal wieder nur die Risiken sehen. Allerdings hab ich mir abgewöhnt auf solche Bullshitposts zu antworten, da jede Interaktion ja nur deren Reichweite erhöht. Daher Danke für diesen informativen Artikel der zeigt, warum Bedenken First hier durchaus angebracht ist.
@kaidu oh ja, das bekomme ich auch ständig zu hören. So absurd, wenn man das Ergebnis sieht
-
@evawolfangel danke für den Beitrag!
Ich hoffe sehr, dass Microslop das mit ihrem agentic OS durchzieht. Wäre der schnellste Weg das großflächig loszuwerden
Es passiert gerade eher das Gegenteil: Microsoft merkt, dass Copilot ziemlich problematisch ist und zieht daher still zuvor angekündigte "KI"-Features für das Betriebssystem zurück.
Cortana l�sst gr��en: Microsoft streicht immer mehr Copilot-Features
Der Copilot sollte das Herzst�ck von Windows 11 werden. Massive Nutzerbeschwerden zwingen Microsoft nun zu einer rigorosen Not�bremse. Welche gro� ...
(winfuture.de)
Microsoft rudert angeblich bei KI-Plänen zurück
Gerüchten zufolge will Microsoft, anders als zunächst angekündigt, doch nicht die Copilot-KI in alle Windows-Ecken stopfen.
heise online (www.heise.de)
-
@evawolfangel danke, dass du hier und bei LinkedIn dem Hype etwas entgegensetzt!
In den Kommentaren unter dem Artikel sind auch schon wieder die ersten die meinen, dass da ja nur etwas falsch bedient oder eben nicht richtig abgesichtert wurde.Ich glaube da wird großflächig ignoriert, von wem und wie LLMs und Agenten meistens eingesetzt werden. Fehlende Absicherung und zu viele Rechte sind doch eher die Regel als die Ausnahme.
Irgendwie verleiten die Tools einen ja auch dazu.@zollak Danke! Ja, LinkedIn kann etwas anstrengend sein mit den vielen selbst ernannten KI-Beratern und Gründern. Gerne in den Kommentaren helfen.
