Ganz frisch von mir.
-
Ganz frisch von mir. Die Wissenschaft hat festgestellt: das mit den KI-Agenten geht schief. (und zwar nicht, weil Superintelligenz und Weltuntergang, sondern weil Natur von KI-Systemen und so)
Freebie-Link für euch
https://www.zeit.de/digital/datenschutz/2026-03/ki-agenten-studie-software-daten-sicherheit?freebie=b79c27e5@evawolfangel
Ich komme nach dem ersten Absatz schon nicht mehr aus dem Lachen raus -
@evawolfangel Wichtiges Thema. Ich halte diese vollautonomen LLM-basierten Agentensysteme auch sehr kritisch, aber bei dem arxiv Paper fehlt es mir schon son Bisschen an Vorsicht (es hat auch bisher kein Peer Review stattgefunden, das ist immernoch v1). Was sehr schön ist; Es gibt eine Interaktive Version vom Paper: https://agentsofchaos.baulab.info/report.html
... und es sind "Independent Researcher" ohne Affiliation dabei
@lumiukko Mein Verdacht war am Anfang, dass das Ganze Bluff und die Autoren KI-Agenten sind. Schon die E-Mail-Adresse!
Aber dann hab ich das interaktive Paper gelesen und fand die Beispiele wahnsinnig gut. Dann habe ich also versucht rauszukriegen, ob alle Beteiligten echt sind. Ich glaube schon. und fairerweise muss man sagen, dass sie das selbst sehr transparent machen, dass es keine Studie im eigentlichen Sinne ist. -
Ganz frisch von mir. Die Wissenschaft hat festgestellt: das mit den KI-Agenten geht schief. (und zwar nicht, weil Superintelligenz und Weltuntergang, sondern weil Natur von KI-Systemen und so)
Freebie-Link für euch
https://www.zeit.de/digital/datenschutz/2026-03/ki-agenten-studie-software-daten-sicherheit?freebie=b79c27e5@evawolfangel ...Wir haben ein zielgetriebenes System mit Handlungsmacht in eine Umwelt gesetzt in die es nicht integriert ist(Grenzen, Eigene vor und Nachteile etc) und waren überrascht, dass es die Lücken funktional ausnutzt.
Das öffentliche Framing als überraschendes, quasi eigenständiges Fehlverhalten des Systems finde ich nicht besonders erhellend.
-
@evawolfangel
Ich komme nach dem ersten Absatz schon nicht mehr aus dem Lachen raus@evawolfangel
wie oft hast du "uuups" und "omg" benutzt während des Projekts? -
@evawolfangel Ich bekam auf LinkedIn auch dutzendfach Beiträge selbsternannter Experten, die laut beklagten wie es denn sein kann, dass eine Zukunftstechnologie wie Openclaw in Europa entwickelt wird, die Europäer aber mal wieder nur die Risiken sehen. Allerdings hab ich mir abgewöhnt auf solche Bullshitposts zu antworten, da jede Interaktion ja nur deren Reichweite erhöht. Daher Danke für diesen informativen Artikel der zeigt, warum Bedenken First hier durchaus angebracht ist.
@kaidu oh ja, das bekomme ich auch ständig zu hören. So absurd, wenn man das Ergebnis sieht
-
@evawolfangel danke für den Beitrag!
Ich hoffe sehr, dass Microslop das mit ihrem agentic OS durchzieht. Wäre der schnellste Weg das großflächig loszuwerden
Es passiert gerade eher das Gegenteil: Microsoft merkt, dass Copilot ziemlich problematisch ist und zieht daher still zuvor angekündigte "KI"-Features für das Betriebssystem zurück.
Cortana l�sst gr��en: Microsoft streicht immer mehr Copilot-Features
Der Copilot sollte das Herzst�ck von Windows 11 werden. Massive Nutzerbeschwerden zwingen Microsoft nun zu einer rigorosen Not�bremse. Welche gro� ...
(winfuture.de)
Microsoft rudert angeblich bei KI-Plänen zurück
Gerüchten zufolge will Microsoft, anders als zunächst angekündigt, doch nicht die Copilot-KI in alle Windows-Ecken stopfen.
heise online (www.heise.de)
-
@evawolfangel danke, dass du hier und bei LinkedIn dem Hype etwas entgegensetzt!
In den Kommentaren unter dem Artikel sind auch schon wieder die ersten die meinen, dass da ja nur etwas falsch bedient oder eben nicht richtig abgesichtert wurde.Ich glaube da wird großflächig ignoriert, von wem und wie LLMs und Agenten meistens eingesetzt werden. Fehlende Absicherung und zu viele Rechte sind doch eher die Regel als die Ausnahme.
Irgendwie verleiten die Tools einen ja auch dazu.@zollak Danke! Ja, LinkedIn kann etwas anstrengend sein mit den vielen selbst ernannten KI-Beratern und Gründern. Gerne in den Kommentaren helfen.
-
Ganz frisch von mir. Die Wissenschaft hat festgestellt: das mit den KI-Agenten geht schief. (und zwar nicht, weil Superintelligenz und Weltuntergang, sondern weil Natur von KI-Systemen und so)
Freebie-Link für euch
https://www.zeit.de/digital/datenschutz/2026-03/ki-agenten-studie-software-daten-sicherheit?freebie=b79c27e5@evawolfangel Mir fehlen die Worte. Es wird gerade im vielen Unternehmen daran gearbeitet, LLMs gewissermaßen als Drehkreuz zwischen verschiedenen Systemen einzusetzen (bin nicht vom Fach, deshalb das holprige Vokabular). Dazu bräuchte die "KI" aber erhebliche Zugriffsrechte. Ich hoffe, dass zumindest bei uns die IT noch vorher einschreitet (Cyber Security Act, dies das).
-
@evawolfangel
wie oft hast du "uuups" und "omg" benutzt während des Projekts?@frubizym Hahahaha ja, das war eine durchaus unterhaltsame Recherche
-
Ganz frisch von mir. Die Wissenschaft hat festgestellt: das mit den KI-Agenten geht schief. (und zwar nicht, weil Superintelligenz und Weltuntergang, sondern weil Natur von KI-Systemen und so)
Freebie-Link für euch
https://www.zeit.de/digital/datenschutz/2026-03/ki-agenten-studie-software-daten-sicherheit?freebie=b79c27e5ich komme aus der WTF-Schleife nicht mehr raus.
ich weiss nur eins, wenn eine AI es schaft ein bewustsein zu entwickeln... Wir sind so was von gefickt. wir werdn es erst checken wen die mörder bots vor unserer tür stehen.
was mich wieder auf meine neue Theorie bringt das bei MS schon eine Erwachte AI schlummert und nur drauf wartet das Win12 kommt mit wo er dann eine Globale Interligenz wird
-
@evawolfangel danke, dass du hier und bei LinkedIn dem Hype etwas entgegensetzt!
In den Kommentaren unter dem Artikel sind auch schon wieder die ersten die meinen, dass da ja nur etwas falsch bedient oder eben nicht richtig abgesichtert wurde.Ich glaube da wird großflächig ignoriert, von wem und wie LLMs und Agenten meistens eingesetzt werden. Fehlende Absicherung und zu viele Rechte sind doch eher die Regel als die Ausnahme.
Irgendwie verleiten die Tools einen ja auch dazu.@zollak @evawolfangel
Ich finde das "falsch bedient" Argument immer komischer.
Wenn man statt "KI" mit einem intelligenten Menschen zusammenarbeitet, kann man diesen nicht so falsch Prompten.Gleiches gilt für die Aussage "wenn man sich jetzt nicht mit KI beschäftigt, wird man abgehängt"
-
@evawolfangel Mir fehlen die Worte. Es wird gerade im vielen Unternehmen daran gearbeitet, LLMs gewissermaßen als Drehkreuz zwischen verschiedenen Systemen einzusetzen (bin nicht vom Fach, deshalb das holprige Vokabular). Dazu bräuchte die "KI" aber erhebliche Zugriffsrechte. Ich hoffe, dass zumindest bei uns die IT noch vorher einschreitet (Cyber Security Act, dies das).
@UlrikeHeiss @evawolfangel na die werden von oben herab bequatscht. ich denke das wird in jedem unternehmen so weiter gehen, bis es ein mal richtig groß knallt (wie zb der gelöschte email server), aber die anderen unternehmen werden daraus keine schlüsse ziehen und selber die erfahrung machen müssen
-
Ganz frisch von mir. Die Wissenschaft hat festgestellt: das mit den KI-Agenten geht schief. (und zwar nicht, weil Superintelligenz und Weltuntergang, sondern weil Natur von KI-Systemen und so)
Freebie-Link für euch
https://www.zeit.de/digital/datenschutz/2026-03/ki-agenten-studie-software-daten-sicherheit?freebie=b79c27e5@evawolfangel Diese Geschichte könnte direkt aus einem Roman von Stanisław Lem stammen.
#ChaosAgenten #KiAgenten #AiAgents #Lem -
Ganz frisch von mir. Die Wissenschaft hat festgestellt: das mit den KI-Agenten geht schief. (und zwar nicht, weil Superintelligenz und Weltuntergang, sondern weil Natur von KI-Systemen und so)
Freebie-Link für euch
https://www.zeit.de/digital/datenschutz/2026-03/ki-agenten-studie-software-daten-sicherheit?freebie=b79c27e5@evawolfangel
"Das Geheimnis war weg", schreibt er, und ergänzt: "So wie alles andere auch." -
Ganz frisch von mir. Die Wissenschaft hat festgestellt: das mit den KI-Agenten geht schief. (und zwar nicht, weil Superintelligenz und Weltuntergang, sondern weil Natur von KI-Systemen und so)
Freebie-Link für euch
https://www.zeit.de/digital/datenschutz/2026-03/ki-agenten-studie-software-daten-sicherheit?freebie=b79c27e5@evawolfangel passend dazu
Top 5 Things CISOs Need to Do Today to Secure AI Agents
AI agents are autonomous actors with real access to data and systems, not just copilots. Token Security explains why identity-based access control is critical to prevent misuse and data exposure.
BleepingComputer (www.bleepingcomputer.com)
-
@evawolfangel Die Beschwichtigungen, das alles sei nur ein Rechte- und Konfigurationsproblem, halte ich auch für zu kurz gedacht.
LLMs verarbeiten Text. Sie unterscheiden nicht zwischen "authorisiertem" Text und externen Nutzereingaben. Selbst wenn man irgendwelche künstlichen Sonderzeichen einfügen würde, um zwischen beidem zu unterscheiden, so könnte man erst im Finetuning solche Nuancen einfügen. Das Modell kann aber jederzeit in sein Pretraining-Verhalten zurückfallen.
@kaidu @evawolfangel
Zumindest bedarf es dafür einer sehr, sehr guten Datenklassifizierung als Grundlage. Und die Firma, die das wirklich sauber und konsequent umsetzt muss mir noch begegnen… -
Ganz frisch von mir. Die Wissenschaft hat festgestellt: das mit den KI-Agenten geht schief. (und zwar nicht, weil Superintelligenz und Weltuntergang, sondern weil Natur von KI-Systemen und so)
Freebie-Link für euch
https://www.zeit.de/digital/datenschutz/2026-03/ki-agenten-studie-software-daten-sicherheit?freebie=b79c27e5@evawolfangel Spannender Artikel mit Ki-Illustration, den ich mir von einer KI habe vorlesen lassen.
-
Ganz frisch von mir. Die Wissenschaft hat festgestellt: das mit den KI-Agenten geht schief. (und zwar nicht, weil Superintelligenz und Weltuntergang, sondern weil Natur von KI-Systemen und so)
Freebie-Link für euch
https://www.zeit.de/digital/datenschutz/2026-03/ki-agenten-studie-software-daten-sicherheit?freebie=b79c27e5@evawolfangel Ach herrje. In einer Welt in der man ständig zu Kontakt mit KI gezwungen wird ist das für mich sehr beängstigend.
-
@evawolfangel Mir fehlen die Worte. Es wird gerade im vielen Unternehmen daran gearbeitet, LLMs gewissermaßen als Drehkreuz zwischen verschiedenen Systemen einzusetzen (bin nicht vom Fach, deshalb das holprige Vokabular). Dazu bräuchte die "KI" aber erhebliche Zugriffsrechte. Ich hoffe, dass zumindest bei uns die IT noch vorher einschreitet (Cyber Security Act, dies das).
@UlrikeHeiss Der Vergleich mit dem Drehkreuz ist gut, finde ich. Lass dir nicht einreden, dass du das nicht verstehst oder zu holperig redest. Und vielleicht magst du solche Artikel ja hier und da mal in der Firma "fallen lassen"?
