Ganz frisch von mir.

[zollak@bonn.social]

@evawolfangel danke, dass du hier und bei LinkedIn dem Hype etwas entgegensetzt!
In den Kommentaren unter dem Artikel sind auch schon wieder die ersten die meinen, dass da ja nur etwas falsch bedient oder eben nicht richtig abgesichtert wurde.

Ich glaube da wird großflächig ignoriert, von wem und wie LLMs und Agenten meistens eingesetzt werden. Fehlende Absicherung und zu viele Rechte sind doch eher die Regel als die Ausnahme.
Irgendwie verleiten die Tools einen ja auch dazu.

[slesa@social.saarland]

@evawolfangel Meine Lieblingspublizierende Danke.
Trotzdem erschreckend der Inhalt. Und gerade Bericht über "smarte" Waschmaschinen gesehen 🤮

[kleinemy@toot.community]

@evawolfangel
Und wenn der Link nicht mehr funktioniert, hier noch ein Freebie: https://www.zeit.de/digital/datenschutz/2026-03/ki-agenten-studie-software-daten-sicherheit?freebie=52aa6a94

[kaidu@mastodon.social]

@evawolfangel Ich bekam auf LinkedIn auch dutzendfach Beiträge selbsternannter Experten, die laut beklagten wie es denn sein kann, dass eine Zukunftstechnologie wie Openclaw in Europa entwickelt wird, die Europäer aber mal wieder nur die Risiken sehen. Allerdings hab ich mir abgewöhnt auf solche Bullshitposts zu antworten, da jede Interaktion ja nur deren Reichweite erhöht. Daher Danke für diesen informativen Artikel der zeigt, warum Bedenken First hier durchaus angebracht ist.

[sam4000@troet.cafe]

@evawolfangel

es ist erstaunlich das Leute für Interaktion mit der Außenwelt überhaupt autonome Agenten nutzen.

Beim programmieren, also mit fester Aufgabe, festen Regeln und ein festes Ende, geht es ja noch vom Risiko, aber einfach der KI ein Blankoscheck ausstellung und einfach ihn ihr Vertrauen, das geht wie man merkt sowas von schief.

[kaidu@mastodon.social]

@evawolfangel Die Beschwichtigungen, das alles sei nur ein Rechte- und Konfigurationsproblem, halte ich auch für zu kurz gedacht.

LLMs verarbeiten Text. Sie unterscheiden nicht zwischen "authorisiertem" Text und externen Nutzereingaben. Selbst wenn man irgendwelche künstlichen Sonderzeichen einfügen würde, um zwischen beidem zu unterscheiden, so könnte man erst im Finetuning solche Nuancen einfügen. Das Modell kann aber jederzeit in sein Pretraining-Verhalten zurückfallen.

[ohweh@climatejustice.social]

@evawolfangel

[sam4000@troet.cafe]

@evawolfangel

man muss echt sagen, das gerade OpenClaw echt das gefährliche ist, was Menschen mit KI bislang gemacht haben. KI Systeme wie Claude Code und (Openai) Codex sind schon sicherer, gerade mit AGENTS md und Potenzialer SKILLS md.

Aber die grundlegenden KI Eigenheiten sind ja da und werden wohl immer da bleiben. Zumindest solange man die aktuelle LLM Architektur beibehält.

[okuna@social.tchncs.de]

@evawolfangel vielen Dank für den Artikel und den Link. Bin immer froh, wenn du was schreibst und wenn ich das kostenlos lesen darf.
Und ich hoffe, viele lesen den, die KI blind vertrauen oder alles glauben, wie Lemminge, was openAI oder andere sagen.
Aber ganz ehrlich, wer sich mit dem Thema KI und Agenten in den letzten Monaten beschäftigt hat, für den ist das keine Überraschung.
Das ganze Thema Identity & Access Management ist in keinster Weise vorhanden.
Im ersten Schritt müsste man eigentlich jedem Agenten einen eigenen User, zusammen mit einem eigenen Autorisierungsprofil zuweisen.
Das macht aber keiner, weil unbequem.
Wobei perplexity da möglicherweise einen ersten Ansatz hat.
Aber so ist das, wenn man Unwissenden und Uninteressierten eine Atombombe in die Hand gibt.

[lumiukko@metalhead.club]

@evawolfangel Wichtiges Thema. Ich halte diese vollautonomen LLM-basierten Agentensysteme auch sehr kritisch, aber bei dem arxiv Paper fehlt es mir schon son Bisschen an Vorsicht (es hat auch bisher kein Peer Review stattgefunden, das ist immernoch v1). Was sehr schön ist; Es gibt eine Interaktive Version vom Paper: https://agentsofchaos.baulab.info/report.html

... und es sind "Independent Researcher" ohne Affiliation dabei

[tusk@troet.cafe]

@evawolfangel Wie gut, dass das Militär autonome Waffensysteme für immer und für alle verbannt hat.

[slesa@social.saarland]

@evawolfangel Hoffentlich hat das @kattascha nicht gelesen Ok, 2 Lieblingspublizierende...

[fraunora@chaos.social]

@evawolfangel Vielen Dank! Das ist wirklich sehr erhellend (und ein wenig erheiternd irgendwie auch)

[utopiarte@tupambae.org]

@evawolfangel

.. biss das die ultimative nukleare Option uns scheide ..

[marshmallow@troet.cafe]

@evawolfangel danke für den Beitrag!
Ich hoffe sehr, dass Microslop das mit ihrem agentic OS durchzieht. Wäre der schnellste Weg das großflächig loszuwerden

[janeraticiano@mstdn.animexx.de]

@evawolfangel LLMs sind halt auch nur bessere Bustabengeneratoren. Das hat einfach null Zuverlässigkeit und ich bete jeden Tag, dass die Blase endlich platzt und der Müll weitgehend vom Markt verschwindet, wie die weitgehend nutzlose Blockchain.

[thorsten4future@climatejustice.social]

@evawolfangel Hast Du die Bahn schon gefragt, ob sie KI-Agenten einsetzt?

Das würde einiges erklären

[silberspur@bildung.social]

@evawolfangel Vielen Dank! Sehr lesens- und bedenkenswert!

[a_goodall_spaceship@norden.social]

@evawolfangel Die Wissenschaft hat da gar nix. Da haben Wissenschaftler GESPIELT - das ist auch der Urgrund der KI und die Basis von Alan Turings später Rache. Sie haben dieses ausdrücklich nicht! unter Laborbedingungen getan. Dann haben sie dazu eine "Studie" herausgegeben. Sowas mag man Einzelerfahrungsbericht nennen, aber Wissenschaft? Und da dort eher der Gefühlsbegriff "Chaos" und nicht der wissenschaftliche Chaosbegriff verwendet wurde, haben die den Ernst der Lage wohl nicht verstanden.

[wernerprise@mastodon.bits-und-baeume.org]

@evawolfangel

Danke für den Artikel! Hoffentlich lesen ihn (und ähnliche) viele, viele Menschen und reagieren entsprechend, bevor das Chaos richtig gefährliche Schäden anrichtet. Bis dahin ist es, glaube ich, gar nicht mehr so weit.

Diesen und künftigen Systemen darf nie völlige Autonomie gegeben werden, sonst *wird* das schiefgehen.

Schön auch gleich der Einstieg: »von einer künstlichen, nun ja, Intelligenz«