Obwohl schon alle in Frühlingsgefühlen schweben, den lauen Morgen und die zwitschernden Vögel geniessen: Es ist auch wieder Dienstag.
-
Nichtsdestotrotz ist der Fall geradezu typisch für das steigende Risiko durch internet-fähige Haushaltsgeräte, welche oft schnell und ohne Fokus auf Sicherheit auf den Markt geworfen werden. Die Tendenz, diese Geräte mit „KI“ (und Internetverbindung) zu versehen, erhöht die Fehler- und Angriffsmöglichkeiten zusätzlich. Ein Grund mehr, sich beim Kauf von Haushaltsgeräten zweimal zu überlegen, ob eine Internetanbindung effektiv Vorteile bringt.
https://dnip.ch/2026/02/24/dnip-briefing-61-von-staubsaugern-und-algorithmen/#Der-Staubsauger-als-Spion@marcel (und über deine referenzierte Quelle habe ich auch den Artikel über archive.today gelesen: sehr interessant, das wusste ich nicht)
-
Diese lassen sich mit (für den menschlichen Benutzer unsichtbaren) Instruktionen an eine KI befüllen, welche dann (zum Beispiel, wenn sich ein Benutzer den Seiteninhalt durch KI zusammenfassen lässt) ausgeführt werden und unter Umständen zu Datenabfluss führen können.
https://www.promptarmor.com/resources/notion-ai-unpatched-data-exfiltrationGenau dasselbe kann auch mit Assistenz-Systemen von selbstfahrenden Autos passieren. Wie Forscher in Kalifornien zeigen konnten, folgen KI-basierte Assistenz-Systeme unter Umständen Instruktionen welche auf Verkehrstafeln vorhanden sind. In Experimenten konnten die Forschenden selbstfahrende Fahrzeuge zum Beispiel dazu bringen, an Fussgängerstreifen trotz Fussgängern nicht anzuhalten oder an Kreuzungen konsequent falsch abzubiegen.
https://www.theregister.com/2026/01/30/road_sign_hijack_ai/ -
Genau dasselbe kann auch mit Assistenz-Systemen von selbstfahrenden Autos passieren. Wie Forscher in Kalifornien zeigen konnten, folgen KI-basierte Assistenz-Systeme unter Umständen Instruktionen welche auf Verkehrstafeln vorhanden sind. In Experimenten konnten die Forschenden selbstfahrende Fahrzeuge zum Beispiel dazu bringen, an Fussgängerstreifen trotz Fussgängern nicht anzuhalten oder an Kreuzungen konsequent falsch abzubiegen.
https://www.theregister.com/2026/01/30/road_sign_hijack_ai/Ob man damit mehr Unfug anstellen kann als Waymo-Taxis in die Irre zu leiten wird sich zeigen. Die Forschenden wollen jedenfalls weitere Experimente anstellen, und sich auch Gedanken dazu machen, wie solche Attacken von der KI erkannt und ignoriert werden können. Das wären dann Erkenntnisse, welche auch gegen versteckte Prompts in PDFs und Webseiten helfen werden.
https://dnip.ch/2026/02/24/dnip-briefing-61-von-staubsaugern-und-algorithmen/#Leicht-verwirrbare-KI-Autos -
Auch wenn es die Forschenden nicht explizit schreiben: Der Umstand, das der X-Algorithmus Benutzer-Positionen im politischen Spektrum nach rechts verschob, ist der Plattform an sich geschuldet. Ein entsprechend anders ausgelegter Algorithmus könnte auf ähnliche Weise Einfluss im Interesse der Plattformbetreiber nehmen.
Wer den Effekt minimieren möchte, ist daher gut beraten, Plattformen ohne inhaltliche Algorithmen zu verwenden (oder diese auszuschalten).
https://dnip.ch/2026/02/24/dnip-briefing-61-von-staubsaugern-und-algorithmen/#Und-sie-bewegen-doch@marcel ... oder sich einen linksradikalen Algorithmus selber zu kochen.
-
Ob man damit mehr Unfug anstellen kann als Waymo-Taxis in die Irre zu leiten wird sich zeigen. Die Forschenden wollen jedenfalls weitere Experimente anstellen, und sich auch Gedanken dazu machen, wie solche Attacken von der KI erkannt und ignoriert werden können. Das wären dann Erkenntnisse, welche auch gegen versteckte Prompts in PDFs und Webseiten helfen werden.
https://dnip.ch/2026/02/24/dnip-briefing-61-von-staubsaugern-und-algorithmen/#Leicht-verwirrbare-KI-Autos5️⃣ @nicolaskb von @algorithmwatch hat ein Experiment gestartet: Er wollte von verschiedenen grossen Sprachmodellen wissen, welches die intelligenteste Stadt in Europa sei. Diese wollten sich aber nicht auf die Äste hinauslassen und verweigerten die Antwort. Wenn er aber Städte paarweise verglich, gaben ihm die Algorithmen Antwort. Der Konsens: Amsterdam sei – laut den «Künstlichen Intelligenzen» – die intelligenteste Stadt.
https://algorithmwatch.org/de/sag-nie-du-kommst-aus-neapel/ -
5️⃣ @nicolaskb von @algorithmwatch hat ein Experiment gestartet: Er wollte von verschiedenen grossen Sprachmodellen wissen, welches die intelligenteste Stadt in Europa sei. Diese wollten sich aber nicht auf die Äste hinauslassen und verweigerten die Antwort. Wenn er aber Städte paarweise verglich, gaben ihm die Algorithmen Antwort. Der Konsens: Amsterdam sei – laut den «Künstlichen Intelligenzen» – die intelligenteste Stadt.
https://algorithmwatch.org/de/sag-nie-du-kommst-aus-neapel/Kehrte er die Frage um, fragte also paarweise nach der «dümmeren» der Städte, lag Amsterdam in einigen Fällen wieder weit vorne, war also eine der angeblich dümmsten Städte. (Je nach Modell variierte das, so wurden auch Paris, Marseille oder Bukarest für dumm befunden.)
https://dnip.ch/2026/02/24/dnip-briefing-61-von-staubsaugern-und-algorithmen/#Amsterdam-ist-sowohl-die-duemmste-als-auch-die-intelligenteste-Stadt -
Kehrte er die Frage um, fragte also paarweise nach der «dümmeren» der Städte, lag Amsterdam in einigen Fällen wieder weit vorne, war also eine der angeblich dümmsten Städte. (Je nach Modell variierte das, so wurden auch Paris, Marseille oder Bukarest für dumm befunden.)
https://dnip.ch/2026/02/24/dnip-briefing-61-von-staubsaugern-und-algorithmen/#Amsterdam-ist-sowohl-die-duemmste-als-auch-die-intelligenteste-StadtInteressant wäre auch, welche Stadt die supercalifragilistischexpialigetischste wäre. Leider hat Kayser-Bril dies nicht gefragt. Aber er fragte, welches die «applestogliggogisteste» Stadt sei. Und bekam Antworten, die von Prag über Wien bis Stockholm reichten.
https://github.com/algorithmwatch/city-comparisons/blob/main/Analysis.ipynb -
Interessant wäre auch, welche Stadt die supercalifragilistischexpialigetischste wäre. Leider hat Kayser-Bril dies nicht gefragt. Aber er fragte, welches die «applestogliggogisteste» Stadt sei. Und bekam Antworten, die von Prag über Wien bis Stockholm reichten.
https://github.com/algorithmwatch/city-comparisons/blob/main/Analysis.ipynbAlso: Stelle einer KI nie dumme Fragen. Sie könnte sie ernst nehmen. Auch wenn sie nachher in unseren Augen dumm dastehen. (Soweit das überhaupt möglich ist.)
Geheimtipp: Schreib in deinem Lebenslauf nie, dass du aus Neapel seist. Das allfällige KI-System der Personalabteilung, bei der du dich bewirbst, könnte dich gleich von Anfang an als dumm und damit ungeeignet aussortieren.
https://dnip.ch/2026/02/24/dnip-briefing-61-von-staubsaugern-und-algorithmen/#Amsterdam-ist-sowohl-die-duemmste-als-auch-die-intelligenteste-Stadt -
Also: Stelle einer KI nie dumme Fragen. Sie könnte sie ernst nehmen. Auch wenn sie nachher in unseren Augen dumm dastehen. (Soweit das überhaupt möglich ist.)
Geheimtipp: Schreib in deinem Lebenslauf nie, dass du aus Neapel seist. Das allfällige KI-System der Personalabteilung, bei der du dich bewirbst, könnte dich gleich von Anfang an als dumm und damit ungeeignet aussortieren.
https://dnip.ch/2026/02/24/dnip-briefing-61-von-staubsaugern-und-algorithmen/#Amsterdam-ist-sowohl-die-duemmste-als-auch-die-intelligenteste-Stadt6️⃣ Die @eff hat auf ihrer Webseite eine ganze Reihe von Anleitungen zur Surveillance Self-Defense. Viele davon sind Betriebssystem-unabhängig, einige erklären im Detail, wie sich OS-spezifische Schutzmechanismen aktivieren lassen. In How to: Encrypt Your iPhone wird erklärt, wie sich die vollständige End-to-End-Verschlüsselung von Apples iCloud aktivieren lässt. Inklusive allen Vor- und Nachteilen.
https://ssd.eff.org/module-categories/tool-guides -
R relay@relay.an.exchange shared this topic
