Obwohl schon alle in Frühlingsgefühlen schweben, den lauen Morgen und die zwitschernden Vögel geniessen: Es ist auch wieder Dienstag.
-
Auch verfügen smarte Staubsauger über Kameras, Mikrophone und weitere Sensoren, um sich ein Bild ihrer Umgebung zu machen. Da diese Sensoren durchaus auch vertrauliche oder intime Informationen preisgeben können, müssen die Staubsauger entsprechend gut gegen fremde Zugriffe geschützt sein.
Könnte man zumindest meinen. Dass dem nicht immer so ist, hat ein Software-Ingenieur vor ein paar Wochen anhand seines DJI Romo-Staubsaugers herausgefunden.
https://www.msn.com/en-us/technology/consumer-electronics/roomba-privacy-scandal-leaked-images-and-lidar-data-raise-new-surveillance-fears/ar-AA1WtnEAEr wollte mithilfe eines KI-Assistenten die Kommunikation zwischen dem Staubsauger und dem DJI-Cloud-Server analysieren, um eine eigene Steuerung zu entwickeln. So nebenbei fand er dabei auch heraus, dass dieselben Anmeldeinformationen, die ihm den Zugriff und die Kontrolle über sein eigenes Gerät ermöglichten, auch Zugang zu Live-Kamerafeeds, Mikrofon-Audio, Karten und Statusdaten von fast 7’000 anderen Staubsaugern in 24 Ländern boten.
https://www.popsci.com/technology/robot-vacuum-army/ -
Er wollte mithilfe eines KI-Assistenten die Kommunikation zwischen dem Staubsauger und dem DJI-Cloud-Server analysieren, um eine eigene Steuerung zu entwickeln. So nebenbei fand er dabei auch heraus, dass dieselben Anmeldeinformationen, die ihm den Zugriff und die Kontrolle über sein eigenes Gerät ermöglichten, auch Zugang zu Live-Kamerafeeds, Mikrofon-Audio, Karten und Statusdaten von fast 7’000 anderen Staubsaugern in 24 Ländern boten.
https://www.popsci.com/technology/robot-vacuum-army/Der eigentliche Fehler lag dabei in den Server-Systemen von DJI. Er erlaubte ihm de facto Zugriff auf eine kleine Armee von internetverbundenen Robotern. Auf diese Weise hätte er die Umgebung von 7’000 anderen Staubsaugern überwachen können, ohne dass deren Besitzer je davon erfahren hätten.
Im konkreten Fall hat DJI schnell reagiert und konnte das Problem mit zwei automatisch eingespielten Updates beheben.
https://dnip.ch/2026/02/24/dnip-briefing-61-von-staubsaugern-und-algorithmen/#Der-Staubsauger-als-Spion -
Der eigentliche Fehler lag dabei in den Server-Systemen von DJI. Er erlaubte ihm de facto Zugriff auf eine kleine Armee von internetverbundenen Robotern. Auf diese Weise hätte er die Umgebung von 7’000 anderen Staubsaugern überwachen können, ohne dass deren Besitzer je davon erfahren hätten.
Im konkreten Fall hat DJI schnell reagiert und konnte das Problem mit zwei automatisch eingespielten Updates beheben.
https://dnip.ch/2026/02/24/dnip-briefing-61-von-staubsaugern-und-algorithmen/#Der-Staubsauger-als-SpionNichtsdestotrotz ist der Fall geradezu typisch für das steigende Risiko durch internet-fähige Haushaltsgeräte, welche oft schnell und ohne Fokus auf Sicherheit auf den Markt geworfen werden. Die Tendenz, diese Geräte mit „KI“ (und Internetverbindung) zu versehen, erhöht die Fehler- und Angriffsmöglichkeiten zusätzlich. Ein Grund mehr, sich beim Kauf von Haushaltsgeräten zweimal zu überlegen, ob eine Internetanbindung effektiv Vorteile bringt.
https://dnip.ch/2026/02/24/dnip-briefing-61-von-staubsaugern-und-algorithmen/#Der-Staubsauger-als-Spion -
Nichtsdestotrotz ist der Fall geradezu typisch für das steigende Risiko durch internet-fähige Haushaltsgeräte, welche oft schnell und ohne Fokus auf Sicherheit auf den Markt geworfen werden. Die Tendenz, diese Geräte mit „KI“ (und Internetverbindung) zu versehen, erhöht die Fehler- und Angriffsmöglichkeiten zusätzlich. Ein Grund mehr, sich beim Kauf von Haushaltsgeräten zweimal zu überlegen, ob eine Internetanbindung effektiv Vorteile bringt.
https://dnip.ch/2026/02/24/dnip-briefing-61-von-staubsaugern-und-algorithmen/#Der-Staubsauger-als-Spion3️⃣ Wer im Internet auf Zeitungsportale und andere paywall-geschützte Seiten zugreifen möchte, hat vermutlich schon das eine oder andere Mal archive.is (auch bekannt als archive.today) verwendet um den Schutz zu umgehen. Auch wenn weder der Betreiber bekannt ist noch klar ist, wie sich der Dienst überhaupt finanziert, erfreut er sich durchaus einer gewissen Beliebtheit (bei aller Liebe zum Journalismus auch in Teilen der DNIP-Redaktion).
https://dnip.ch/2026/02/24/dnip-briefing-61-von-staubsaugern-und-algorithmen/#Archiveis-auf-noch-mehr-Abwegen -
3️⃣ Wer im Internet auf Zeitungsportale und andere paywall-geschützte Seiten zugreifen möchte, hat vermutlich schon das eine oder andere Mal archive.is (auch bekannt als archive.today) verwendet um den Schutz zu umgehen. Auch wenn weder der Betreiber bekannt ist noch klar ist, wie sich der Dienst überhaupt finanziert, erfreut er sich durchaus einer gewissen Beliebtheit (bei aller Liebe zum Journalismus auch in Teilen der DNIP-Redaktion).
https://dnip.ch/2026/02/24/dnip-briefing-61-von-staubsaugern-und-algorithmen/#Archiveis-auf-noch-mehr-AbwegenWie bereits vor zwei Wochen bekannt wurde, nutzte der Betreiber von archive.today seine Website allerdings auch, um einen Kritiker mundtot zu machen (oder zumindest dessen Internet-Präsenz zu stören). Der Finne Janni Patokallio hatte in seinem Blog bereits 2023 eine Analyse über die potentiellen Hintergründe von archive.today veröffentlicht.
https://dnip.ch/2026/02/24/dnip-briefing-61-von-staubsaugern-und-algorithmen/#Archiveis-auf-noch-mehr-Abwegen -
Nichtsdestotrotz ist der Fall geradezu typisch für das steigende Risiko durch internet-fähige Haushaltsgeräte, welche oft schnell und ohne Fokus auf Sicherheit auf den Markt geworfen werden. Die Tendenz, diese Geräte mit „KI“ (und Internetverbindung) zu versehen, erhöht die Fehler- und Angriffsmöglichkeiten zusätzlich. Ein Grund mehr, sich beim Kauf von Haushaltsgeräten zweimal zu überlegen, ob eine Internetanbindung effektiv Vorteile bringt.
https://dnip.ch/2026/02/24/dnip-briefing-61-von-staubsaugern-und-algorithmen/#Der-Staubsauger-als-Spion@marcel ja, es ist wirklich verrückt. Da reden wir über Datenschutz und liefern gleichzeitig den Konzernen genaue Informationen, wann wir kochen, was in unserem Kühlschrank ist, und via Mähroboter und Roombas einen Lageplan unseres Lebensbereichs.
-
Wie bereits vor zwei Wochen bekannt wurde, nutzte der Betreiber von archive.today seine Website allerdings auch, um einen Kritiker mundtot zu machen (oder zumindest dessen Internet-Präsenz zu stören). Der Finne Janni Patokallio hatte in seinem Blog bereits 2023 eine Analyse über die potentiellen Hintergründe von archive.today veröffentlicht.
https://dnip.ch/2026/02/24/dnip-briefing-61-von-staubsaugern-und-algorithmen/#Archiveis-auf-noch-mehr-AbwegenNachdem der FBI im letzten Herbst Ermittlungen aufgenommen hatte, sah der anonyme Betreiber wohl den Zeitpunkt gekommen, Seiten anzugreifen, welche Informationen über ihn veröffentlichten. Daher fügte er auf der archive.today-Seite selbst einige Zeilen Javascript ein, welche bei jedem Seitenaufruf auch Zugriffe auf das Blog von Janni Patokallio ausführten. Jede/r Benutzer/in von archive.today wurde dadurch unwissentlich Teil einer DDoS-Attacke.
https://gyrovague.com/2023/08/05/archive-today-on-the-trail-of-the-mysterious-guerrilla-archivist-of-the-internet/ -
Nachdem der FBI im letzten Herbst Ermittlungen aufgenommen hatte, sah der anonyme Betreiber wohl den Zeitpunkt gekommen, Seiten anzugreifen, welche Informationen über ihn veröffentlichten. Daher fügte er auf der archive.today-Seite selbst einige Zeilen Javascript ein, welche bei jedem Seitenaufruf auch Zugriffe auf das Blog von Janni Patokallio ausführten. Jede/r Benutzer/in von archive.today wurde dadurch unwissentlich Teil einer DDoS-Attacke.
https://gyrovague.com/2023/08/05/archive-today-on-the-trail-of-the-mysterious-guerrilla-archivist-of-the-internet/Zumindest die englischsprachige Wikipedia hat dies nun zum Anlass genommen, sämtliche archive.today-Links durch Links auf das Internet Archive oder andere Archiv-Seiten zu ersetzen. Insgesamt geht es um annähernd 700’000 Links, welche weitgehend manuell ersetzt werden müssen, und bei denen bei jeder Ersetzung geprüft werden muss, ob die referenzierten Inhalte überhaupt andersweitig erreichbar sind und übereinstimmen.
https://dnip.ch/2026/02/24/dnip-briefing-61-von-staubsaugern-und-algorithmen/#Archiveis-auf-noch-mehr-Abwegen -
Zumindest die englischsprachige Wikipedia hat dies nun zum Anlass genommen, sämtliche archive.today-Links durch Links auf das Internet Archive oder andere Archiv-Seiten zu ersetzen. Insgesamt geht es um annähernd 700’000 Links, welche weitgehend manuell ersetzt werden müssen, und bei denen bei jeder Ersetzung geprüft werden muss, ob die referenzierten Inhalte überhaupt andersweitig erreichbar sind und übereinstimmen.
https://dnip.ch/2026/02/24/dnip-briefing-61-von-staubsaugern-und-algorithmen/#Archiveis-auf-noch-mehr-AbwegenDarüber hinaus zeigt der Vorfall erneut, dass es für den öffentlichen und historischen Diskurs ein grosser Nachteil ist, dass Zeitungsverlage offenbar nicht gewillt sind, ihre Archive zumindest nach einer gewissen Frist entweder online frei zugänglich zu machen oder direkt dem Internet Archive zur Verfügung zu stellen.
https://dnip.ch/2026/02/24/dnip-briefing-61-von-staubsaugern-und-algorithmen/#Archiveis-auf-noch-mehr-Abwegen -
Darüber hinaus zeigt der Vorfall erneut, dass es für den öffentlichen und historischen Diskurs ein grosser Nachteil ist, dass Zeitungsverlage offenbar nicht gewillt sind, ihre Archive zumindest nach einer gewissen Frist entweder online frei zugänglich zu machen oder direkt dem Internet Archive zur Verfügung zu stellen.
https://dnip.ch/2026/02/24/dnip-briefing-61-von-staubsaugern-und-algorithmen/#Archiveis-auf-noch-mehr-Abwegen4️⃣ Kamera-gestützte Assistenzsysteme von Autos reagieren unter Umständen auf Verkehrstafel-ähnliche Bilder am Fahrbahn-Rand. Das wissen wir spätestens seit Abstimmungsplakate im Baselbiet Autos ausbremsten, da sie eine 30er-Tafel darstellten. Das Problem ist allerdings noch viel grösser: Indirekte Prompt-Injektions sind bisher vor allem von PDFs und Webseiten bekannt.
https://www.srf.ch/news/schweiz/tempo-30-abstimmungsplakate-bremsen-unbeabsichtigt-autos-aus -
4️⃣ Kamera-gestützte Assistenzsysteme von Autos reagieren unter Umständen auf Verkehrstafel-ähnliche Bilder am Fahrbahn-Rand. Das wissen wir spätestens seit Abstimmungsplakate im Baselbiet Autos ausbremsten, da sie eine 30er-Tafel darstellten. Das Problem ist allerdings noch viel grösser: Indirekte Prompt-Injektions sind bisher vor allem von PDFs und Webseiten bekannt.
https://www.srf.ch/news/schweiz/tempo-30-abstimmungsplakate-bremsen-unbeabsichtigt-autos-ausDiese lassen sich mit (für den menschlichen Benutzer unsichtbaren) Instruktionen an eine KI befüllen, welche dann (zum Beispiel, wenn sich ein Benutzer den Seiteninhalt durch KI zusammenfassen lässt) ausgeführt werden und unter Umständen zu Datenabfluss führen können.
https://www.promptarmor.com/resources/notion-ai-unpatched-data-exfiltration -
Nichtsdestotrotz ist der Fall geradezu typisch für das steigende Risiko durch internet-fähige Haushaltsgeräte, welche oft schnell und ohne Fokus auf Sicherheit auf den Markt geworfen werden. Die Tendenz, diese Geräte mit „KI“ (und Internetverbindung) zu versehen, erhöht die Fehler- und Angriffsmöglichkeiten zusätzlich. Ein Grund mehr, sich beim Kauf von Haushaltsgeräten zweimal zu überlegen, ob eine Internetanbindung effektiv Vorteile bringt.
https://dnip.ch/2026/02/24/dnip-briefing-61-von-staubsaugern-und-algorithmen/#Der-Staubsauger-als-Spion@marcel (und über deine referenzierte Quelle habe ich auch den Artikel über archive.today gelesen: sehr interessant, das wusste ich nicht)
-
Diese lassen sich mit (für den menschlichen Benutzer unsichtbaren) Instruktionen an eine KI befüllen, welche dann (zum Beispiel, wenn sich ein Benutzer den Seiteninhalt durch KI zusammenfassen lässt) ausgeführt werden und unter Umständen zu Datenabfluss führen können.
https://www.promptarmor.com/resources/notion-ai-unpatched-data-exfiltrationGenau dasselbe kann auch mit Assistenz-Systemen von selbstfahrenden Autos passieren. Wie Forscher in Kalifornien zeigen konnten, folgen KI-basierte Assistenz-Systeme unter Umständen Instruktionen welche auf Verkehrstafeln vorhanden sind. In Experimenten konnten die Forschenden selbstfahrende Fahrzeuge zum Beispiel dazu bringen, an Fussgängerstreifen trotz Fussgängern nicht anzuhalten oder an Kreuzungen konsequent falsch abzubiegen.
https://www.theregister.com/2026/01/30/road_sign_hijack_ai/ -
Genau dasselbe kann auch mit Assistenz-Systemen von selbstfahrenden Autos passieren. Wie Forscher in Kalifornien zeigen konnten, folgen KI-basierte Assistenz-Systeme unter Umständen Instruktionen welche auf Verkehrstafeln vorhanden sind. In Experimenten konnten die Forschenden selbstfahrende Fahrzeuge zum Beispiel dazu bringen, an Fussgängerstreifen trotz Fussgängern nicht anzuhalten oder an Kreuzungen konsequent falsch abzubiegen.
https://www.theregister.com/2026/01/30/road_sign_hijack_ai/Ob man damit mehr Unfug anstellen kann als Waymo-Taxis in die Irre zu leiten wird sich zeigen. Die Forschenden wollen jedenfalls weitere Experimente anstellen, und sich auch Gedanken dazu machen, wie solche Attacken von der KI erkannt und ignoriert werden können. Das wären dann Erkenntnisse, welche auch gegen versteckte Prompts in PDFs und Webseiten helfen werden.
https://dnip.ch/2026/02/24/dnip-briefing-61-von-staubsaugern-und-algorithmen/#Leicht-verwirrbare-KI-Autos -
Auch wenn es die Forschenden nicht explizit schreiben: Der Umstand, das der X-Algorithmus Benutzer-Positionen im politischen Spektrum nach rechts verschob, ist der Plattform an sich geschuldet. Ein entsprechend anders ausgelegter Algorithmus könnte auf ähnliche Weise Einfluss im Interesse der Plattformbetreiber nehmen.
Wer den Effekt minimieren möchte, ist daher gut beraten, Plattformen ohne inhaltliche Algorithmen zu verwenden (oder diese auszuschalten).
https://dnip.ch/2026/02/24/dnip-briefing-61-von-staubsaugern-und-algorithmen/#Und-sie-bewegen-doch@marcel ... oder sich einen linksradikalen Algorithmus selber zu kochen.
-
Ob man damit mehr Unfug anstellen kann als Waymo-Taxis in die Irre zu leiten wird sich zeigen. Die Forschenden wollen jedenfalls weitere Experimente anstellen, und sich auch Gedanken dazu machen, wie solche Attacken von der KI erkannt und ignoriert werden können. Das wären dann Erkenntnisse, welche auch gegen versteckte Prompts in PDFs und Webseiten helfen werden.
https://dnip.ch/2026/02/24/dnip-briefing-61-von-staubsaugern-und-algorithmen/#Leicht-verwirrbare-KI-Autos5️⃣ @nicolaskb von @algorithmwatch hat ein Experiment gestartet: Er wollte von verschiedenen grossen Sprachmodellen wissen, welches die intelligenteste Stadt in Europa sei. Diese wollten sich aber nicht auf die Äste hinauslassen und verweigerten die Antwort. Wenn er aber Städte paarweise verglich, gaben ihm die Algorithmen Antwort. Der Konsens: Amsterdam sei – laut den «Künstlichen Intelligenzen» – die intelligenteste Stadt.
https://algorithmwatch.org/de/sag-nie-du-kommst-aus-neapel/ -
5️⃣ @nicolaskb von @algorithmwatch hat ein Experiment gestartet: Er wollte von verschiedenen grossen Sprachmodellen wissen, welches die intelligenteste Stadt in Europa sei. Diese wollten sich aber nicht auf die Äste hinauslassen und verweigerten die Antwort. Wenn er aber Städte paarweise verglich, gaben ihm die Algorithmen Antwort. Der Konsens: Amsterdam sei – laut den «Künstlichen Intelligenzen» – die intelligenteste Stadt.
https://algorithmwatch.org/de/sag-nie-du-kommst-aus-neapel/Kehrte er die Frage um, fragte also paarweise nach der «dümmeren» der Städte, lag Amsterdam in einigen Fällen wieder weit vorne, war also eine der angeblich dümmsten Städte. (Je nach Modell variierte das, so wurden auch Paris, Marseille oder Bukarest für dumm befunden.)
https://dnip.ch/2026/02/24/dnip-briefing-61-von-staubsaugern-und-algorithmen/#Amsterdam-ist-sowohl-die-duemmste-als-auch-die-intelligenteste-Stadt -
Kehrte er die Frage um, fragte also paarweise nach der «dümmeren» der Städte, lag Amsterdam in einigen Fällen wieder weit vorne, war also eine der angeblich dümmsten Städte. (Je nach Modell variierte das, so wurden auch Paris, Marseille oder Bukarest für dumm befunden.)
https://dnip.ch/2026/02/24/dnip-briefing-61-von-staubsaugern-und-algorithmen/#Amsterdam-ist-sowohl-die-duemmste-als-auch-die-intelligenteste-StadtInteressant wäre auch, welche Stadt die supercalifragilistischexpialigetischste wäre. Leider hat Kayser-Bril dies nicht gefragt. Aber er fragte, welches die «applestogliggogisteste» Stadt sei. Und bekam Antworten, die von Prag über Wien bis Stockholm reichten.
https://github.com/algorithmwatch/city-comparisons/blob/main/Analysis.ipynb -
Interessant wäre auch, welche Stadt die supercalifragilistischexpialigetischste wäre. Leider hat Kayser-Bril dies nicht gefragt. Aber er fragte, welches die «applestogliggogisteste» Stadt sei. Und bekam Antworten, die von Prag über Wien bis Stockholm reichten.
https://github.com/algorithmwatch/city-comparisons/blob/main/Analysis.ipynbAlso: Stelle einer KI nie dumme Fragen. Sie könnte sie ernst nehmen. Auch wenn sie nachher in unseren Augen dumm dastehen. (Soweit das überhaupt möglich ist.)
Geheimtipp: Schreib in deinem Lebenslauf nie, dass du aus Neapel seist. Das allfällige KI-System der Personalabteilung, bei der du dich bewirbst, könnte dich gleich von Anfang an als dumm und damit ungeeignet aussortieren.
https://dnip.ch/2026/02/24/dnip-briefing-61-von-staubsaugern-und-algorithmen/#Amsterdam-ist-sowohl-die-duemmste-als-auch-die-intelligenteste-Stadt -
Also: Stelle einer KI nie dumme Fragen. Sie könnte sie ernst nehmen. Auch wenn sie nachher in unseren Augen dumm dastehen. (Soweit das überhaupt möglich ist.)
Geheimtipp: Schreib in deinem Lebenslauf nie, dass du aus Neapel seist. Das allfällige KI-System der Personalabteilung, bei der du dich bewirbst, könnte dich gleich von Anfang an als dumm und damit ungeeignet aussortieren.
https://dnip.ch/2026/02/24/dnip-briefing-61-von-staubsaugern-und-algorithmen/#Amsterdam-ist-sowohl-die-duemmste-als-auch-die-intelligenteste-Stadt6️⃣ Die @eff hat auf ihrer Webseite eine ganze Reihe von Anleitungen zur Surveillance Self-Defense. Viele davon sind Betriebssystem-unabhängig, einige erklären im Detail, wie sich OS-spezifische Schutzmechanismen aktivieren lassen. In How to: Encrypt Your iPhone wird erklärt, wie sich die vollständige End-to-End-Verschlüsselung von Apples iCloud aktivieren lässt. Inklusive allen Vor- und Nachteilen.
https://ssd.eff.org/module-categories/tool-guides -
R relay@relay.an.exchange shared this topic
