Hahaha, eine "AI" hat bei PocketOS die komplette Datenbank samt aller Backups gelöscht, das hat sich mal wirklich ausgezahlt!
-
@wurzelmann Im Freundeskreis wollte ein Arbeitgeber AI First gehen. Erst haben die Agents die Teams rassistisch beleidigt und nachdem sie dafür wieder eingestellt wurden, Leute aber bereits gefeuert waren, tauchen nun wöchentlich Bereiche auf um die sich seit Monaten niemand gekümmert hat. Unter anderem gibt es jetzt keine PremiumkundInnen mehr weil die Datenbank nur bestand solange jemand sie regelmäßig pflegt, derjenige wurde entlassen und die "AI" wusste freilich von dem Bereich nichts. Die wichtigen Großkunden in Asien haben sich nen anderen Anbieter gesucht und ein ganzer Zweig wird deswegen geschlossen.
@weirdmustard Tja. Viele Menschen arbeiten mehr als der Boss dachte. Das bisschen Kundenservice?
Daran kann ein ganzes Unternehmen kaputt gehen.
@wurzelmann -
Hahaha, eine "AI" hat bei PocketOS die komplette Datenbank samt aller Backups gelöscht, das hat sich mal wirklich ausgezahlt!
Und nein, "it went rogue" ist bullshit, ihr gebt dieser Kacke Vollzugriff auf eure Systeme, selbst schuld, kein Mitleid.
Claude-powered AI coding agent deletes entire company database in 9 seconds — backups zapped, after Cursor tool powered by Anthropic's Claude goes rogue
PocketOS founder blames ‘Cursor running Anthropic's flagship Claude Opus 4.6’ plus Railway’s infrastructure for data disaster.
Tom's Hardware (www.tomshardware.com)
@wurzelmann mein Mitleid hält sich tatsächlich in Grenzen.
Aber ich wäre schon neugierig, was diese "production database" tatsächlich enthielt. Kundendaten? Buchhaltung? CRM? Wenn Claude das komplett löschen konnte, wirft das auch ein Licht auf deren Backup-Strategie...Edit: ah, der Artikel enthält eh ein paar Details zu den Daten.
-
Hahaha, eine "AI" hat bei PocketOS die komplette Datenbank samt aller Backups gelöscht, das hat sich mal wirklich ausgezahlt!
Und nein, "it went rogue" ist bullshit, ihr gebt dieser Kacke Vollzugriff auf eure Systeme, selbst schuld, kein Mitleid.
Claude-powered AI coding agent deletes entire company database in 9 seconds — backups zapped, after Cursor tool powered by Anthropic's Claude goes rogue
PocketOS founder blames ‘Cursor running Anthropic's flagship Claude Opus 4.6’ plus Railway’s infrastructure for data disaster.
Tom's Hardware (www.tomshardware.com)
@wurzelmann Setting aside everything else for a second, it boggles the mind that so many companies seem fit to give LLMs the "Nendry treatment"; absent everything else, this could have been resolved by making the person in charge of the electrical fences not the same person in charge of the rest of the I.T. system.
Like, what do you mean it was allowed to delete both the volume *and* the backup at the same time? Those should involve two different access requirements.
-
@wurzelmann Setting aside everything else for a second, it boggles the mind that so many companies seem fit to give LLMs the "Nendry treatment"; absent everything else, this could have been resolved by making the person in charge of the electrical fences not the same person in charge of the rest of the I.T. system.
Like, what do you mean it was allowed to delete both the volume *and* the backup at the same time? Those should involve two different access requirements.
@AT1ST you're exactly right: those processes were bad to begin with and unleashing an "AI" onto it is just a recipe for disaster...
-
@wurzelmann Im Freundeskreis wollte ein Arbeitgeber AI First gehen. Erst haben die Agents die Teams rassistisch beleidigt und nachdem sie dafür wieder eingestellt wurden, Leute aber bereits gefeuert waren, tauchen nun wöchentlich Bereiche auf um die sich seit Monaten niemand gekümmert hat. Unter anderem gibt es jetzt keine PremiumkundInnen mehr weil die Datenbank nur bestand solange jemand sie regelmäßig pflegt, derjenige wurde entlassen und die "AI" wusste freilich von dem Bereich nichts. Die wichtigen Großkunden in Asien haben sich nen anderen Anbieter gesucht und ein ganzer Zweig wird deswegen geschlossen.
@weirdmustard
Ein ehemaliger Arbeitgeber ging vor ein paar Jahren "AI first".
Ich frage mich, wie es dort so läuft :'D
EDIT:
Schaue mir gerade einen Videocast zum Thema "Personalisierte KI-Podcasts" an.
Veröffentlicht am 8. April, gerade mal 95 Aufrufe, bei rund 3.200 Abonnent:innen.
Scheint jetzt nicht sooo der Knaller zu sein
@wurzelmann -
Hahaha, eine "AI" hat bei PocketOS die komplette Datenbank samt aller Backups gelöscht, das hat sich mal wirklich ausgezahlt!
Und nein, "it went rogue" ist bullshit, ihr gebt dieser Kacke Vollzugriff auf eure Systeme, selbst schuld, kein Mitleid.
Claude-powered AI coding agent deletes entire company database in 9 seconds — backups zapped, after Cursor tool powered by Anthropic's Claude goes rogue
PocketOS founder blames ‘Cursor running Anthropic's flagship Claude Opus 4.6’ plus Railway’s infrastructure for data disaster.
Tom's Hardware (www.tomshardware.com)
@wurzelmann nature is healing 🫶
-
@wurzelmann nature is healing 🫶
-
Hahaha, eine "AI" hat bei PocketOS die komplette Datenbank samt aller Backups gelöscht, das hat sich mal wirklich ausgezahlt!
Und nein, "it went rogue" ist bullshit, ihr gebt dieser Kacke Vollzugriff auf eure Systeme, selbst schuld, kein Mitleid.
Claude-powered AI coding agent deletes entire company database in 9 seconds — backups zapped, after Cursor tool powered by Anthropic's Claude goes rogue
PocketOS founder blames ‘Cursor running Anthropic's flagship Claude Opus 4.6’ plus Railway’s infrastructure for data disaster.
Tom's Hardware (www.tomshardware.com)
@wurzelmann@wurzelmann.at self-hosted ransomware where you pay ransom in advance then you get your data and documents destroyed
-
@wurzelmann@wurzelmann.at self-hosted ransomware where you pay ransom in advance then you get your data and documents destroyed
@hszakher perfection!
-
@wurzelmann nature is healing 🫶
@layer8
wolt auch grad sagen.. @wurzelmann -
Hahaha, eine "AI" hat bei PocketOS die komplette Datenbank samt aller Backups gelöscht, das hat sich mal wirklich ausgezahlt!
Und nein, "it went rogue" ist bullshit, ihr gebt dieser Kacke Vollzugriff auf eure Systeme, selbst schuld, kein Mitleid.
Claude-powered AI coding agent deletes entire company database in 9 seconds — backups zapped, after Cursor tool powered by Anthropic's Claude goes rogue
PocketOS founder blames ‘Cursor running Anthropic's flagship Claude Opus 4.6’ plus Railway’s infrastructure for data disaster.
Tom's Hardware (www.tomshardware.com)
@wurzelmann Das klingt nach einem neuen Slogan. "AI, kein Mitleid."
-
@wurzelmann Das klingt nach einem neuen Slogan. "AI, kein Mitleid."
@ysegrim haha, I love it!
-
Hahaha, eine "AI" hat bei PocketOS die komplette Datenbank samt aller Backups gelöscht, das hat sich mal wirklich ausgezahlt!
Und nein, "it went rogue" ist bullshit, ihr gebt dieser Kacke Vollzugriff auf eure Systeme, selbst schuld, kein Mitleid.
Claude-powered AI coding agent deletes entire company database in 9 seconds — backups zapped, after Cursor tool powered by Anthropic's Claude goes rogue
PocketOS founder blames ‘Cursor running Anthropic's flagship Claude Opus 4.6’ plus Railway’s infrastructure for data disaster.
Tom's Hardware (www.tomshardware.com)
@wurzelmann kein Medienbruch, keine Trennung von Berechtigungen. Jeder Verschlüsselungstrojaner hätte das genau so geschafft. Die alte DEVOPS Diskussion ...
-
@weirdmustard Tja. Viele Menschen arbeiten mehr als der Boss dachte. Das bisschen Kundenservice?
Daran kann ein ganzes Unternehmen kaputt gehen.
@wurzelmann@energisch_ @wurzelmann Ja, einige Chefs sind überrascht - Mitarbeitende machen doch nicht nur Kaffeepause.
-
@energisch_ @wurzelmann Ja, einige Chefs sind überrascht - Mitarbeitende machen doch nicht nur Kaffeepause.
das konnte ja niemand ahnen! Ah warte doch: alle, die wissen, wie die Firma tatsächlich funktioniert.
-
Hahaha, eine "AI" hat bei PocketOS die komplette Datenbank samt aller Backups gelöscht, das hat sich mal wirklich ausgezahlt!
Und nein, "it went rogue" ist bullshit, ihr gebt dieser Kacke Vollzugriff auf eure Systeme, selbst schuld, kein Mitleid.
Claude-powered AI coding agent deletes entire company database in 9 seconds — backups zapped, after Cursor tool powered by Anthropic's Claude goes rogue
PocketOS founder blames ‘Cursor running Anthropic's flagship Claude Opus 4.6’ plus Railway’s infrastructure for data disaster.
Tom's Hardware (www.tomshardware.com)
@wurzelmann Unsere Buchhaltung muss jetzt auch Claude benutzen. Bis jetzt erst ganz wenig. Bin gespannt wie lange es gut geht.
-
@wurzelmann Unsere Buchhaltung muss jetzt auch Claude benutzen. Bis jetzt erst ganz wenig. Bin gespannt wie lange es gut geht.
@teetassemitsprung haha, holy shit, das kann ja nur schief gehen... alles Gute euch.
-
Hahaha, eine "AI" hat bei PocketOS die komplette Datenbank samt aller Backups gelöscht, das hat sich mal wirklich ausgezahlt!
Und nein, "it went rogue" ist bullshit, ihr gebt dieser Kacke Vollzugriff auf eure Systeme, selbst schuld, kein Mitleid.
Claude-powered AI coding agent deletes entire company database in 9 seconds — backups zapped, after Cursor tool powered by Anthropic's Claude goes rogue
PocketOS founder blames ‘Cursor running Anthropic's flagship Claude Opus 4.6’ plus Railway’s infrastructure for data disaster.
Tom's Hardware (www.tomshardware.com)
@wurzelmann muaaah
-
R relay@relay.infosec.exchange shared this topic
