Hahaha, eine "AI" hat bei PocketOS die komplette Datenbank samt aller Backups gelöscht, das hat sich mal wirklich ausgezahlt!

[weirdmustard@flipping.rocks]

@wurzelmann Im Freundeskreis wollte ein Arbeitgeber AI First gehen. Erst haben die Agents die Teams rassistisch beleidigt und nachdem sie dafür wieder eingestellt wurden, Leute aber bereits gefeuert waren, tauchen nun wöchentlich Bereiche auf um die sich seit Monaten niemand gekümmert hat. Unter anderem gibt es jetzt keine PremiumkundInnen mehr weil die Datenbank nur bestand solange jemand sie regelmäßig pflegt, derjenige wurde entlassen und die "AI" wusste freilich von dem Bereich nichts. Die wichtigen Großkunden in Asien haben sich nen anderen Anbieter gesucht und ein ganzer Zweig wird deswegen geschlossen.

[wurzelmann@mastodon.wurzelmann.at]

@weirdmustard oh wow, was für eine success story...

[weirdmustard@flipping.rocks]

@wurzelmann Es kann einfach ALLES.

[wurzelmann@mastodon.wurzelmann.at]

@weirdmustard die magic box! 🥳

[energisch_@troet.cafe]

@weirdmustard Tja. Viele Menschen arbeiten mehr als der Boss dachte. Das bisschen Kundenservice?
Daran kann ein ganzes Unternehmen kaputt gehen.
@wurzelmann

[xela@troet.cafe]

@wurzelmann mein Mitleid hält sich tatsächlich in Grenzen. Aber ich wäre schon neugierig, was diese "production database" tatsächlich enthielt. Kundendaten? Buchhaltung? CRM? Wenn Claude das komplett löschen konnte, wirft das auch ein Licht auf deren Backup-Strategie...

Edit: ah, der Artikel enthält eh ein paar Details zu den Daten.

[at1st@mstdn.ca]

@wurzelmann Setting aside everything else for a second, it boggles the mind that so many companies seem fit to give LLMs the "Nendry treatment"; absent everything else, this could have been resolved by making the person in charge of the electrical fences not the same person in charge of the rest of the I.T. system.

Like, what do you mean it was allowed to delete both the volume *and* the backup at the same time? Those should involve two different access requirements.

[wurzelmann@mastodon.wurzelmann.at]

@AT1ST you're exactly right: those processes were bad to begin with and unleashing an "AI" onto it is just a recipe for disaster...

[fasnix@fe.disroot.org]

@weirdmustard
Ein ehemaliger Arbeitgeber ging vor ein paar Jahren "AI first".
Ich frage mich, wie es dort so läuft :'D

EDIT:
Schaue mir gerade einen Videocast zum Thema "Personalisierte KI-Podcasts" an.

Veröffentlicht am 8. April, gerade mal 95 Aufrufe, bei rund 3.200 Abonnent:innen.

Scheint jetzt nicht sooo der Knaller zu sein

@wurzelmann

[layer8@chaos.social]

@wurzelmann nature is healing 🫶

[wurzelmann@mastodon.wurzelmann.at]

@layer8 🥰

[hszakher@mastodon.world]

@wurzelmann@wurzelmann.at self-hosted ransomware where you pay ransom in advance then you get your data and documents destroyed

[wurzelmann@mastodon.wurzelmann.at]

@hszakher perfection!

[thunfischer@pfalz.social]

@layer8 wolt auch grad sagen.. @wurzelmann

[ysegrim@furry.engineer]

@wurzelmann Das klingt nach einem neuen Slogan. "AI, kein Mitleid."

[wurzelmann@mastodon.wurzelmann.at]

@ysegrim haha, I love it!

[alatariel@rollenspiel.social]

@wurzelmann kein Medienbruch, keine Trennung von Berechtigungen. Jeder Verschlüsselungstrojaner hätte das genau so geschafft. Die alte DEVOPS Diskussion ...

[weirdmustard@flipping.rocks]

@energisch_ @wurzelmann Ja, einige Chefs sind überrascht - Mitarbeitende machen doch nicht nur Kaffeepause.

[wurzelmann@mastodon.wurzelmann.at]

@weirdmustard @energisch_

das konnte ja niemand ahnen! Ah warte doch: alle, die wissen, wie die Firma tatsächlich funktioniert.

[teetassemitsprung@troet.cafe]

@wurzelmann Unsere Buchhaltung muss jetzt auch Claude benutzen. Bis jetzt erst ganz wenig. Bin gespannt wie lange es gut geht.