#Deepfakes are everywhere, but #DigitalForensics investigators are fighting back:
-
Ah bah voilà une super source d'exos d'optique géométrique
@AudeCaussarieu
J'aurais jamais pensé que les points de fuites pouvaient être une façon de vérifier la véracité d'une image. 🤯 -
#Deepfakes are everywhere, but #DigitalForensics investigators are fighting back:
@FabMusacchio
Very interesting, thanks.
@defakator it might be of your interest? -
Ah bah voilà une super source d'exos d'optique géométrique
@AudeCaussarieu Je me demande quand même à quel point c’est difficile de distinguer de telles anomalies de distorsions optiques causées par la lentille, qui va courber les lignes parallèles.
-
@AudeCaussarieu Je me demande quand même à quel point c’est difficile de distinguer de telles anomalies de distorsions optiques causées par la lentille, qui va courber les lignes parallèles.
@grototo @AudeCaussarieu On verrait un autre genre de déformation, pas des trucs au pif comme ça, je dirais ? De toute façon dans le genre de photo montré est rarement prise en grand angle...
-
@AudeCaussarieu Je me demande quand même à quel point c’est difficile de distinguer de telles anomalies de distorsions optiques causées par la lentille, qui va courber les lignes parallèles.
@grototo
C'est sûrement plus chiant à vérifier mais il faudrait tracer les cercles et ceux-ci devrait avoir la même intersection.
@AudeCaussarieu -
#Deepfakes are everywhere, but #DigitalForensics investigators are fighting back:
@FabMusacchio How does this method handle lens distortion?
-
#Deepfakes are everywhere, but #DigitalForensics investigators are fighting back:
@FabMusacchio So if I want to commit a murder, I have years to prepare it and I know the place will be surveilled with cameras, I should pave it with slightly non-parallell tiles, to get a plausible deniability.
-
@grototo @AudeCaussarieu On verrait un autre genre de déformation, pas des trucs au pif comme ça, je dirais ? De toute façon dans le genre de photo montré est rarement prise en grand angle...
@legendarybassoon @grototo @AudeCaussarieu
Oui, je suppose ça ferait une forme pas exacte, mais pas random.
L'images des cubes par exemple, il y aurait de la symétrie, pas juste un des points qui va n'importe où.Et j'imagine la gueule des prompts pour dire de se concentrer sur les points de fuite, difficile à décrire en langage "naturel". Avec un peu de chances ça va pas être facile à corriger.
-
#Deepfakes are everywhere, but #DigitalForensics investigators are fighting back:
@FabMusacchio beautiful analysis even though I'm still suspicious of lens distortions.
-
@AudeCaussarieu
J'aurais jamais pensé que les points de fuites pouvaient être une façon de vérifier la véracité d'une image. 🤯@mathieu_ @AudeCaussarieu
Ça, ça marchera jusqu'à ce que les IA génératives d'images se mettent à placer les éléments d'une image dans un espace en 3D. -
@legendarybassoon @grototo @AudeCaussarieu
Oui, je suppose ça ferait une forme pas exacte, mais pas random.
L'images des cubes par exemple, il y aurait de la symétrie, pas juste un des points qui va n'importe où.Et j'imagine la gueule des prompts pour dire de se concentrer sur les points de fuite, difficile à décrire en langage "naturel". Avec un peu de chances ça va pas être facile à corriger.
@nartagnan @legendarybassoon @grototo @AudeCaussarieu je suppose qu'on est déjà entré dans une nouvelle guerre "génération de fakes crédibles" vs "détection de fakes", comme on a déjà les crawlers/rate-limiter, pub/ad-blocker, tracker/anti-tracker, etc.
Donc oui, même si ce n'est pas facile (?), je ne serais pas surpris que les entreprises derrière ces générateurs d'images analysent les techniques de détection et fassent leur possible pour les rendre inopérantes.
-
@legendarybassoon @grototo @AudeCaussarieu
Oui, je suppose ça ferait une forme pas exacte, mais pas random.
L'images des cubes par exemple, il y aurait de la symétrie, pas juste un des points qui va n'importe où.Et j'imagine la gueule des prompts pour dire de se concentrer sur les points de fuite, difficile à décrire en langage "naturel". Avec un peu de chances ça va pas être facile à corriger.
@nartagnan l'uncanny valley dans 10 000 ans, si on est encore dans les parages : pourquoi la reconnaissance instinctive des lignes de fuite est devenue un enjeu de sélection naturelle ?
-
@nartagnan @legendarybassoon @grototo @AudeCaussarieu je suppose qu'on est déjà entré dans une nouvelle guerre "génération de fakes crédibles" vs "détection de fakes", comme on a déjà les crawlers/rate-limiter, pub/ad-blocker, tracker/anti-tracker, etc.
Donc oui, même si ce n'est pas facile (?), je ne serais pas surpris que les entreprises derrière ces générateurs d'images analysent les techniques de détection et fassent leur possible pour les rendre inopérantes.
@youen @legendarybassoon @grototo @AudeCaussarieu
Mais ça va coûter.
Même avec de la détection, s'ils veulent faire comme le claude code, aka "génère, on check, et tant que ça passe pas le check recommence, même si c'est 1000 fois", ça va leur coûter... 1000 fois plus cher.Et ils n'auront pas ce luxe encore très longtemps.
-
@nartagnan l'uncanny valley dans 10 000 ans, si on est encore dans les parages : pourquoi la reconnaissance instinctive des lignes de fuite est devenue un enjeu de sélection naturelle ?
@nartagnan en fait, je vois même pas comment intégrer ça au process d'entrainement, sans que cela devienne une machine à gaz, ce qui est déjà le cas however, genre encoder un raytracer
-
#Deepfakes are everywhere, but #DigitalForensics investigators are fighting back:
@FabMusacchio it is really telling that one of the most powerful tools to detect fake images is an artistic tool that any first year art school student knows about
-
#Deepfakes are everywhere, but #DigitalForensics investigators are fighting back:
@FabMusacchio Hello! Can I ask where the url shortener sends?
-
@mathieu_ @AudeCaussarieu
Ça, ça marchera jusqu'à ce que les IA génératives d'images se mettent à placer les éléments d'une image dans un espace en 3D.@Mourioche
Évidemment, ça me semble temporaire comme erreur.
@AudeCaussarieu -
@FabMusacchio Hello! Can I ask where the url shortener sends?
@ilusenn @FabMusacchio It's legit - the website of the scientific journal, Science (they picked scim.ag because it is short for Science magazine).
Here's the full URL: https://www.science.org/content/article/deepfakes-are-everywhere-godfather-digital-forensics-fighting-back
-
#Deepfakes are everywhere, but #DigitalForensics investigators are fighting back:
-
@ilusenn @FabMusacchio It's legit - the website of the scientific journal, Science (they picked scim.ag because it is short for Science magazine).
Here's the full URL: https://www.science.org/content/article/deepfakes-are-everywhere-godfather-digital-forensics-fighting-back
@JonnyT @FabMusacchio Thank you!
I try to keep the habit to ask everytime
