¡NUEVO!: Detector de música generada por IA 🔥

[arteesetica@mastodon.social]

¡NUEVO!: Detector de música generada por IA

El equipo detrás de Glaze y Nightshade, ahora lanza QUICKSILVER: un detector de música generada por IA, desarrollado por un equipo de voluntarios del laboratorio ETCH (su organización sin fines de lucro)

INFO: https://www.etch-humanity.org/etch-lab/quicksilver-plugin

#AI #music #genAI #generativeAI #technology #ethical #IA #IAgenerativa #musica #Spotify #Chrome #lab #AIdetector #detector #AIdetection #detection #plugin

[dom_talvez@mastodon.social]

@arteesetica es decir que detecta canciones echas con IA o las genera?

[arteesetica@mastodon.social]

@Dom_talvez Detector de música generada por IA. Detecta las canciones generadas por IA. Especialmente las que fueron generadas por SUNO y UDIO. Mucha gente está escuchando canciones en Spotify sin darse cuenta que son 100% generadas por IA. Esta herramienta intenta brindar ayudar para poder reconocerlas y así pasar de ellas para darle valor a los artistas de verdad.

[dom_talvez@mastodon.social]

@arteesetica me parece fantástico el problema de la música con IA se esta saliendo de control crean influencers con IA en tik tok y luego les haces música también con IA y mucha gente no lo sabe, aunque bueno dejar de usar spotify también seria bueno, tengo entendido que la empresa misma genera ese tipo de canciones con IA

[arteesetica@mastodon.social]

@Dom_talvez exactamente. Y si bien hay algunas alternativas a Spotify, el grueso del público sigue ahí, aunque paulatinamente vaya dejando esa clase de plataformas. El equipo Glaze planea seguir sumando mejoras a esta herramienta y que tenga un mayor alcance de detección, porque hoy les consultaban también si se puede aplicar en Youtube, y si bien no estaba pensada para eso, se podría también aplicar ahí para la porción del audio que contenga el video.

[nexy@rebel.ar]

@arteesetica me parece una maravilla que alguien lo hiciera!

si puedo quejarme de una boludez es que siempre trabajan para las plataformas equivocadas. ni glaze ni nightshade estaban en linux y ahora etch es para chromium, dalee

[elvector@masto.es]

@arteesetica @Dom_talvez
De hecho, otras plataformas tampoco se libran. En Tidal también se cuela mucha música generada por IA y, lo peor de todo, el algoritmo de la app la etiqueta y clasifica con el mismo nombre del cantante o grupo que la música humana. De vez en cuando lo corrigen y borran, pero se les cuelan muchos intrusos.

[tinitun@mstdn.social]

@arteesetica @Bettie Así que dentro de nada vamos a tener, al igual que con los textos, a personas que hacen música de verdad intentando averiguar por qué el algoritmo de detección clasificó su música como generada con IA, y cambiando su música de formas extrañas para que el algoritmo no les detecte como música generada con IA

[sergiodeprado@masto.es]

@tinitun @arteesetica @Bettie dentro de poco no, está pasando ya de hace un tiempo

[paelnever@masto.es]

@arteesetica
Estas herramientas que detectan cosas hechas con IA (ya sea audio, video, imagen o texto) tienen 3 problemas:
1) Los falsos positivos. Le acabo de pasar a esta herramienta una canción hecha por el grupo de un colega hace 10 años y la detecta como IA al 99%
2) Los falsos negativos. También le acabo de pasar un audio hecho con un modelo de musica open source y NO lo detecta como IA
3) Estas herramientas son redes neuronales entrenadas para detectar ciertos patrones en el contenido que se les pasa, es decir SON IA. Por lo tanto como IAs que son a menudo dan información falsa (eso que la propaganda llama "alucinaciones").

El resultado es que para lo que creemos que es "luchar contra la IA" podemos estar usando usando una IA para que nos mienta y nos diga que el contenido generado por personas es IA. No se me ocurren cosas mas incoherentes que esto.