La inteligencia artificial está logrando superar retos realmente sorprendentes, pero su utilización también puede ser peligrosa y discutible. Lo es por ejemplo en el caso de los vídeos deepfake en los que podemos ver a celebridades protagonizando películas porno.
El fenómeno se ha extendido de forma preocupante en ciertas redes en internet, y eso ha hecho que comiencen los primeros movimientos para atajar el problema. Pornhub ha vetado su uso, y Twitter ha seguido esa misma política y suspenderá las cuentas que publiquen estos vídeos.
Si no hay consentimiento de sus protagonistas, los vídeos quedan vetados
Los vídeos 'deepfake' se han bautizado así debido a que un usuario de Reddit llamado 'deepfakes'fue el que abrió esta particular caja de Pandora y mostró GIFs de actrices como Gal Gadot, Scarlett Johansson o Taylor Swift protagonizando escenas pornográficas. Esos vídeos no eran reales, y habían sido generados por motores de inteligencia artificial.
El fenómeno se ha ido extendiendo de forma peligrosa, y de hecho aparecieron variantes que permitían generar estos vídeos con amigos, conocidos o compañeros de trabajo o estudios. En foros como Discord algunos usuarios daban información de cómo hacerlo, lo que provocó que la empresa cerrara esas salas de chat.
Lo mismo acabó haciendo Gfycat, que se convirtió en un involuntario repositorio de vídeos porno manipulados. Sus responsables decidieron eliminar este tipo de contenidos, y uno de sus portavoces explicaba cómo estaban moderando esos vídeos por "considerarlos cuestionables".
La medida se ha extendido ahora a Pornhub, un sitio online de contenidos pornográficos que recibe 75 millones de usuarios únicos al día y que también ha atajado este fenómeno. "No toleramos ningún contenido no consensual en el sitio y eliminamos dicho contenido tan pronto como nos enteramos de ello", explicaba uno de sus portavoces en una entrevista con Motherboard.
De hecho para Pornhub los vídeos 'deepfake' entran en la misma clasificación que el también vetado 'revenge porn' en el que se distribuyen imágenes o vídeo explícitamente sexual de personas sin su consentimiento.
Twitter ha anunciado en las últimas horas una medida idéntica, y sus responsables prohíben la publicación de 'deepfakes', e indican que "suspenderemos cualquier cuenta que identifiquemos con la que publique originalmente contenidos íntimos que han sido producidos o distribuidos sin el consentimiento de esa persona. También suspenderemos cualquier cuenta dedicada a publicar este tipo de contenido".
Vía | FastCo
Ver 10 comentarios