29 de agosto de 2024

«Inicia sesión con Apple estaba disponible en múltiples sitios de desnudos deepfake.» «Sign in with Apple» se refiere a una función de inicio de sesión que permite a los usuarios acceder a diferentes plataformas utilizando su cuenta de Apple. «Deepfake nudes sites» se refiere a sitios web que comparten imágenes falsas generadas por inteligencia artificial de personas desnudas.

El problema creciente de deepfakes

Los deepfakes son imágenes, audio o video generados por inteligencia artificial en los que se altera digitalmente a una persona real de alguna manera.

Estos pueden ser utilizados para una variedad de propósitos desagradables, desde hacer que un político parezca decir cosas sospechosas, hasta crear una imagen falsa desnuda de alguien para humillarlos o intimidarlos. En algunos casos, los chicos de secundaria los han utilizado para crear imágenes de abuso sexual infantil de compañeras de clase.

Los deepfakes se están volviendo cada vez más difíciles de detectar a medida que el software se vuelve más sofisticado.

Sign in with Apple disponible para seis sitios

Wired encontró que seis de los mayores sitios de deepfakes específicamente orientados a crear desnudos falsos ofrecían opciones de inicio de sesión con Apple. Otros inicios de sesión ofrecidos eran de Google, Discord, Line y Patreon.

El sitio dice que la inclusión de estas opciones hace que parezca que están aprobadas por estas empresas.

Un análisis de WIRED encontró que 16 de los mayores sitios llamados de \»desvestir\» y \»nudificar\» utilizaban la infraestructura de inicio de sesión de Google, Apple, Discord, Twitter, Patreon y Line. Este enfoque permite a las personas crear cuentas fácilmente en los sitios de deepfakes, ofreciéndoles una apariencia de credibilidad, antes de pagar por créditos y generar imágenes […]

Las herramientas de inicio de sesión analizadas por WIRED, que se implementan a través de API y métodos de autenticación comunes, permiten a las personas utilizar cuentas existentes para unirse a los sitios de deepfakes. El sistema de inicio de sesión de Google apareció en 16 sitios web, el de Discord en 13 y el de Apple en seis.

Apple terminó las cuentas de desarrollador

Ofrecer la opción de Iniciar sesión con Apple requiere una cuenta de desarrollador. Una vez que Wired alertó a Apple, la compañía respondió inmediatamente terminando todas las cuentas de desarrollador utilizadas de esta manera.

Después de ser contactados por WIRED, los portavoces de Discord y Apple dijeron que han eliminado las cuentas de desarrollador conectadas a sus sitios web. Google dijo que tomará medidas contra los desarrolladores cuando encuentre que se han violado sus términos. Patreon dijo que prohíbe las cuentas que permiten crear imágenes explícitas, y Line confirmó que está investigando pero dijo que no podía comentar sobre sitios web específicos. X no respondió a una solicitud de comentario sobre la forma en que se utilizan sus sistemas.

Imagen: Collage de imágenes de Apple y James Lee en Unsplash

Agrega 9to5Mac a tu feed de noticias de Google.

FTC: Utilizamos enlaces de afiliados que generan ingresos. Más.