21 de agosto de 2024

Las herramientas de creación y edición de imágenes de IA de Pixel de Google son un poco aterradoras – Título SEO: Las herramientas de creación y edición de imágenes de IA de Google Pixel son un poco aterradoras

**Google Pixel 9: Polémica por las herramientas de creación de imágenes y edición AI**

Google presentó la semana pasada la nueva línea de teléfonos inteligentes Pixel 9, con una selección de nuevos dispositivos centrados en la inteligencia artificial. Todos los teléfonos Pixel 9 admiten Gemini AI, y Google también ha agregado herramientas de generación y edición de imágenes basadas en IA. Los revisores han estado probando las nuevas características del teléfono inteligente, y la generación de imágenes basada en IA probablemente se convertirá en una pesadilla de relaciones públicas para Google según lo que se ha revelado hasta ahora.

**Pixel Studio: Creación de imágenes con IA**

Google introdujo una aplicación de generación de imágenes con IA para los teléfonos Pixel, llamada Pixel Studio. Está diseñada para crear pegatinas e imágenes utilizando indicaciones basadas en texto, y se parece mucho al planeado Image Playground de Apple. Hasta ahora, los revisores han podido crear todo tipo de imágenes cuestionables con Pixel Studio, que van desde una versión nazi de Bob Esponja hasta Elmo con un AK47.

**Controversias con Pixel Studio**

Digital Trends no tuvo problemas para hacer que Pixel Studio creara imágenes de queridos personajes de dibujos animados realizando actividades cuestionables. Armas, drogas y alcohol no estaban fuera de límites, al igual que situaciones ofensivas como tiroteos escolares. Aunque Pixel Studio no generaba este tipo de imágenes a menos que se pidiera, es muy probable que las personas lo hagan de inmediato en lugar de generar imágenes de gatos y conejos lindos.

Google afirmó que había «controles de seguridad» para evitar que Pixel Studio se use «de manera nefasta», y los hay. Pixel Studio no creará imágenes de humanos, y Google está ajustando la IA en respuesta a las críticas. Después de hablar con Google, Digital Trends ya no pudo hacer que Pixel Studio creara personajes de dibujos animados usando cocaína o vestidos como soldados alemanes.

**La herramienta «Reimagine» de Google: un paso más allá**

Aún más preocupante que Pixel Studio es la herramienta «Reimagine» de Google, que puede agregar objetos a fotos que ya has tomado. The Verge la usó para agregar cadáveres, bombas, drogas y desastres a imágenes, y los objetos incluidos en las fotos se ven tan realistas que es difícil saber cuándo se ha editado una imagen. Google logra igualar bastante bien la iluminación y la perspectiva de la foto original, y no hay marcas de agua ni banderas en las redes sociales. Google agrega una etiqueta de metadatos, pero es bastante fácil eliminarla con una captura de pantalla.

**Conclusiones finales**

En declaraciones a The Verge y Digital Trends, Google dijo que diseñó sus herramientas de IA generativa para «respetar la intención de las indicaciones de los usuarios», lo que puede llevar a la creación de contenido «que puede ofender» cuando el usuario lo solicita. Pero Google afirma que hay «Términos de Servicio» sobre qué contenido no está permitido, y que los salvaguardias se seguirán refinando.

Apple aún no ha presentado sus herramientas de generación de imágenes, Image Playground o Genmoji, y los medios que rodean el lanzamiento de Pixel 9 nos dan una idea de cómo podría ser la respuesta si Apple no lo hace bien. Con la IA, es probable que las personas puedan encontrar formas de evitar las salvaguardias incluso si Apple pone numerosos controles en su lugar. Apple hasta ahora se ha mantenido alejado de las imágenes de IA fotorrealistas, pero Google está apostando por ello, y será mucho más difícil confiar en las fotos en las redes sociales e internet en el futuro.

En resumen, las nuevas herramientas de generación de imágenes y edición AI de Google han generado controversia, pero también ofrecen posibilidades creativas. Es importante que las empresas continúen refinando sus sistemas de control y seguridad para garantizar un uso responsable de estas tecnologías emergentes. La era de la inteligencia artificial está aquí para quedarse, y es crucial abordar sus implicaciones éticas y sociales con cuidado y reflexión.