Midjourney, la popular plataforma de inteligencia artificial generativa, está por lanzar una herramienta web actualizada que permitirá a los usuarios editar imágenes cargadas desde la web utilizando su tecnología avanzada. David Holtz, CEO de Midjourney, anunció que esta nueva función estará disponible "a principios de la próxima semana" y ofrecerá la capacidad de modificar texturas y colores en objetos de las imágenes, según las descripciones o captions proporcionadas por los usuarios.
La posibilidad de editar imágenes preexistentes con IA ha sido un tema de debate en la industria tecnológica. Compañías como Meta han enfrentado desafíos para etiquetar adecuadamente las imágenes modificadas por IA, diferenciándolas de aquellas generadas completamente por inteligencia artificial. Mientras tanto, empresas como Google han introducido potentes herramientas de edición basadas en IA que no siempre indican de manera visible que las imágenes han sido modificadas.
Un compromiso con la transparencia, pero con limitaciones
El año pasado, Midjourney adoptó el uso del estándar IPTC Digital Source Type, que permite incrustar metadatos en las imágenes para señalar que fueron generadas por IA. No obstante, la plataforma aún no ha integrado la tecnología C2PA, que rastrea el origen completo de una imagen, incluyendo el equipo y software utilizados en su creación.
Según Holtz, el lanzamiento inicial de la herramienta estará limitado a un grupo selecto de la comunidad actual de Midjourney, y contará con una mayor moderación tanto por parte de humanos como de nuevos moderadores basados en IA, diseñados para prevenir abusos. Aunque reconoció que aún no tienen claro cómo restringir de manera efectiva el acceso a esta nueva función, la plataforma está solicitando retroalimentación de los usuarios a través de encuestas para definir quiénes serán los primeros en acceder a la herramienta.
Riesgos y preocupaciones en torno a la edición con IA
La introducción de herramientas de edición tan avanzadas plantea riesgos importantes si no se implementan salvaguardias adecuadas. Estas tecnologías podrían facilitar la infracción masiva de derechos de autor o fomentar la proliferación de deepfakes engañosos, imágenes manipuladas que dificultan cada vez más distinguir la verdad de la desinformación. Recientemente, tras el huracán Helene, las redes sociales se inundaron de imágenes falsas de destrucción y sufrimiento humano creadas con IA generativa.
El auge de los deepfakes ha sido alarmante. Según datos de la firma Clarity, este año se ha producido un aumento del 900% en la creación y publicación de deepfakes en comparación con el año anterior. Una encuesta de YouGov reveló que el 85% de los estadounidenses están preocupados por la propagación de este tipo de desinformación.
En ausencia de una legislación federal en los Estados Unidos que penalice la creación de deepfakes, más de 10 estados han promulgado leyes contra la suplantación con IA. Midjourney, por su parte, ha implementado filtros para limitar el uso de su tecnología en la creación de deepfakes, especialmente relacionados con figuras políticas de cara a las elecciones presidenciales de EE. UU. Sin embargo, la plataforma sigue enfrentando críticas, en particular por su supuesta utilización de contenido con derechos de autor en el entrenamiento de sus modelos de IA.