Una reciente controversia surgió en aulas de clase de distintas zonas del mundo, dejando en manifiestó una problemática que trasciende de lo que comúnmente se considera un uso ético de la tecnología, enfocándose en este caso en la utilización indebida de la IA para la creación y difusión de imágenes íntimas falsas de menores de edad en las diferentes redes sociales.
La aplicación ClothOff se encuentra en el centro de la polémica, al ser usada por un grupo de adolescentes para generar y compartir estas fotografías, lo que ha llevado a una varios padres de familia a presentar denuncias a las autoridades.
Este incidente arroja luz sobre las implicaciones legales y morales de la tecnología que usa inteligencia artificial, en especial cuando su aplicación traspasa los límites del respeto a la privacidad y la dignidad humana.
Te puede interesar: ¿Cómo revivir la batería del celular?
Lee también: Truco para escuchar música gratis en Amazon
El sistema de moneda virtual o “tokens” que utiliza ClothOff para la generación de estas imágenes, accesible tanto por invitación como por compra, plantea un serio debate en cuanto a la ética empresarial de las plataformas que facilitan tecnologías potencialmente dañinas.
Cabe mencionar que, aunque estos servicios establecen restricciones de edad para sus usuarios, la realidad demuestra que tales medidas no son suficientemente efectivas para prevenir el uso indebido por parte de menores.
Además, la mención de DeepNude, otra aplicación con función similar, indica que el caso de ClothOff no es un hecho aislado sino parte de una tendencia más amplia que explota la capacidad de la IA para generar representaciones digitales vulnerando la privacidad y la dignidad de las personas.
¿Cuáles son los problemas que hay en producir y filtrar fotos íntimas ajenas?
La invasión a la intimidad personal y a la propia imagen son derechos fundamentales salvaguardados en las constituciones y códigos penales en el mundo, derechos que han sido vulnerados al usar estas aplicaciones.
Pese a las advertencias de ClothOff sobre la necesidad de un uso responsable, que excluya fines ilegales o que infrinjan los derechos de propiedad intelectual, casos como el de Almendralejo, donde se revelaron fotos íntimas de 26 menores hechas con la IA deja en evidencia un uso reprochable y socialmente condenable de la tecnología.
La respuesta social y legal ante estos incidentes será crucial para determinar el futuro de la ética en el desarrollo y aplicación de tecnologías avanzadas como la IA.