La tecnología está evolucionando rápidamente hacia aplicaciones que plantean serios desafíos tanto para el ámbito empresarial como para el marketing y la seguridad en línea. Wall Street Journal informa que, en el sector financiero, especialmente en bancos y proveedores de servicios financieros, se ha reportado un incremento en los ataques de fraudes impulsados por deepfakes.
Los deepfakes tratan de archivos manipulados a través de tecnologías de inteligencia artificial que imitan con gran precisión vídeos, imágenes o clips de voz, haciendo que parezcan auténticos. Para el Lisa Institute, el uso de técnicas avanzadas de aprendizaje automático permite que estas creaciones engañen fácilmente al ojo humano, presentándose como una realidad alterada que es difícil de distinguir de la original.
Puedes leer: Apple activa loca maquinaria para álbum de Taylor Swift
Te puede interesar: Adobe Premier introduce IA generativa para su futuro
Esto les permite generar o modificar contenido con un grado de realismo antes inimaginable. La preocupación principal radica en cómo estos archivos pueden ser utilizados para fines maliciosos, como la manipulación de la opinión pública, difamación de individuos o incluso en la creación de noticias falsas. La capacidad de los deepfakes para crear escenarios falsos, pero convincentes, plantea interrogantes sobre la integridad de la información y el riesgo de desinformación en las sociedades.