ESET advirtió que si bien el futuro es prometedor para cada uno de los campos dónde puede ser aplicada la inteligencia artificial generativa, existen riesgos vinculados a la adopción de esta nueva tendencia.
De acuerdo con la empresa, los modelos tradicionales de Inteligencia Artificial se basan en modelos estadísticos. Estos reconocen patrones a partir de datos existentes y son más aprovechados para contextos analíticos y predictivos.
Añadió que, en el auge de la inteligencia artificial, se creó una nueva categoría llamada generativa. Esta, mencionan, tiene el potencial de (re)construir o (re)producir contenido proveniente de algún texto, imagen, video, audio o código fuente, tan verosímil como el usuario lo permita.
“La IA Generativa reside en el ciberespacio y, por consecuencia, existen riesgos asociados. Los cuales pueden afectar tanto a personas como empresas o gobiernos”, menciona Eset.
Leer más: 8 de cada 10 defraudadores prevén utilizar IA generativa en 2025
Precisamente, Eset señaló 5 riesgos de la Inteligencia Artificial Generativa. Estas son:
1. Moderación de contenidos. Algunas de las redes sociales, sitios web o aplicaciones no son legalmente responsables, o son muy ambiguos. Ello en lo que refiere a los contenidos subidos por sus usuarios, como ideas o publicaciones hechas por terceros o subyacentes, ni el contenido generado por IA.
2. Infracción de los derechos de autor e imagen. La originalidad de algún contenido independientemente de la fuente, con la llegada de la IA Generativa cada vez parece ser más difusa. En este caso, muchos derechos de autor y permisos de imagen fueron ignorados por grandes compañías. Ello generó una enorme molestia y como consecuencia de esto Estados Unidos optó por implementar recursos legales que protegieran a ambas partes.
3. Privacidad. Para que los modelos de IA Generativa puedan funcionar correctamente necesitan de grandes volúmenes de datos para ser entrenados. Pero, ¿Qué sucede cuando este volumen puede obtenerse de cualquier fuente pública como videos, audios, imágenes, textos o códigos fuente sin el consentimiento del titular?
4. Cuestiones éticas. Aquellos países donde las regulaciones en materia de Inteligencia Artificial son escasas o nulas, son aprovechadas por algunos usuarios para fines nada éticos como la suplantación de identidad (voz, imagen o video) para crear perfiles falsos que usan para cometer fraude/extorsión a través de alguna plataforma, aplicación o red social, o también lanzar campañas de phishing sofisticadas o estafas del tipo catfishing.
5. Desinformación. Aprovechando este tipo de IA las prácticas de difusión de noticias falsas en plataformas y redes sociales se ven mejoradas. La viralización de estos contenidos engañosos generados llega a perjudicar la imagen de alguna persona, comunidad, país, gobierno o empresa.
Nuestras Redes Sociales:
