En un artículo reciente, los investigadores de Google dieron la alarma sobre el impacto de la IA generativa en Internet, destacando la ironía de que el propio Google haya estado promoviendo agresivamente esta tecnología entre su amplia base de usuarios.

El estudio, que aún no ha sido revisado por pares y fue destacado por 404 Media, revela que un gran porcentaje de usuarios de IA generativa están explotando la tecnología para “difuminar las líneas entre autenticidad y engaño”.

Esto incluye publicar en línea contenido falso o generado por IA, como fotos y videos.

Los investigadores analizaron las investigaciones existentes sobre la IA generativa y revisaron casi 200 artículos de noticias que documentan su mal uso. Sus hallazgos sugieren que la manipulación de la semejanza humana y la falsificación de pruebas se encuentran entre las tácticas más comunes utilizadas en escenarios del mundo real. Estas actividades suelen tener como objetivo influir en la opinión pública, facilitar fraudes o actividades fraudulentas o generar beneficios.

Una de las principales preocupaciones es que los sistemas de IA generativa se están volviendo cada vez más avanzados y fácilmente accesibles, y requieren una experiencia técnica mínima. Los investigadores descubrieron que esto distorsiona la “comprensión colectiva de la realidad social y política o el consenso científico” de las personas.

Entre las omisiones notables en el artículo de investigación se encuentra cualquier mención de los errores cometidos por Google al abordar la inteligencia artificial generativa. Como una de las empresas más grandes del mundo, Google ha cometido en ocasiones errores importantes al implementar esta tecnología.

El estudio señala que el uso indebido generalizado de la IA generativa sugiere que la tecnología está desempeñando muy bien su función prevista. La gente está utilizando la IA generativa para producir grandes cantidades de contenido falso, inundando Internet con información errónea generada por la IA.

Esta situación se ve agravada por Google, que no sólo permite, sino que en ocasiones ha sido la fuente de estos contenidos falsos, incluidas imágenes e información falsas. La difusión de este tipo de contenidos pone a prueba la capacidad de las personas para distinguir entre información real y falsa.

Los investigadores advierten que la producción masiva de contenido sintético dañino, de baja calidad, parecido al spam, está aumentando el escepticismo público hacia la información digital. También impone a los usuarios la necesidad de validar lo que encuentran en línea.

Lo que es más preocupante, los investigadores señalan casos en los que personas destacadas han podido descartar evidencia desfavorable como inteligencia artificial, desplazando la carga de la prueba de manera costosa e ineficiente. Esta táctica socava la rendición de cuentas y complica el proceso de verificación.

A medida que empresas como Google sigan integrando la IA en sus productos, se espera que aumente la prevalencia de estos problemas. La investigación subraya la necesidad de vigilancia y medidas sólidas para abordar los desafíos que plantea la IA generativa para mantener la integridad de la información en línea.

Encuéntranos en YouTube

Participar