Los riesgos que plantean las noticias falsas y la desinformación impulsadas por la inteligencia artificial están abriendo nuevos caminos en la difusión de información errónea y amenazando la democracia, según un informe del Foro Económico Mundial publicado el miércoles.
Según el último Informe de Riesgos Globales, una variedad de riesgos ambientales se encuentran entre las mayores amenazas a largo plazo. El informe se publicó antes de la reunión anual de directores ejecutivos y líderes mundiales en Davos, Suiza, y se basa en una encuesta realizada a casi 1.500 expertos, ejecutivos de la industria y responsables políticos.
El informe clasifica las noticias falsas y la desinformación como el riesgo más grave para los próximos dos años, y señala que los rápidos avances tecnológicos también crean nuevos problemas o empeoran los existentes.
Los autores temen que el auge de los chatbots de IA generativa, como ChatGPT, signifique que la creación de contenido sintético sofisticado que pueda usarse para manipular grupos de personas ya no se limite a personas con habilidades especializadas.
Se espera que la IA sea un tema candente la próxima semana en las reuniones de Davos, que se espera que incluyan a ejecutivos de empresas de tecnología como el director ejecutivo de OpenAI, Sam Altman, el director ejecutivo de Microsoft, Satya Nadella, y actores de la industria, incluido el principal experto en inteligencia artificial de Meta, Yann LeCun.
La desinformación y las noticias falsas impulsadas por la inteligencia artificial se están convirtiendo en un riesgo a medida que miles de millones de personas en muchos países, incluidas economías importantes como Estados Unidos, Reino Unido, Indonesia, India, México y Pakistán, acuden a las urnas este año.
«Se puede aprovechar la IA para crear deepfakes y realmente impactar a grandes grupos, lo que realmente alimenta la desinformación», dijo Carolina Klint, jefa de gestión de riesgos de Marsh, cuya empresa matriz, Marsh McLennan, coescribió el informe con el grupo asegurador Zurich.
«Las sociedades podrían polarizarse aún más» a medida que a las personas les resulte más difícil verificar los hechos, dijo. Las noticias falsas también podrían usarse para cuestionar la legitimidad de los gobiernos electos, «lo que significa que los procesos democráticos podrían verse erosionados, lo que también conduciría a una polarización social aún mayor», afirmó Klint.
El auge de la IA también presenta una serie de otros riesgos, afirmó. Puede permitir que “actores maliciosos” faciliten los ciberataques, por ejemplo, automatizando intentos de phishing o creando malware avanzado. Con la IA, «no es necesario ser el más inteligente para ser un mal actor», afirmó Klint.
Incluso puede contaminar los datos recopilados de Internet para entrenar otros sistemas de IA, lo que es «extremadamente difícil de revertir» y podría dar lugar a la introducción de sesgos adicionales en los modelos de IA, añadió.
La otra principal preocupación mundial entre los encuestados en la encuesta de riesgos fue el cambio climático. Después de la desinformación y la información falsa, el clima extremo representa el segundo riesgo más acuciante a corto plazo.
A largo plazo, definido como diez años, se ha descrito que el clima extremo es la principal amenaza, seguido de otros cuatro riesgos ambientales: cambios críticos en los sistemas terrestres; pérdida de biodiversidad y colapso de ecosistemas; y escasez de recursos naturales.
«Podríamos superar el punto de inflexión irreversible del cambio climático» en la próxima década, a medida que los sistemas de la Tierra experimenten cambios a largo plazo, dijo Klint.