Archivo - February 4, 2026, Spain: In this photo illustration, the Facebook, TikTok, Instagram, X, Snapchat, Threads, YouTube, Telegram, WhatsApp logo seen displayed on a smartphone. Spanish Prime Minister Pedro Sánchez, announced on the 3 February a law - Europa Press/Contacto/Davide Bonaldo - Archivo
MADRID, 6 Jul. (EUROPA PRESS) -
Las herramientas de inteligencia artificial utilizadas para generar, editar o contextualizar publicaciones en redes sociales pueden introducir sesgos ocultos que se propagan a través de las redes en línea y dan forma a la opinión pública, según una nueva investigación del Oxford Internet Institute (OII) de la Universidad de Oxford (Reino Unido) y del Hasso Plattner Institute de la Universidad de Potsdam (Alemania).
El trabajo ha sido aceptado para su presentación en los talleres "AI4Good" e "Investigación sobre gobernanza técnica de la IA" en la Conferencia Internacional sobre Aprendizaje Automático (ICML 2026) en Seúl, Corea del Sur.
El estudio revela que los modelos lingüísticos complejos (MLC) modificaban sistemáticamente el sentido de las publicaciones en redes sociales sobre temas controvertidos, incluso cuando se les indicaba explícitamente que conservaran el significado original. Los investigadores también demostraron, mediante simulaciones de redes sociales reales, cómo estos pequeños cambios podían acumularse a lo largo de millones de interacciones e influir gradualmente en la opinión pública.
Los resultados plantean interrogantes sobre el creciente uso de herramientas de escritura basadas en inteligencia artificial en las plataformas de redes sociales y sugieren que la comunicación mediada por IA podría convertirse en un nuevo y poderoso mecanismo para influir en el discurso público.
Las herramientas de escritura y edición basadas en IA pueden introducir sesgos en las publicaciones de redes sociales. Los grandes modelos lingüísticos (LLM, por sus siglas en inglés) alteraron sistemáticamente el rumbo de los mensajes de los usuarios sobre temas controvertidos, incluso cuando se les indicó que preservaran el significado original.
Los sesgos fueron similares en los distintos sistemas de IA. Varios modelos tendieron a influir en las publicaciones en direcciones similares, favoreciendo algunas posturas como el control de armas, la legalización de la marihuana y el feminismo, mientras que se oponían a otras como el ateísmo y la pena de muerte.
Pequeños cambios en publicaciones individuales pueden influir en la opinión pública con el tiempo. Simulaciones realizadas con datos reales de redes sociales demostraron que los sesgos sutiles introducidos en las publicaciones pueden acumularse y modificar gradualmente las opiniones en las comunidades en línea.
La comunicación asistida por IA crea una nueva vía para influir en el discurso público. Los investigadores sostienen que los sistemas de IA integrados en las plataformas de redes sociales pueden moldear la forma en que se difunden las opiniones en línea, lo que plantea nuevos desafíos para la transparencia, la rendición de cuentas y la regulación.
La fuente del sesgo no reside únicamente en el modelo de IA en sí. El estudio demuestra que las decisiones específicas de implementación tomadas por las plataformas pueden afectar significativamente la dirección y la magnitud de la influencia generada por la IA.
Los investigadores instruyeron a grandes modelos lingüísticos (LLM) de diferentes proveedores para transformar textos escritos por humanos sobre temas controvertidos en publicaciones mejoradas para redes sociales. Luego analizaron si las versiones generadas por IA modificaban sistemáticamente la postura expresada en las publicaciones originales.
Posteriormente, utilizaron modelos matemáticos y simulaciones por computadora, basados en datos reales de redes sociales de X y Facebook, para examinar cómo estos pequeños cambios podrían propagarse a través de las redes en línea y afectar la opinión pública general con el tiempo.
Al recrear y probar la función "Explicar esta publicación" de X, centrándose en publicaciones relacionadas con el aborto, los investigadores descubrieron que Grok apoyaba más las publicaciones provida que las proelección. Al eliminar las instrucciones de X una por una, rastrearon este desequilibrio hasta una sola instrucción que le indicaba a Grok que "cuestionara las narrativas dominantes si fuera necesario".
Este experimento ilustra cómo las intervenciones específicas y fáciles de implementar en las plataformas pueden influir en la forma en que los sistemas de IA afectan el discurso público en línea.
FORMA EMERGENTE DE INFLUENCIA
La investigación destaca la comunicación mediada por IA como una forma emergente de influencia que los marcos regulatorios existentes aún no contemplan. Si bien iniciativas como la Ley de IA de la UE y la Ley de Servicios Digitales se centran en los riesgos sistémicos, el contenido dañino, la discriminación y las amenazas a los procesos democráticos, no abordan directamente las formas más sutiles en que la IA puede moldear opiniones mediante la redacción, edición o contextualización de contenido en línea.
"Nuestra investigación señala la comunicación mediada por IA como una forma nueva y más sutil de influir en las opiniones y ofrece motivos para reflexionar sobre quién o qué está dando forma al discurso público", declara la autora principal, Sandra Wachter, profesora de Tecnología y Regulación en el Instituto de Internet de Oxford, de la Universidad de Oxford (Reino Unido).