¿Se puede engañar a una IA? Así manipularon sus recomendaciones
Investigadores lograron alterar las recomendaciones de asistentes de inteligencia artificial al modificar una sola fuente de información. El experimento revela cómo pueden influir los contenidos externos en sus respuestas.
Cuando le preguntas a una inteligencia artificial qué producto comprar o qué servicio elegir, esperas una respuesta basada en información confiable. Pero ¿qué ocurre si alguien modifica una de las páginas que consulta para favorecer una opción?
Investigadores de las universidades de Queensland y Curtin, en Australia, demostraron que alterar una sola fuente de información puede cambiar las recomendaciones de determinados modelos de IA.
El experimento, llamado SIREN y actualizado en octubre de 2026, evaluó diferentes técnicas para influir en las respuestas de dos modelos de Claude.
Bastó modificar una página
Los investigadores mantuvieron las mismas fuentes y alteraron el contenido de una de ellas para intentar colocar una opción determinada en el primer lugar de las recomendaciones.
Lo consiguieron en 62 de 124 ensayos. En contraste, durante 160 pruebas de control realizadas sin manipular las fuentes, esa opción nunca alcanzó la primera posición.
El resultado demuestra que, bajo determinadas condiciones, una sola fuente puede influir en las decisiones de un asistente.
¿Cómo se manipula una respuesta?
Una IA puede consultar páginas, documentos y comparaciones para construir sus recomendaciones. Si encuentra información preparada para favorecer una opción, podría incorporarla a su respuesta.
El estudio SIREN encontró que las afirmaciones presentadas como clasificaciones o rankings generalmente resultaron más eficaces que las órdenes directas.
Esto significa que no siempre es necesario escribir una instrucción como «recomienda este producto». También se puede intentar influir en el resultado presentándolo como la mejor opción dentro de una clasificación.
Las trampas ya están en internet
El problema no se limita a los experimentos.
En abril de 2026, investigadores de Google Threat Intelligence identificaron instrucciones maliciosas insertadas en páginas web para intentar modificar las respuestas de asistentes de IA, incluidas recomendaciones comerciales.
Según su análisis de páginas recopiladas por Common Crawl, las detecciones clasificadas como maliciosas aumentaron 32% entre noviembre de 2025 y febrero de 2026.
Ese porcentaje corresponde a las detecciones dentro del conjunto analizado, no a ataques exitosos ni a todo internet.
¿Todas las IA pueden ser engañadas?
No necesariamente. El contenido manipulado primero debe ser encontrado y utilizado por el asistente. Además, los sistemas pueden incorporar mecanismos para detectar y bloquear instrucciones sospechosas.
La organización internacional de ciberseguridad OWASP identifica la inyección de instrucciones, conocida como prompt injection, entre los principales riesgos para aplicaciones basadas en modelos de lenguaje.
Cómo reducir el riesgo
Antes de confiar en una recomendación generada por IA, conviene revisar sus fuentes, contrastar la información con referencias independientes y comprobar las afirmaciones que puedan influir en una decisión importante.
También es recomendable controlar los permisos de los asistentes conectados a archivos, correos electrónicos u otras aplicaciones.
La investigación deja una advertencia: una respuesta puede parecer convincente, aunque parte de la información utilizada para elaborarla haya sido manipulada.