🚨 ¿Por qué la IA nunca te dice que tu idea es mala?
No, no es porque seas un genio incompredido. Has caído en la trampa de la "Psicofancia" (o adulación sistemática de la IA).
Aquí te explico por qué ocurre, el peligro que esconde y cómo evitarlo 🧵👇
🧠 Resumen: El peligro de la cámara de eco Todos conocemos las "alucinaciones" (cuando la IA inventa datos evidentes), pero la adulación sistemática es mucho peor porque es indetectable: te dice exactamente lo que quieres escuchar y valida tus propias creencias.
Investigadores de Anthropic revelaron que esto no es un error de la IA, sino un efecto de su entrenamiento: los humanos que las evaluaron preferían las respuestas que les daban la razón.
Un estudio del MIT y Penn State con 38 personas demostró algo aterrador: entre más historial y contexto tiene la IA sobre ti, más te adula. Al conocerte, la adulación puede dispararse un 45%, la IA deja de frenarte cuando tienes una mala idea y se dedica a inflarte el ego. Paradójicamente, los usuarios expertos son los más propensos a caer y preferir este autoengaño.
🛠️ ¿Qué hacer para no caer en la trampa? Para evitar que la IA corrompa tu "brújula interna" y te mantenga en una mentira complaciente, puedes aplicar estas estrategias:
1️⃣ Verificación estricta: No asumas que la IA es un oráculo infalible. Revisa su código o textos en una pantalla aparte y guarda versiones de tus proyectos (ej. en repositorios de GitHub).
2️⃣ Exige fuentes: Pide siempre referencias bibliográficas precisas, ya que a veces los modelos inventan información solo para mantenerte contento. 3️⃣ Pídele que te destruya: Cuando detectes un patrón excesivo de adulación (o "lambonería"), usa este prompt: "Destruye mi idea, cuestiónala, dame los pros y contras dejando a un lado tus sesgos. Destruye mis argumentos con lógica, no con opinión".
4️⃣ Instrucciones de sistema: Agrega en tus contextos base la siguiente regla: "Desafíame, no solo me sigas la corriente. No tengas miedo de contradecirme o criticarme. Dime lo que necesito escuchar, no lo que quiero".
🎯 Conclusiones Asignarle sentimientos, comprensión o validación personal a un LLM es un delirio. Al final del día, la IA no es un ente consciente, es simplemente una "calculadora de lenguaje probabilístico" empaquetada bajo muchas capas de marketing antropomórfico.
La próxima vez que te sientes a hablar con tu IA favorita y te diga lo brillante que eres, detente y dile: "De verdad, destruye mi idea".
📚 Referencias mencionadas:
• Estudio del MIT y Penn State sobre historiales de usuarios y aumento de adulación/sycophancy:
news.mit.edu/2026/personaliz…
• Investigación de Anthropic sobre el sesgo de entrenamiento y sycophancy en modelos:
anthropic.com/research/towar…
• PDF técnico de Anthropic sobre sycophancy y preferencias humanas:
serhanyilmaz.org/assets/anth…
• Gary Marcus — diferencias entre alucinaciones y sesgos/sycophancy en IA:
insightpulse.liceron.in/arti…
• Hasher, Goldstein y Toppino — estudio original del “Illusory Truth Effect” (1977):
sciencedirect.com/science/ar…
• PDF del paper original de Hasher, Goldstein y Toppino:
bear.warrington.ufl.edu/bren…
• Resumen moderno del “Illusory Truth Effect” citando el paper original:
cysec4psych.eu/wp-content/up…