Siempre cuestiona la IA

Esta es la lección más importante de todas. La IA es una herramienta poderosa, pero tiene un defecto peligroso: cuando no sabe, no dice "no sé". Inventa una respuesta y la escribe con la misma confianza que cuando está en lo correcto. En el mundo de la IA esto tiene un nombre: alucinación.

No es raro, y el riesgo es mayor donde más importa

Los mejores modelos mejoraron mucho en preguntas generales, pero en temas técnicos el error sigue siendo alto. En consultas jurídicas, los estudios apuntan tasas de invención que van del 6% a más del 50% según la herramienta. En resúmenes de documentos, los modelos de razonamiento más nuevos superan el 10% de alucinación. Y un dato que asusta: casi la mitad de los usuarios corporativos de IA ya tomó al menos una decisión de negocio basada en información que la IA inventó.

Dos motivos además de la invención

La regla de oro para la construcción

Nunca uses un número, una cláusula de contrato o una exigencia de código salido de la IA sin verificación humana. Para código y normas, confirma con la jurisdicción local o con la herramienta especializada. Para contratos e impuestos, confirma con un abogado y un contador. La IA adelanta el borrador; no asume la responsabilidad, la asumes tú.

Cómo cuestionar en la práctica

• Pide la fuente: "¿de dónde sacaste esto? dame el enlace o la referencia".
• Desconfía de números demasiado redondos y demasiado específicos. Pregunta "¿estás seguro?" y observa si se retracta.
• Para temas actuales, usa una IA con acceso a internet y pídele que busque información de ahora.
• Verifica toda afirmación sensible a fecha, valor o ley contra la fuente oficial.

Usar bien la IA no es creerle. Es usarla como un pasante rápido y servicial, que produce mucho, pero cuyo trabajo siempre revisas antes de firmar.