La gran ilusión de la inteligencia artificial: ¿de verdad piensa?

La inteligencia artificial (IA) nos sorprende cada vez más. Ya no solo responde rápido: ahora hasta “piensa en voz alta”, como si hiciera un razonamiento paso a paso. A este tipo de modelos se les llama Modelos de Razonamiento Avanzado. Parecen más humanos, más listos… casi perfectos.

Pero un grupo de investigadores becarios en Apple, quiso ir más allá y hacerse una pregunta clave:

¿Estos modelos de IA realmente están pensando… o solo están imitando cómo pensamos nosotros?

Y lo que descubrieron es revelador.

¿Está razonando… o solo repitiendo lo que aprendió?

En vez de probar la IA con ejercicios comunes (como matemáticas básicas o problemas de programación), crearon nuevos acertijos diseñados especialmente para este experimento. Así se aseguraron de que la IA no pudiera simplemente “copiar” lo que ya había visto antes.

Gracias a esto, analizaron no solo si la IA acertaba, sino cómo llegaba a la respuesta: ¿pensaba con lógica o solo tiraba palabras al azar con apariencia de razonamiento?

Lo que pasa cuando la IA se enfrenta a problemas difíciles

Los resultados fueron curiosos:

• En problemas muy fáciles, los modelos más simples (los que no “piensan” paso a paso) lo hacían mejor.
  
  
• En los de dificultad media, los modelos con razonamiento sí brillaban.
  
  
• Pero en los problemas realmente complejos, todos fallaban. Incluso los modelos más avanzados se bloqueaban o dejaban de razonar aunque tuvieran recursos de sobra.
  
  

¿La IA es inteligente o solo parece inteligente?

Aunque a veces parezca que razona, en realidad la IA puede saltar de una idea a otra sin lógica clara, repetir pasos sin sentido, o incluso contradecirse en el mismo ejercicio.

No es que “entienda” como lo hacemos las personas. Lo que hace es generar texto que suena como si entendiera.

Y eso es importante, porque si trabajas con IA, tomas decisiones basadas en ella o simplemente usas estas herramientas cada día… necesitas saber que no siempre son tan confiables como aparentan.

¿Por qué debería importarte esto?

Porque cada vez dependemos más de estas herramientas. Y aunque nos pueden ayudar muchísimo, también pueden fallar.

Este estudio nos recuerda que la IA no es magia. Es poderosa, sí. Pero también tiene límites. No razona como nosotros, y muchas veces lo que parece una buena respuesta… no lo es.

Y en momentos como los que transcurren, es importante tener en claro que no podemos generar una dependencia ciega en estas tecnologías. Si vamos a convivir con ellas, debemos entenderlas bien, usarlas con criterio y asegurarnos de que la tecnología trabaje para nosotros —no al revés.

🔗 Fuente y autores:
Este estudio fue realizado por Parshin Shojaee, Iman Mirzadeh, Keivan Alizadeh, Maxwell Horton, Samy Bengio y Mehrdad Farajtabar, durante una pasantía en Apple. Podés leerlo completo en: https://machinelearning.apple.com/research/illusion-of-thinking