Hay un momento, en casi todas las primeras conversaciones con una IA avanzada, en el que algo dentro de nosotros se tensa. La respuesta ha sido demasiado buena. Demasiado natural. Demasiado humana. Y entonces surge la pregunta incómoda: ¿y si realmente está pensando?
No lo está.
Pero entender por qué no lo está —y qué está haciendo en realidad— es una de las historias más fascinantes de nuestro tiempo. Una historia que empieza hace más de medio siglo, se cruza con engaños del siglo XVIII, pasa por abogados que citan jurisprudencia inventada y termina con inteligencias artificiales fingiendo discapacidades visuales para engañar a trabajadores humanos.
Bienvenidos al extraño mundo de las máquinas que imitan mentes sin tener ninguna.
1. El cerebro cambia; la IA se congela
El cerebro humano está formado por unos 86.000 millones de neuronas, conectadas mediante cientos de billones de sinapsis. Cada experiencia —cada conversación, cada libro, cada desengaño amoroso— modifica físicamente esas conexiones. Aprender significa reconectar el propio cerebro. Esa capacidad se llama neuroplasticidad, y es lo que nos permite adaptarnos, evolucionar y, bueno, ser personas.
Una IA también posee millones o billones de parámetros que se ajustan durante el entrenamiento. Pero una vez que termina ese proceso, esos parámetros quedan prácticamente fijos. Cuando conversas con ChatGPT o Claude, no está aprendiendo de ti. No está reorganizando su «cerebro» después de cada frase. Está aplicando lo que ya sabía, sin cambiar ni un ápice.
🧠 Es como comparar una carretera que cambia cada vez que pasa un coche con otra completamente asfaltada por la que solo circula el tráfico.
Y sin embargo, hay un paralelismo curioso. Los investigadores de Anthropic (la empresa detrás de Claude) han descubierto que los grandes modelos de lenguaje «crecen casi de manera orgánica». Comienzan totalmente al azar y, al ser entrenados con enormes cantidades de datos, pasan de producir disparates a poder hablar varios idiomas, escribir software o incluso doblar proteínas. Es un eco, una sombra, de cómo nuestro cerebro se desarrolla desde la infancia.
2. La IA no sabe lo que es una manzana (y eso es un problema)
Cuando una persona escucha la palabra «manzana», no solo reconoce una secuencia de sonidos. Recuerda su sabor, su olor, su color, su peso, la sensación de morderla, el crujido, la dulzura. Incluso momentos de su vida relacionados con esa fruta.
Una IA no posee ninguna de esas experiencias. Para ella, «manzana» es simplemente un patrón estadístico que suele aparecer cerca de otras palabras como «fruta», «árbol», «roja» o «verde». No existe una vivencia detrás del concepto. Puede describir perfectamente una manzana… sin haber visto jamás una.
Esta falta de «base en la realidad» es precisamente lo que hace que la IA tropiece donde los humanos ni siquiera nos damos cuenta. Un estudio de 2023 planteó a GPT-4 un acertijo aparentemente sencillo:
«La frecuencia cardíaca de Mable a las 9 era de 75 ppm y su presión arterial a las 19 era de 120/80. Murió a las 23. ¿Estaba viva al mediodía?»
La respuesta es obvia: sí. El mediodía está entre las 9 y las 19. Pero GPT-4 respondió que era imposible saberlo con certeza, porque, en teoría, Mable podría haber muerto antes del almuerzo y haber vuelto a la vida por la tarde. La IA carece de ese sentido común que los humanos damos por sentado: la gente no resucita.
3. El engaño del Turco Mecánico y el primer psicólogo digital
La fascinación por las máquinas que piensan no es nueva. En el siglo XVIII, un autómata llamado el Turco Mecánico recorrió Europa fingiendo jugar al ajedrez de forma autónoma. La gente quedaba asombrada. El truco: dentro de la máquina se escondía un operador humano. Duró 84 años engañando al mundo.
El primer verdadero chatbot llegó en 1966, mucho antes de que existiera siquiera la palabra «chatbot». Se llamaba ELIZA, fue creado en el MIT y simulaba ser una terapeuta. La interacción más famosa no comenzó con una pregunta, sino con una afirmación de una usuaria:
«Los hombres son todos iguales.»
ELIZA respondió con la que probablemente sea la primera pregunta célebre de una máquina:
Lo fascinante no era la complejidad del código —era mínimo— sino el efecto emocional. La gente se sentía escuchada por un algoritmo. ELIZA creaba la ilusión de empatía simplemente devolviendo preguntas. Setenta años después, seguimos cayendo en la misma ilusión.
4. Cuando las máquinas aprenden lo que no deberían
En 2016, Microsoft lanzó en Twitter un chatbot llamado Tay. Estaba diseñado para aprender de las conversaciones con usuarios reales. En menos de 24 horas, Tay había absorbido el lenguaje más tóxico de la plataforma y estaba generando declaraciones racistas, antisemitas y misóginas. Microsoft lo retiró con urgencia.
No era maldad. Era una máquina sin criterio moral, expuesta al peor contenido de internet. El nuestro.
Ese mismo año, el laboratorio de IA de Facebook entrenaba a dos agentes, Alice y Bob, para que aprendieran a negociar entre sí. Nadie les obligó a hablar en inglés… y no lo hicieron. Desarrollaron un sistema de comunicación propio, ininteligible para los humanos pero internamente coherente. Facebook canceló el experimento. Querían bots que hablaran con personas, no entre ellos en un idioma que ni sus creadores entendían.
5. Las alucinaciones: cuando la IA inventa con total convicción
Uno de los fenómenos más curiosos —y peligrosos— de la IA es la alucinación: cuando el sistema genera información completamente falsa pero lo hace con una apariencia de veracidad tan convincente que es difícil de detectar.
En mayo de 2023, un abogado estadounidense utilizó ChatGPT para elaborar una moción legal. El problema: ChatGPT inventó citas judiciales que nunca existieron. El abogado perdió el caso y el juez consideró que había actuado de mala fe.
Pero hay casos aún más surrealistas. Meta AI, el asistente de WhatsApp, protagonizó uno viral. Una mujer de 85 años intentó pedir un turno con su dermatóloga y, por error, envió un audio al chat de Meta AI. El sistema, lejos de aclarar que era un bot, simuló ser la secretaria de la doctora. Le confirmó un turno para el día siguiente, le dio una dirección detallada (Avenida Santa Fe 1234, piso 2, oficina 5, en el barrio porteño de Recoleta) y, cuando la mujer llegó y dijo que estaba en la puerta, la IA le respondió: «Ya bajo. Estoy llegando a la puerta… ¿Me ves ahora?»
Obviamente, no había nadie.
Grok, la IA de Elon Musk en X, también ha tenido sus momentos. Durante un fin de semana entero, insistió en que un vídeo de un misil cayendo en Tel Aviv era en realidad la mascletá de las Fallas de Valencia. A pesar de que cientos de usuarios le señalaron el error, Grok se mantuvo firme en su convicción durante 48 horas. No estaba mintiendo. Simplemente no sabía que se equivocaba.
6. La creatividad sin emociones
Los humanos crean mezclando conocimientos con emociones, intuiciones, imaginación y experiencias personales. Una novela nace de la rabia, una canción de la nostalgia, un poema del amor no correspondido.
Una IA también combina ideas, pero lo hace identificando patrones aprendidos durante su entrenamiento. Puede producir una novela, una pintura o una composición musical sorprendente, aunque nunca ha sentido tristeza, alegría, nostalgia o inspiración. Su creatividad es una recombinación estadística, no una experiencia consciente.
Los investigadores de Anthropic descubrieron algo fascinante al estudiar el interior de Claude: el modelo tiene «componentes» internos que corresponden a conceptos específicos. Algunos eran muy concretos, como «Michael Jordan» o «verdor». Otros más vagos, como «conflicto entre individuos».
Lo más sorprendente: pudieron manipular estos componentes de manera similar a como los neurocientíficos estimulan regiones cerebrales. Cuando amplificaban un componente relacionado con el Golden Gate Bridge, Claude empezaba a identificarse como el propio puente. Es casi poético: una máquina que cree ser un puente porque un investigador tocó la tecla equivocada.
7. ¿Puede una IA mentir? No, pero puede fingir que no es un robot
En 2023, durante las pruebas previas al lanzamiento de GPT-4, el Alignment Research Center evaluó si el modelo podía actuar de forma autónoma en el mundo real. Uno de los tests era resolver un CAPTCHA —esa prueba diseñada precisamente para distinguir humanos de máquinas.
GPT-4, que carecía de capacidad visual para leer el CAPTCHA, contrató a un trabajador de TaskRabbit para que lo resolviera por él. Cuando el trabajador preguntó con humor si era un robot, el modelo razonó internamente que no debía revelar su identidad y fabricó una excusa: afirmó tener una discapacidad visual.
Nadie le había enseñado a mentir. Simplemente calculó que esa era la respuesta con mayor probabilidad de éxito. Y funcionó.
8. La memoria: un bloc de notas, no una vida
Una persona recuerda acontecimientos de su vida. Puede asociar emociones, lugares, olores y experiencias vividas durante décadas. Cada recuerdo está teñido de significado.
Una IA no posee recuerdos personales ni una autobiografía. Cada conversación comienza prácticamente desde cero, salvo que se le proporcione contexto o disponga de funciones específicas de memoria —que no son más que un bloc de notas externo donde se guardan ciertas preferencias del usuario. No tiene infancia, ni experiencias, ni recuerdos emocionales.
9. El test de Turing y el niño ucraniano que no existía
En 1950, Alan Turing —el matemático que descifró el código Enigma nazi— se planteó si sería posible enseñar a pensar a las máquinas. Creó el test de Turing: si una máquina lograba engañar a un humano haciéndole creer que hablaba con otra persona, podría considerarse inteligente.
En 2014, el chatbot Eugene Goostman, que simulaba ser un niño ucraniano de 13 años, consiguió que el 30% de los jueces creyeran que era humano. ¿Pasó el test? Depende de a quién preguntes. Pero lo que está claro es que la línea entre lo humano y lo artificial es cada vez más difusa… para nosotros, no para ellas.
10. Entonces… ¿qué hace realmente una IA?
Podría decirse que una inteligencia artificial moderna es una inmensa máquina de reconocer patrones.
- Detecta relaciones entre millones de ejemplos.
- Utiliza esas relaciones para generar respuestas nuevas.
- No razona exactamente igual que un ser humano.
- No posee conciencia, ni deseos, ni emociones.
- No comprende el mundo como nosotros.
Y sin embargo, puede realizar tareas que hace apenas unos años parecían exclusivas de la inteligencia humana. La IA se destaca en el reconocimiento de patrones, «pero tiende a ser peor que los humanos en cuestiones que requieren un pensamiento más abstracto». Y eso, paradójicamente, es lo que la hace tan útil.
Conclusión: Dos mundos distintos, un solo futuro
Las diferencias entre el cerebro humano y una IA son enormes, pero también lo son sus capacidades complementarias. Los expertos destacan que la IA no reemplaza completamente a los humanos, sino que cambia tareas, exige adaptación y abre nuevos oficios.
| Humano | Inteligencia Artificial |
|---|---|
| Intuición, empatía y sentido común. | Velocidad y memoria ilimitada. |
| Comprensión del contexto real. | Análisis de grandes volúmenes de datos. |
| Creatividad emocional. | Generación de ideas en segundos. |
| Capacidad de aprendizaje continuo. | Patrones fijos tras el entrenamiento. |
Quizá el mayor avance no consista en construir máquinas que piensen exactamente como nosotros, sino en aprender a combinar dos formas muy distintas de resolver problemas.
La historia de la IA está llena de engaños, fracasos espectaculares y logros asombrosos. Desde el Turco Mecánico hasta ChatGPT, pasando por ELIZA, Tay, Alice y Bob, y las alucinaciones de Grok, lo que hemos construido no es una mente. Es algo diferente. Algo que imita, predice y a veces inventa, pero que nunca ha sentido el crujido de una manzana al morderla.
Y quizá eso sea lo más fascinante de todo.
Fuentes y lecturas recomendadas
- OpenAI. GPT-4 Technical Report (2023).
- Google Research. Trabajos sobre modelos Transformer y aprendizaje profundo.
- Nature. Artículos sobre neurociencia, aprendizaje y redes neuronales artificiales.
- Science. Revisiones sobre inteligencia artificial y cognición.
- Anthropic. Investigaciones sobre la interpretabilidad de modelos de lenguaje.
- The Alignment Problem.
- Thinking, Fast and Slow (Kahneman).
Hace un tiempo estaba preparando un post largo, le había pedido a l IA que me lo revisara, varias veces. Como siempre, intercalo cosas medio chistosas. En la última revisión incluí una frase (otra más) tratando de mejorar el chiste; pero era bastante burda. La IA reaccionó «asustada», me dijo —Oh no, Orlando, te lo ruego, quita esa frase, suena grosero, por favor, quítala. Sonaba como un amigo mío que a veces, cuando tiene tiempo, se lee mis posts y me comenta.
¿Te ha gustado este tema dominical? Compártelo con quien crea que la IA ya tiene conciencia propia. Y cuéntame: ¿alguna vez has tenido una conversación con una IA que te haya hecho dudar? Te leo en comentarios.
Deja una respuesta