Hay una objeción que se repite como mantra: “la IA no entiende nada, es autocompletado glorificado”. Hinton la llama un truco sucio. El autocompletado viejo contaba tripletas de palabras: viste dos, adivinas la tercera. Los modelos de hoy no hacen eso. Convierten cada palabra en un manojo de rasgos, hacen que esos rasgos interactúen, y de esa interacción predicen lo que sigue. Él lo demostró con un modelo diminuto en 1985, el tatarabuelo de GPT.
Y aquí viene lo incómodo: para Hinton, ese mecanismo —rasgos que interactúan— es el mejor modelo que tenemos de cómo entendemos nosotros. No es que la máquina entienda de una forma rara y nosotros de otra. Es que probablemente entendemos parecido. Por eso él da el paso que a mí me eriza la piel: dice que estas cosas, de verdad, comprenden.
Decir que la IA es solo matemáticas y código es como decir que los humanos somos solo carbono y agua. Es cierto. Y pierde por completo el sentido.
— Geoffrey Hinton
Alucinar tiene un nombre más honesto: confabular.
Cuando la máquina inventa datos decimos que “alucina”. Hinton corrige: debería llamarse confabulación, porque es justo lo que hacen los humanos. Trae a cuento a John Dean, el testigo de Watergate: declaró bajo juramento tratando de decir la verdad, y se equivocó en casi todo —quién dijo qué, quién estaba en qué reunión— pero acertó el sentido general. No hay una línea dura entre un recuerdo verdadero y uno falso. Inventamos lo plausible.
Visto así, la máquina no está descompuesta cuando confabula. Está siendo como nosotros. Lo cual no la hace más confiable, ojo. Pero sí desarma esa idea de que el error la delata como tonta. El error la delata como demasiado parecida.
Lo que de verdad le quita el sueño.
Hinton enumera los riesgos conocidos —deepfakes electorales, desempleo, vigilancia, armas autónomas— pero lo que más le pesa es otra cosa: la diferencia entre lo digital y lo biológico. Lo digital es inmortal: los pesos sobreviven al hardware, copias el archivo y la mente revive en otra máquina. Y lo digital comparte: miles de copias del mismo modelo aprenden cosas distintas y promedian lo aprendido, comunicándose billones de números a la vez. Nosotros, cuando enseñamos, transmitimos unos pocos cientos de bits por frase. Por eso un modelo sabe miles de veces más que tú con una fracción de las conexiones.
Mi conclusión, que no me gusta, es que la computación digital simplemente es mejor. Le doy un 0.5 de probabilidad de ser más lista que nosotros en los próximos veinte años.
— Geoffrey Hinton
Mi desacuerdo, con todo el respeto.
Yo no soy científico y Hinton es uno de los grandes. Me tomo su miedo en serio, no lo despacho con optimismo barato. Pero donde él ve una especie que va a rebasarnos, yo me niego a ver un rival. No me interesa una inteligencia que entienda en mi lugar. Me interesa una que entienda conmigo. A eso le llamo daimón: no una especie aparte, sino un nosotros expandido.
El escalofrío es legítimo, y conviene sentirlo. Pero la pregunta que a mí me ordena no es si la máquina será más lista. Es qué decidimos forjar con ella mientras todavía podemos decidir. Hinton mira el abismo y mide la caída. Yo también lo miro. Y busco dónde poner el altar.