El asombro es real. Incluso los creadores de modelos de IA generativa como ChatGPT y Bard están sorprendidos por lo que han construido. Estos sistemas desarrollan capacidades nuevas, a veces inesperadas, con cada actualización de versión. Esta rápida evolución plantea una pregunta persistente: ¿seguimos entendiendo cómo funcionan estos sistemas? ¿Y pronto nos superarán?
Pero aquí está el problema más importante. ¿Podrá una máquina desarrollar alguna vez una inteligencia real comparable a la nuestra?
¿Qué define una IA fuerte?
Los investigadores utilizan el término “Inteligencia general artificial” (AGI) para describir sistemas que igualan o superan las capacidades cognitivas humanas. También conocida como “IA fuerte”, no se trata sólo de tener más datos. Un verdadero sistema AGI puede planificar con anticipación. Se aprende de la experiencia. Evoluciona de forma independiente.
Un sistema así no se limita a resolver tareas. Entiende el por qué detrás de ellos. Desarrolla sus propias estrategias. Posee autoconciencia.
Durante mucho tiempo esto fue descartado como ciencia ficción. Las primeras IA carecían de flexibilidad y capacidades de aprendizaje independiente. Los escépticos pensaban que se necesitarían siglos para alcanzar este nivel.
Esa visión ha cambiado. Las redes neuronales y los modelos de transformadores generativos cambiaron el juego.
Geoffrey Hinton, un investigador británico de IA, admitió que estaba equivocado. “Pocos creían que estos sistemas pudieran llegar a ser más inteligentes que los humanos”, afirmó. “La mayoría de nosotros –incluyéndome a mí– pensamos que sería mucho tiempo. Pero eso claramente ha cambiado”.
El salto del GPT-4
El salto de GPT-3.5 a GPT-4 no fue incremental. Fue una sorpresa. Un equipo de investigación de Microsoft dirigido por Sebastien Bubeck probó exhaustivamente el modelo. Publicaron sus hallazgos en abril de 2023.
¿Su conclusión? GPT-4 muestra las primeras “chispas” de la inteligencia artificial general.
A pesar de ser un modelo de lenguaje puro, demostró habilidades notables en diversos campos. Estamos hablando de abstracción. Capacidades visuales. Codificación. Matemáticas. Medicamento. Y la ley.
Incluso comprende los motivos y las emociones humanas. Las pruebas demostraron que esto no es sólo una coincidencia de patrones. Es un salto significativo en el rendimiento de tipo cognitivo.
Explicándose
Un indicador importante de este cambio es la capacidad de la IA para explicar su propio comportamiento.
“Es un aspecto importante de la inteligencia poder explicar por qué dio una determinada respuesta”, señalaron Bubeck y sus colegas. Esto requiere una forma de autorreconocimiento. También requiere dirigirse al usuario.
En las pruebas, GPT-4 explicó por qué traducía un puesto de trabajo neutral en portugués al equivalente masculino o femenino. Explicó cómo completó una secuencia de melodía. Estas no fueron conjeturas al azar. El modelo podría articular la lógica detrás de sus elecciones.
Los investigadores también quedaron impresionados por su aparente empatía. Cuando se le presentan escenarios que involucran conflictos o malentendidos entre personas, la IA podría describir el estado mental de los personajes involucrados. Identificó dónde radicaba la falta de comunicación.
Incluso pasó pruebas de creatividad.
¿Se requiere conciencia?
Entonces, ¿GPT-4 realmente entiende la psicología humana? ¿Tiene conciencia de sí mismo? ¿O la conciencia?
Probablemente no. El mecanismo subyacente sigue siendo la probabilidad estadística. Los modelos generan texto o imágenes en función de lo que más se ajuste a sus datos de entrenamiento.
Algunos científicos argumentan que esto significa que no son inteligentes en absoluto. Afirman que estos modelos simplemente siguen ciegamente las probabilidades. Sin comprensión, argumentan, no hay verdadera inteligencia.
Paul Formosa, filósofo tecnológico de la Universidad Macquarie en Australia, no está de acuerdo.
“Algunos piensan que los sistemas de IA nunca serán verdaderamente inteligentes porque no entienden lo que están haciendo”, explicó Formosa. “Pero el progreso en la IA sugiere que la inteligencia sin conciencia es posible”.
Las implicaciones prácticas son crudas. Si un sistema de autoaprendizaje “no comprensivo” ofrece los mismos resultados que uno verdaderamente inteligente, las consecuencias para los humanos son idénticas. El resultado importa tanto como la intención.
El problema de la caja negra
Hay otra capa en este misterio. Los propios desarrolladores no comprenden del todo lo que sucede dentro de estos sistemas.
No pueden decir exactamente por qué la IA desarrolla habilidades nuevas e inesperadas.
Sundar Pichai, director ejecutivo de Google, lo llamó una “caja negra”. En una entrevista con CBS, admitió que no pueden decir con precisión por qué la IA dice algo o se equivoca.
Cómo piensa el “cerebro máquina” sigue siendo un enigma. Cómo aprende. Qué inteligente es realmente.
Estamos viendo volar las chispas. Pero todavía no sabemos qué está alimentando el fuego.
