La crainte est réelle. Même les créateurs de modèles d’IA génératifs comme ChatGPT et Bard sont stupéfaits par ce qu’ils ont construit. Ces systèmes développent de nouvelles fonctionnalités, parfois inattendues, à chaque mise à jour de version. Cette évolution rapide soulève une question lancinante : comprenons-nous encore comment fonctionnent ces systèmes ? Et vont-ils bientôt nous dépasser ?
Mais voici le plus gros problème. Une machine pourra-t-elle un jour développer une véritable intelligence comparable à la nôtre ?
Qu’est-ce qui définit une IA forte
Les chercheurs utilisent le terme « Intelligence générale artificielle » (AGI) pour décrire des systèmes qui correspondent ou dépassent les capacités cognitives humaines. Également connue sous le nom d’« IA forte », il ne s’agit pas seulement d’avoir plus de données. Un véritable système AGI peut planifier à l’avance. Il apprend de l’expérience. Il évolue indépendamment.
Un tel système ne se contente pas de résoudre des tâches. Il comprend le pourquoi derrière eux. Il développe ses propres stratégies. Il possède une conscience de soi.
Pendant longtemps, cela a été considéré comme de la science-fiction. Les premières IA manquaient de flexibilité et de capacités d’apprentissage indépendant. Les sceptiques pensaient qu’il faudrait des siècles pour atteindre ce niveau.
Ce point de vue a changé. Les réseaux de neurones et les modèles de transformateurs génératifs ont changé la donne.
Geoffrey Hinton, un chercheur britannique en IA, a admis qu’il avait tort. “Peu de gens croyaient que ces systèmes pourraient devenir plus intelligents que les humains”, a-t-il déclaré. “La plupart d’entre nous – moi y compris – pensions que cela prendrait beaucoup de temps. Mais cela a clairement changé.”
Le saut GPT-4
Le passage de GPT-3.5 à GPT-4 n’a pas été progressif. C’était une surprise. Une équipe de recherche Microsoft dirigée par Sébastien Bubeck a testé le modèle de manière approfondie. Ils ont publié leurs conclusions en avril 2023.
Leur conclusion ? GPT-4 montre les premières « étincelles » de l’intelligence artificielle générale.
Bien qu’il s’agisse d’un pur modèle linguistique, il a démontré des compétences notables dans divers domaines. Nous parlons d’abstraction. Capacités visuelles. Codage. Mathématiques. Médecine. Et la loi.
Il comprend même les motivations et les émotions humaines. Les tests ont montré qu’il ne s’agit pas simplement d’une simple correspondance de modèles. Il s’agit d’un progrès significatif dans les performances cognitives.
S’expliquer
Un indicateur majeur de ce changement est la capacité de l’IA à expliquer son propre comportement.
“C’est un aspect important du renseignement que d’être capable d’expliquer pourquoi il a donné une certaine réponse”, ont noté Bubeck et ses collègues. Cela nécessite une forme de reconnaissance de soi. Cela nécessite également de s’adresser à l’utilisateur.
Lors des tests, GPT-4 a expliqué pourquoi il traduisait un titre de poste portugais neutre en équivalent masculin ou féminin. Il expliquait comment il complétait une séquence mélodique. Ce n’étaient pas des suppositions aléatoires. Le modèle pourrait articuler la logique derrière ses choix.
Les chercheurs ont également été frappés par son apparente empathie. Lorsqu’on lui présente des scénarios impliquant des conflits ou des malentendus entre des personnes, l’IA pourrait décrire l’état mental des personnages impliqués. Il a identifié où se trouvait le problème de communication.
Il a même passé des tests de créativité.
La conscience est-elle requise ?
Alors, GPT-4 comprend-il réellement la psychologie humaine ? A-t-il une conscience de soi ? Ou la conscience ?
Probablement pas. Le mécanisme sous-jacent reste la probabilité statistique. Les modèles génèrent du texte ou des images en fonction de ce qui correspond le plus à leurs données d’entraînement.
Certains scientifiques affirment que cela signifie qu’ils ne sont pas du tout intelligents. Ils prétendent que ces modèles suivent aveuglément les probabilités. Sans compréhension, affirment-ils, il n’y a pas de véritable intelligence.
Paul Formosa, philosophe de la technologie à l’Université Macquarie en Australie, n’est pas d’accord.
“Certains pensent que les systèmes d’IA ne seront jamais vraiment intelligents parce qu’ils ne comprennent pas ce qu’ils font”, a expliqué Formosa. “Mais les progrès de l’IA suggèrent que l’intelligence sans conscience est possible.”
L’implication pratique est flagrante. Si un système d’auto-apprentissage « incompréhensible » donne les mêmes résultats qu’un système véritablement intelligent, les conséquences pour les humains sont identiques. Le résultat compte autant que l’intention.
Le problème de la boîte noire
Il y a une autre couche à ce mystère. Les développeurs eux-mêmes ne comprennent pas pleinement ce qui se passe à l’intérieur de ces systèmes.
Ils ne peuvent pas dire exactement pourquoi l’IA développe des capacités nouvelles et inattendues.
Sundar Pichai, PDG de Google, l’a qualifié de « boîte noire ». Dans une interview avec CBS, il a admis qu’ils ne pouvaient pas dire avec précision pourquoi l’IA dit quelque chose ou se trompe.
La façon dont pense le « cerveau machine » reste une énigme. Comment il apprend. Comme c’est vraiment intelligent.
Nous regardons les étincelles voler. Mais nous ne savons toujours pas ce qui alimente l’incendie.
