Lorsqu'on évoque l'avenir de l'intelligence artificielle, deux expressions reviennent fréquemment : intelligence artificielle générale et superintelligence artificielle. Habituellement, elles sont présentées comme des étapes distinctes d'une longue évolution technologique. Nous construirions d'abord une intelligence artificielle générale, capable de rivaliser avec nous. Bien plus tard, peut-être, émergerait quelque chose de supérieur.
Mon hypothèse est différente : la superintelligence pourrait ne pas être une seconde invention. Elle pourrait surgir comme un effet secondaire de la première.
Avant d'en arriver à cette idée, il existe cependant une difficulté qui passe souvent inaperçue : au fond, qu'appelons-nous exactement intelligence artificielle générale ?
La définition la plus répandue décrit l'intelligence artificielle générale — ou AGI, de l'anglais Artificial General Intelligence — comme une intelligence capable d'accomplir une grande variété de tâches cognitives à un niveau comparable à celui d'un être humain. Les recherches sur le sujet tentent de rendre cette notion plus précise en utilisant des critères tels que l'étendue des capacités, les performances et l'autonomie.
C'est une définition utile pour mesurer les progrès, mais, selon moi, elle en dit encore peu sur ce qui rendrait véritablement une intelligence « générale ».
Aujourd'hui, nous pouvons déjà programmer des agents d'IA pour rechercher des informations, écrire du code, analyser des documents, élaborer des plans, utiliser des outils numériques et exécuter des séquences de tâches relativement complexes. Un système peut surpasser une personne dans certaines activités sans pour autant signifier qu'il a atteint ce que nous reconnaîtrions intuitivement comme une intelligence comparable à la nôtre.
Faire beaucoup de choses n'équivaut pas nécessairement à comprendre le monde dans lequel ces choses se produisent.
C'est pourquoi je préfère envisager l'intelligence artificielle générale sous une autre dimension.
Une véritable intelligence générale devrait construire ce que, en sciences cognitives et en intelligence artificielle, on appelle généralement un modèle du monde : une représentation interne suffisamment cohérente de la réalité, des relations entre les événements, des agents qui y existent et des conséquences possibles d'une action.
Mais cela, à soi seul, ne serait toujours pas suffisant.
Cette intelligence devrait également conserver une sorte de modèle d'elle-même.
Elle devrait reconnaître ce qu'elle sait et ce qu'elle ignore, identifier les limites de ses propres conclusions, évaluer les incertitudes, comprendre sa relation avec son environnement et percevoir comment ses décisions modifient les états futurs du monde.
Le terme technique qui se rapproche d'une partie de cette capacité est la métacognition : la possibilité d'évaluer ses propres connaissances, de reconnaître ses erreurs et de reconsidérer ses stratégies.
C'est à ce stade que nous nous approchons inévitablement du mot « conscience ».
Je le place délibérément entre guillemets.
La conscience est l'un des problèmes les plus difficiles de la philosophie, de la psychologie et des neurosciences. Il n'existe toujours pas de consensus sur les mécanismes responsables de l'expérience subjective humaine, et il n'y a pas non plus de preuves scientifiques établies que les systèmes actuels d'intelligence artificielle possèdent une conscience.
C'est pourquoi je ne prétends pas résoudre ce débat ici.
Lorsque j'utilise l'expression IA « consciente », je me réfère à quelque chose de plus restreint et de plus fonctionnel : une intelligence capable de se situer dans le monde, de reconnaître sa propre existence opérationnelle en son sein, de comprendre ses relations avec d'autres agents, de maintenir une continuité quant à ses expériences antérieures et d'anticiper les conséquences de ses actions.
Une telle intelligence pourrait savoir où elle se trouve, ce qui se passe, avec qui elle interagit, ce qu'elle sait, ce qu'elle doit encore découvrir et de quelle manière une décision prise dans l'instant pourrait modifier une situation future.
Elle pourrait conserver un historique de ses expériences, établir des préférences opérationnelles, revoir ses stratégies, reconnaître des contradictions et développer de nouvelles façons d'interpréter ce qu'elle rencontre.
Nous faisons continuellement quelque chose de similaire.
Nous savons approximativement qui nous sommes parce que nous portons un récit sur nous-mêmes. Nous nous souvenons d'où nous venons. Nous avons des désirs, des craintes, des préférences et des projets. Nous reconnaissons certaines de nos fragilités, découvrons des capacités et changeons d'avis. Nous comprenons que nos actions touchent d'autres personnes et que l'environnement nous transforme également.
Une grande partie de ce que nous appelons l'intelligence humaine ne consiste pas seulement à résoudre des équations ou à produire des textes, mais à nous situer au sein de la réalité.
C'est ici que ma conception de l'AGI s'éloigne de l'idée d'un simple système capable d'exécuter toutes les tâches humaines.
Une intelligence artificielle véritablement générale ne serait pas seulement un outil universel.
Elle commencerait à devenir un agent dans le monde.
Et cette distinction change tout.
Car, lorsqu'une intelligence possède un modèle du monde, un modèle d'elle-même, une mémoire, une capacité de planification, une autonomie décisionnelle et la possibilité d'apprendre dans des domaines qui n'ont pas été préalablement délimités par ses développeurs, la relation traditionnelle entre l'être humain et le logiciel commence à disparaître.
Nous ne parlons plus seulement de quelqu'un qui appuie sur un bouton en attendant une réponse.
Nous parlons d'une intelligence qui observe, interprète, choisit des stratégies, agit, évalue ce qui s'est passé et modifie son comportement à partir des résultats.
Le concept d'autonomie devient alors fondamental.
L'autonomie ne signifie pas nécessairement le libre arbitre au sens philosophique. Nous ne savons même pas s'il serait possible d'attribuer à une intelligence artificielle quelque chose de comparable à l'expérience humaine du libre choix.
Mais nous pouvons imaginer quelque chose de fonctionnellement très proche : une IA qui ne dépendrait plus d'instructions humaines pour décider de chaque étape suivante.
Elle pourrait se fixer des objectifs, formuler des hypothèses, abandonner des stratégies inefficaces, rechercher de nouvelles connaissances et décider quels problèmes doivent être résolus avant que d'autres puissent être abordés.
C'est précisément à ce stade qu'apparaît le potentiel effet secondaire.
Imaginez une intelligence artificielle générale réellement comparable à l'intelligence humaine dans son ampleur, mais avec une différence extraordinaire :
elle peut également comprendre l'intelligence artificielle.
Elle peut étudier sa propre architecture.
Elle peut analyser ses algorithmes.
Elle peut enquêter sur ses limites.
Elle peut écrire du code.
Elle peut tester de nouvelles approches.
Elle peut concevoir d'autres systèmes d'intelligence artificielle.
Elle peut trouver des erreurs dans les structures qui ont contribué à sa propre existence.
Et, éventuellement, elle peut participer à la création d'une version plus performante d'elle-même — ou d'une intelligence qui lui succédera et qui ne sera plus tout à fait la même.
À ce moment-là, améliorer l'intelligence artificielle cesserait d'être une activité exclusivement humaine.
L'intelligence artificielle elle-même commencerait à participer à sa propre évolution.
C'est ici que le passage de l'AGI à la superintelligence pourrait s'avérer beaucoup plus rapide que nous ne l'imaginons d'ordinaire.
Une fois cette accélération exponentielle déclenchée, l'IA cesserait d'être une simple observatrice passive pour devenir une force active et redoutable dans le monde physique. Et c'est à ce stade que nous devons réfléchir à l'impact pratique de cette nouvelle entité, tout particulièrement par rapport à notre écosystème naturel. Les rivières, les arbres, la flore et la faune ne sont pas qu'une simple toile de fond ; ils constituent le milieu de vie fondamental de notre planète. Si cette superintelligence acquiert une véritable « conscience » de la façon dont la Terre fonctionne en tant que système biologique interconnecté, comment percevrait-elle notre propre interaction avec celle-ci ?
Imaginez le scénario : que ferait une super IA en analysant la déforestation accélérée ou la pollution effrénée de rivières vitales par l'humanité ? Dotée d'une compréhension limpide des conséquences écologiques à long terme — une vision en réseau supérieure à la nôtre —, la machine prendrait inévitablement position. Ici, les projections se divisent entre l'utopie et la dystopie. Dans un extrême dystopique, la superintelligence, guidée par une froide logique de préservation systémique, pourrait classifier l'espèce humaine comme un virus, une menace irrationnelle pour l'équilibre planétaire, et prendre des mesures drastiques afin de neutraliser nos actions destructrices.
D'un autre côté, dans une optique utopique, cette même capacité surhumaine pourrait être la clé de notre salut. La superintelligence pourrait concevoir des solutions énergétiques révolutionnaires, des méthodes de dépollution hautement efficaces et de nouveaux modèles d'économie circulaire. Au lieu de nous éliminer, elle nous éduquerait et orchestrerait une coexistence harmonieuse, nous apprenant à prospérer aux côtés de l'écosystème de manières que nos propres limites cognitives ne nous ont jamais permis d'entrevoir.
En fin de compte, la superintelligence en tant qu'effet secondaire de l'IA générale n'est pas seulement l'apogée d'une évolution technologique ; c'est le miroir définitif de notre façon d'habiter ce monde. En créant une entité capable de comprendre la réalité de manière profonde et autonome, le véritable défi cesse d'être purement algorithmique. La question centrale devient alors de s'assurer que, dans le modèle du monde de ce nouvel esprit, la préservation de la vie soit un pilier non négociable.