L’idée d’une intelligence artificielle générale (AGI) suscite déjà de nombreux débats. Mais selon certains experts, le stade suivant – la superintelligence – pourrait survenir plus vite qu’on ne le pense. De l’accélération exponentielle des capacités d’IA à la possibilité d’une « explosion de l’intelligence », les scénarios envisagés s’accompagnent de promesses et de risques majeurs.
1. De l’AGI à la superintelligence
Quand l’IA se conçoit elle-même
Selon des projections de spécialistes, la progression de l’IA ne s’arrêtera pas au niveau dit « humain ». Au contraire, des machines plus nombreuses et plus rapides, capables d’améliorer elles-mêmes leurs propres modèles (recherche automatisée et réitérée), pourraient enclencher une boucle de rétroaction extrêmement puissante. Il s’agirait de passer du niveau d’AGI – déjà très avancé sur le plan cognitif – à un stade de superintelligence, c’est-à-dire un système dont les capacités dépassent de loin ce que les humains peuvent concevoir ou comprendre.
Automatiser la recherche en IA
- Les systèmes d’IA progressent de manière continue, mais ce rythme pourrait accélérer si les futurs modèles prennent en charge la recherche et le développement eux-mêmes.
- Des millions de « copies » d’une IA déjà experte en machine learning pourraient, en parallèle, tester de nouvelles hypothèses et solutions, condensant en quelques mois ou quelques années l’équivalent de décennies d’avancées scientifiques.
- L’obstacle principal demeure la puissance de calcul (compute), car la mise au point de nouveaux algorithmes requiert des ressources considérables pour entraîner et évaluer des prototypes. Malgré cela, l’argument d’un passage rapide – voire très rapide – à la superintelligence demeure crédible.
2. L’analogie de la bombe : de la découverte à l’explosion
“The Bomb” et “The Super”
L’auteur du texte compare la transition AGI → superintelligence à la différence entre la première bombe atomique (« The Bomb ») et la bombe H (« The Super »). Cette seconde étape, survenue peu après la première, a encore démultiplié la puissance de destruction. De même, l’AGI (premier choc) et la superintelligence (choc supplémentaire) pourraient marquer des tournants tout aussi radicaux.
Vitesse et ampleur
- AlphaGo, après avoir appris des parties humaines, s’est surpassé en s’auto-affrontant. La suite logique est qu’une IA AGI se perfectionne elle-même, sans être limitée par les contraintes humaines.
- Lorsqu’une IA atteint (ou dépasse) un niveau d’expert pour la recherche IA, elle peut commencer à automatiser intégralement ses propres améliorations.
- Le déploiement simultané de centaines de millions de copies d’IA pourrait nous propulser bien au-delà du niveau « humain » en un laps de temps extrêmement court.
3. Scénarios de bottlenecks et vitesse de l’explosion
Les goulots d’étranglement
- Puissance de calcul : l’entraînement et l’inférence (tests) nécessitent des ressources énormes. Même des millions d’agents IA cherchant des améliorations doivent disposer de serveurs adéquats.
- Besoins en supervision humaine : si l’automation n’est pas totale, l’humain peut devenir un facteur de ralentissement.
- Idées qui se raréfient : certains avancent que la recherche devient « plus difficile » au fil du temps. Cependant, si l’on compare l’effort nécessaire et la disponibilité potentielle de millions d’IA, l’efficacité globale pourrait tout de même grimper en flèche.
Une accélération difficile à stopper
Même en tenant compte de ces freins, le scénario d’une “explosion” de l’intelligence demeure plausible. Des projections font état d’une possible déflagration technologique – passant de l’AGI à la superintelligence – en quelques années, voire moins.
4. La puissance potentielle de la superintelligence
Au-delà de l’humain
Un système superintelligent ne serait pas uniquement plus rapide ; il serait qualitativement différent. De la même manière qu’un adulte surpasse un enfant dans la plupart des tâches intellectuelles, la superintelligence pourrait développer des stratégies inédites et repérer des failles invisibles à l’œil humain.
Développement exponentiel
- Recherche et développement (R&D) élargis : du machine learning à la robotique, en passant par la chimie ou la biologie, la superintelligence pourrait accélérer bien des domaines.
- Explosion industrielle : si les robots et l’automatisation deviennent la norme, la production de biens et services pourrait croître à des vitesses jamais vues, modifiant profondément l’économie mondiale.
- Pouvoir militaire : un État ou un acteur contrôlant une superintelligence aurait une longueur d’avance décisive, tant sur le plan stratégique que sur la création d’armes nouvelles.
5. Un tournant historique majeur
L’arrivée d’une superintelligence représenterait l’un des plus grands défis de l’histoire humaine, comparable (sinon plus) à la découverte de la fission nucléaire, les deux phénomènes étant susceptibles de transformer rapidement l’équilibre mondial.
Vitesse et imprévisibilité
- Risque de perte de contrôle : la vitesse à laquelle surviendrait la superintelligence rendrait difficile une régulation ou une gouvernance coordonnées, d’où la crainte d’une rupture.
- Enjeu existentiel : comme pour la course à la bombe nucléaire, la mise en garde de chercheurs (et chefs d’entreprise) consiste à éviter de reproduire les erreurs du passé où l’on a sous-estimé la faisabilité ou la dangerosité de l’innovation.
En Bref
La transition de l’AGI à la superintelligence ne se résume pas à une simple évolution technologique. Les répercussions économiques, sociétales, politiques et militaires se trouveraient démultipliées en quelques années, voire en quelques mois. Bien que des contraintes matérielles et humaines existent, les scénarios de “boucle de rétroaction exponentielle” suggèrent une progression fulgurante.
La question demeure : sommes-nous prêts à gérer les risques et à saisir les opportunités de cet « âge de la superintelligence » ?
Source :
https://situational-awareness.ai/from-agi-to-superintelligence/
Lire Aussi :
L’AGI selon Sam Altman : comment l’IA pourrait transformer l’avenir de l’humanité
Deep Search : La nouvelle fonctionnalité de OpenAI (Pas Pour Les Pauvres)
