David Silver a donné au monde son tout premier aperçu de la superintelligence.

En 2016, un programme d’IA qu’il a développé chez Google DeepMind, AlphaGoa appris tout seul à jouer au célèbre jeu difficile de Go avec une sorte de maîtrise cela allait bien au-delà du mimétisme.

Silver a depuis fondé sa propre société, Ineffable Intelligence, qui vise à créer des formes plus générales de superintelligence IA. L’entreprise y parviendra, dit Silver, en se concentrant sur l’apprentissage par renforcement, qui implique que les modèles d’IA apprennent de nouvelles capacités par essais et erreurs. La vision est de créer des « superapprenants » qui vont au-delà de l’intelligence humaine dans de nombreux domaines.

Cette approche contraste avec la manière dont la plupart des sociétés d’IA envisagent de créer une superintelligence, en exploitant les capacités de codage et de recherche de modèles à grand langage.

Silver, s’adressant à WIRED depuis son bureau à Londres, dit qu’il pense que cette approche échouera. Aussi étonnants que soient les LLM, ils apprennent de l’intelligence humaine plutôt que de construire la leur.

« Les données humaines sont comme une sorte de combustible fossile qui constitue un raccourci incroyable », explique Silver. « Vous pouvez imaginer des systèmes qui apprennent par eux-mêmes comme un carburant renouvelable, quelque chose qui peut simplement apprendre, apprendre et apprendre pour toujours, sans limite », dit-il.

J’ai rencontré Silver à plusieurs reprises et, malgré cette proclamation, il m’a toujours semblé être l’une des personnes les plus humbles de l’IA. Parfois, lorsqu’il parle d’idées qu’il considère comme idiotes, il affiche un sourire malicieux. Mais pour le moment, il est tout à fait sérieux.

«Je considère notre mission comme un premier contact avec la superintelligence», dit-il. « Par superintelligence, j’entends vraiment quelque chose d’incroyable. Elle devrait découvrir par elle-même de nouvelles formes de science, de technologie, de gouvernement ou d’économie. »

Il y a cinq ans, une telle mission aurait pu paraître ridicule. Mais les PDG du secteur technologique parlent désormais régulièrement de machines dépassant l’intelligence humaine et remplaçant des catégories entières de travailleurs. L’idée qu’une nouvelle évolution technique pourrait débloquer des capacités surhumaines d’IA a récemment donné naissance à une série de startups valant des milliards de dollars.

Ineffable Intelligence a jusqu’à présent levé 1,1 milliard de dollars en financement de démarrage, pour une valorisation de 5,1 milliards de dollars – une somme énorme par rapport aux normes européennes en matière d’IA. Silver a également recruté les meilleurs chercheurs en IA de Google DeepMind et d’autres laboratoires pionniers pour se joindre à son projet.

Silver dit qu’il donnera tout l’argent qu’il gagne grâce aux capitaux propres d’Effable Intelligence – une somme qui pourrait s’élever à des milliards s’il réussit – à des œuvres caritatives.

« C’est une énorme responsabilité de bâtir une entreprise axée sur la superintelligence », me dit-il. « Je pense que c’est quelque chose qui doit être fait pour le bien de l’humanité, et tout l’argent que je gagne grâce à Ineffable ira à des œuvres caritatives à fort impact qui sauvent autant de vies que possible. »

Concentration totale

Silver a rencontré Demis Hassabis, PDG de Google DeepMind, lors d’un tournoi d’échecs lorsqu’ils étaient enfants, et les deux hommes sont ensuite devenus amis et collaborateurs pour la vie.

Ils sont restés proches après que Silver ait quitté Google DeepMind, ce qu’il a fait uniquement parce qu’il voulait tracer une toute nouvelle voie. « Je pense qu’il est vraiment important qu’il existe un laboratoire d’IA d’élite qui se concentre à 100 % sur cette approche », dit-il. « Que ce n’est pas simplement un coin d’un autre lieu dédié aux LLM. »

Les limites de l’approche basée sur le LLM peuvent être constatées, dit Silver, avec une simple expérience de pensée. Imaginez remonter le temps et publier un grand modèle de langage dans un monde qui croyait que le monde était plat. Sans pouvoir interagir avec le monde réel, le système, dit-il, resterait un passionné de la Terre plate, même s’il continuait à améliorer son propre code.

Un système d’IA capable d’apprendre par lui-même le monde pourrait cependant faire ses propres découvertes scientifiques.