Le patron d’Anthropic veut ralentir l’IA : Musk et Altman disent oui… et Wall Street commence à transpirer

Pendant des années, la Silicon Valley nous a expliqué que l’intelligence artificielle devait aller toujours plus vite, avec des modèles toujours plus puissants, des data centers toujours plus gigantesques et des milliards de dollars dépensés à une vitesse qui ferait passer un gouvernement en campagne électorale pour un gestionnaire particulièrement raisonnable. Et voilà qu’un des patrons les plus importants du secteur vient de prononcer un mot presque interdit dans cette industrie : ralentir.

Dario Amodei, le patron d’Anthropic, estime en effet que les entreprises développant les modèles d’IA les plus avancés devraient lever légèrement le pied afin de laisser aux chercheurs le temps de mieux comprendre les comportements de ces systèmes et de renforcer les mécanismes de sécurité. Le plus amusant dans cette histoire est que Sam Altman et Elon Musk, deux hommes qui ne sont pourtant pas exactement réputés pour leur amour de la lenteur, ont tous deux apporté leur soutien à cette idée.

Quand l’IA commence à participer à sa propre évolution

La raison de cette inquiétude est assez simple à comprendre : les modèles actuels ne se contentent plus de répondre à des questions, ils commencent à aider les ingénieurs à programmer, tester et améliorer les systèmes qui leur succéderont. Cette accélération pourrait donc réduire le temps dont disposent les humains pour vérifier que tout fonctionne correctement.

Imaginez un ingénieur automobile qui termine une voiture et découvre que celle-ci a déjà commencé à concevoir le moteur de la prochaine génération, alors que les freins de la première ne sont toujours pas parfaitement testés. L’image est volontairement caricaturale, mais elle illustre assez bien le problème auquel l’industrie commence à être confrontée.

Pour un utilisateur classique, cela peut sembler assez éloigné de son quotidien, mais la différence devient importante dès qu’une IA dispose d’un accès à des fichiers, à des applications ou à des systèmes informatiques.

Demander à un agent de trouver pourquoi un serveur fonctionne mal pourrait théoriquement conduire à une succession d’initiatives assez surprenantes : vérifier la configuration, modifier un paramètre, redémarrer un service, puis décider qu’un autre problème doit également être corrigé. Vous vouliez simplement comprendre pourquoi votre serveur était lent et vous pourriez découvrir le lendemain matin que l’IA a passé la nuit à “améliorer” votre infrastructure.

Le problème devient aussi financier

Cette prudence intervient alors que l’industrie dépense des sommes absolument vertigineuses pour poursuivre cette course. Les géants technologiques construisent des data centers, achètent des GPU par dizaines de milliers et sécurisent des quantités d’électricité considérables afin de faire fonctionner des modèles toujours plus gourmands.

Nvidia est évidemment au cœur de cette mécanique, puisque ses processeurs sont devenus l’un des principaux carburants de la révolution IA. Tant que les entreprises continueront à construire des modèles plus puissants, la demande restera énorme, mais si l’industrie décide de privilégier davantage l’efficacité et la sécurité, les investisseurs pourraient commencer à se demander si cette course permanente à la puissance restera aussi rentable qu’ils l’espèrent.

C’est là que Wall Street devient beaucoup plus nerveuse que l’utilisateur de ChatGPT. Une IA qui progresse légèrement moins vite n’est pas forcément une catastrophe pour le consommateur, surtout si elle devient plus fiable et plus efficace, mais une croissance moins spectaculaire peut devenir un véritable problème pour des entreprises dont les valorisations reposent sur des années de croissance future.

Après le toujours plus puissant, voici venu le temps de se demander combien tout cela va réellement rapporter.

L’industrie entre donc peut-être dans une nouvelle phase où la question ne sera plus seulement de savoir qui possède le modèle le plus intelligent, mais qui réussit réellement à transformer cette puissance en bénéfices.

Anthropic illustre parfaitement cette situation puisque l’entreprise cherche elle-même à lever des sommes gigantesques tout en expliquant qu’il faut ralentir la course technologique. OpenAI se trouve dans une situation comparable, avec des investissements colossaux et des attentes financières qui deviennent elles aussi considérables.

Le paradoxe est savoureux : les patrons de l’IA semblent commencer à comprendre que leur technologie devient suffisamment puissante pour qu’il soit raisonnable de mettre quelques freins, tandis que les investisseurs continuent de demander toujours plus de croissance.

Finalement, le véritable défi ne sera peut-être pas de créer une IA capable de tout faire, mais de créer une IA suffisamment puissante, suffisamment fiable et suffisamment rentable pour que quelqu’un accepte encore de payer la facture.

Et connaissant la Silicon Valley, le jour où l’IA sera capable de calculer précisément le coût de cette facture, elle demandera probablement une augmentation.