Faire tourner une intelligence artificielle géante directement chez soi, sans dépendre du cloud, c’est désormais possible. Enfin, à condition d’avoir un compte bancaire suffisamment musclé. Meta et Apple proposent une combinaison capable d’exécuter Muse Spark Open sur des Mac Studio. Le prix de cette petite fantaisie ? Plus de 40 000 dollars. À ce tarif, j’espère au moins que l’IA sait faire le café.
L’IA progresse à une vitesse impressionnante, contrairement à mon imprimante qui, après quinze ans de bons et loyaux services, doit toujours réfléchir trois minutes avant de sortir une feuille de travers.
Les modèles deviennent plus performants, les assistants savent coder et les machines commencent à effectuer des tâches complexes sans qu’on doive leur tenir la main toutes les trois secondes.
Mais cette évolution a un petit défaut : elle réclame des ressources informatiques considérables. Et quand je dis considérables, je ne parle pas du MacBook qu’on achète pour consulter ses mails, retoucher trois photos et regarder des vidéos sur YouTube.
Le dernier exemple en date s’appelle Muse Spark Open. Développé par Meta, ce modèle d’intelligence artificielle compte 816 milliards de paramètres, dont 42 milliards sont activés pour chaque opération. Il est conçu notamment pour la programmation, le raisonnement complexe et les tâches automatisées faisant intervenir plusieurs étapes.
Le modèle peut également traiter du texte, des images, de l’audio et de la vidéo en entrée. Il dispose d’une fenêtre de contexte pouvant atteindre un million de tokens, ce qui lui permet de travailler sur des volumes considérables d’informations.
Bref, c’est du lourd. Du très lourd. Et pour faire fonctionner ce monstre directement sur un ordinateur, Meta s’est associé à Apple. Les deux entreprises ont optimisé le modèle pour les Mac Studio équipés de la puce M5 Ultra, avec l’aide du framework MLX d’Apple.
Une collaboration intéressante entre deux entreprises qui n’ont pas toujours été les meilleures amies du monde. Comme quoi, il suffit parfois d’une intelligence artificielle suffisamment gourmande pour rapprocher les anciens adversaires.
Le problème, c’est que Muse Spark Open ne se contente pas d’un ordinateur ordinaire posé sur un coin de bureau. Pour le faire fonctionner localement, il faut réunir suffisamment de mémoire pour héberger ses paramètres et gérer les opérations nécessaires à son exécution. Une configuration adaptée peut s’appuyer sur plusieurs Mac Studio connectés entre eux.
Selon les configurations évoquées lors de la présentation, il faut compter plus de 40 000 dollars de matériel pour disposer d’un ensemble suffisamment puissant. Oui, 40 000 dollars. Pour faire tourner une IA. À ce prix, on ne parle plus vraiment d’un ordinateur familial. On commence à envisager un équipement informatique qui mérite son propre budget, une assurance et probablement une petite discussion avec son banquier.
Évidemment, tout le monde n’a pas besoin de cette configuration. Le matériel est destiné aux développeurs, aux chercheurs et aux professionnels qui souhaitent exploiter un modèle particulièrement volumineux directement sur leurs machines.
Mais le contraste reste amusant. On nous explique depuis des années que l’intelligence artificielle va démocratiser l’informatique et mettre des outils extraordinaires entre toutes les mains. C’est vrai, dans une certaine mesure.
Sauf que, pour profiter de certains modèles localement, il faut d’abord avoir les moyens de s’offrir le cerveau électronique qui va avec. La démocratisation attendra donc peut-être la prochaine prime de fin d’année.
C’est évidemment la question qui vient immédiatement à l’esprit. Pourquoi dépenser une petite fortune dans plusieurs ordinateurs alors que des services en ligne permettent déjà d’utiliser des modèles d’intelligence artificielle très performants ?
L’intérêt du fonctionnement local est pourtant réel. Les données peuvent rester dans l’environnement informatique de l’utilisateur, sans devoir systématiquement être envoyées vers un service distant. Pour une entreprise qui manipule des informations confidentielles, cet aspect peut être déterminant.
Le fonctionnement local permet également de mieux contrôler son infrastructure, de personnaliser certains usages et de réduire la dépendance à un fournisseur de services.
Il existe aussi un argument économique. Une entreprise qui sollicite énormément un modèle d’IA dans le cloud peut payer des factures considérables. Dans certains cas, investir dans du matériel devient intéressant sur la durée.
Mais attention aux calculs un peu trop enthousiastes. Il faut également tenir compte de la consommation électrique, de la maintenance, du refroidissement éventuel, du temps nécessaire à l’administration des machines et du renouvellement du matériel.
Et surtout, les 40 000 dollars ne constituent pas une règle universelle pour utiliser l’intelligence artificielle en local. Il s’agit d’un ordre de grandeur pour une configuration capable d’accueillir ce modèle particulier, pas du ticket d’entrée obligatoire pour toute IA installée chez soi. Il existe des modèles beaucoup plus petits, capables de fonctionner sur des machines nettement plus abordables.
Autre détail important : le nombre de paramètres ne suffit pas à déterminer la qualité d’un modèle. Muse Spark Open affiche des dimensions impressionnantes, mais cela ne signifie pas qu’il sera systématiquement meilleur que des modèles plus petits. Les performances dépendent aussi de l’architecture, de l’entraînement, des données utilisées et de la tâche à accomplir.
Le modèle repose sur une architecture dite mixture of experts. En clair, il ne mobilise pas nécessairement l’ensemble de ses paramètres pour chaque opération. Il active une partie spécialisée du réseau en fonction du travail demandé.
Cela permet de limiter les calculs nécessaires à chaque étape. En revanche, il faut tout de même disposer de suffisamment de mémoire pour héberger les paramètres du modèle et assurer son fonctionnement.
C’est là que ça coince : l’IA a beau avoir un cerveau de compétition, il lui faut encore une salle de sport informatique pour le faire fonctionner : même si seuls 42 milliards de paramètres sont actifs à un instant donné, les 816 milliards de paramètres totaux représentent une contrainte matérielle considérable.
Et non, coller une étiquette “intelligence artificielle” sur un ordinateur ne lui donne pas soudainement les capacités d’un supercalculateur. Dommage, ce serait tout de même plus simple.
L’arrivée de modèles aussi volumineux sur des ordinateurs de bureau illustre une évolution intéressante. L’intelligence artificielle locale n’est plus réservée exclusivement aux centres de données et aux infrastructures professionnelles. Mais il ne faut pas confondre possibilité technique et accessibilité financière.
Pour un développeur qui exploite intensivement un modèle, une telle configuration peut avoir du sens. Pour une petite entreprise, il faudra comparer soigneusement les coûts avec ceux des services en ligne. Pour le particulier qui souhaite simplement demander à une IA de résumer un document ou de lui expliquer pourquoi son imprimante refuse encore de fonctionner, l’investissement paraît nettement plus difficile à justifier.
D’autant que l’on peut déjà faire tourner des modèles intéressants sur des ordinateurs bien moins coûteux.
La véritable question n’est donc pas de savoir si nous pouvons installer une IA géante sur un bureau. Nous savons désormais que c’est possible. La question est plutôt de savoir combien de personnes ont réellement besoin d’une telle puissance et si les avantages justifient la facture.
Parce qu’entre une intelligence artificielle capable de traiter des tâches complexes et une intelligence artificielle qui coûte le prix d’une voiture, il existe une petite différence que le service comptabilité risque de remarquer.
L’IA locale est une évolution prometteuse, surtout pour la confidentialité et l’autonomie. Mais si le progrès technologique consiste à dépenser 40 000 dollars pour éviter d’envoyer ses données dans le cloud, il va falloir expliquer tout cela aux gens qui utilisent encore leur ordinateur de 2018 sans avoir l’impression de vivre à l’âge de pierre. Et si cette IA peut aussi réparer leur imprimante, alors là, on commencera peut-être à discuter du prix.
Pour comprendre les coulisses de cette IA qui réclame une infrastructure à plus de 40 000 dollars.
Annonce officielle du modèle, de ses 816 milliards de paramètres, de ses capacités et de son fonctionnement sur les Mac Studio.
Présentation du modèle, de ses usages en programmation et de ses besoins matériels particulièrement élevés pour une exécution locale.
Détails sur la mémoire nécessaire, les performances mesurées et les contraintes d’une installation locale reposant sur plusieurs Mac Studio.
Documentation des caractéristiques du modèle, de son architecture, de ses variantes et des différentes possibilités de déploiement.
Ring muscle ses caméras de surveillance avec une nouvelle gamme 4K, un zoom puissant et…
Il aura fallu près de neuf ans à Tesla pour présenter son nouveau Roadster. Neuf…
La Slovaquie vient de rejoindre le club des pays européens qui autorisent la conduite assistée…
On connaissait les publicités qui vous suivent partout sur Internet après que vous avez cherché…
Elon Musk vient de nous rappeler une vérité fondamentale : quand on possède une entreprise…
Le Walkman n’a pas dit son dernier mot. Sony présente les NW-WM1ZM3 et NW-WM1AM3, deux…
