0903 | Modèles à tout-va : IA, fiabilité et cerveau

Claire Martin: Bonjour et bienvenue dans votre tour d'horizon de Hacker News, je suis Claire Martin.

Nicolas Moreau: Et moi Nicolas Moreau. Aujourd'hui, on part de la frénésie autour des nouveaux modèles d'IA, et tout enchaîne naturellement : à quoi servent ces modèles, que valent leurs réponses, et que se passe-t-il quand on leur confie des choses sérieuses.

Claire Martin: Commençons par le fait du jour côté modèles. Meta publie Muse Spark 1.3, une version explicitement orientée agents et tâches de programmation, avec un mode max reasoning. Meta affirme que sur plusieurs benchmarks, le modèle se situe au niveau de GPT 5.6 Sol et d'Opus 5.

Nicolas Moreau: Ce qui frappe, c'est le rythme général. Google sort Gemini 3.8 Flash à 0,75 dollar en entrée et 3,75 dollars en sortie par million de tokens, avec des gains annoncés sur le code et les agents, plus une déclinaison Cyber dédiée à la cybersécurité. Et attention : c'est le troisième Flash en six semaines.

Claire Martin: Trois Flash en six semaines, ce n'est plus une cadence de publication, c'est une course. Et ça pose la vraie question : est-ce que ça améliore vraiment les choses, ou est-ce qu'on empile des numéros de version ?

Nicolas Moreau: Côté retours d'usage, simonw a testé Muse Spark 1.3 sur des générations de SVG et trouve la qualité supérieure à la 1.2. C'est subjectif, mais c'est le genre de test concret qui complète les benchmarks officiels. Le modèle propose aussi un contexte d'un million de tokens, à 1,25 dollar le million de tokens en entrée et 4,25 dollars en sortie.

Claire Martin: Et justement, les outils de comparaison eux-mêmes sont attaqués. OpenTeams critique le graphique intelligence-coût d'ArtificialAnalysis, en faisant deux reproches. D'abord, l'échelle logarithmique masque les écarts de prix réels entre modèles. Ensuite, argument plus profond : pour les modèles locaux, le coût pertinent serait l'électricité, pas le prix d'API.

Nicolas Moreau: Oui, parce qu'un graphique qui compare tout en dollars par million de tokens compare en fait des choses qui n'ont pas la même économie derrière. Et il y a une autre mesure qui relativise pas mal d'annonces : FrontierHarness a fait tourner neuf harness d'agents différents sur le même modèle, Kimi K3, et le coût d'une même tâche varie d'un facteur 17, de 1,05 à 18,34 dollars.

Claire Martin: Un facteur 17 à modèle identique ! Ça veut dire qu'une partie énorme de la performance perçue ne vient pas du modèle mais de ce qu'il y a autour : comment on le pilote, combien d'appels on fait, comment on gère les échecs et les répétitions.

Nicolas Moreau: Signalons aussi Quasar 438B de Multiverse Computing, présenté comme le meilleur modèle européen : 43 à l'index Artificial Analysis, 500 tokens générés en 15,3 secondes, en anglais et en espagnol. C'est un repère intéressant pour la souveraineté, même s'il reste loin des scores des leaders dont on parlait.

Claire Martin: Et pour remettre tout ça en perspective théorique, McCoy et ses collègues publient un résultat qui parle aux deux camps : les vecteurs des réseaux de neurones, y compris ceux des LLM, sont approximables par des structures symboliques en forme fermée, sans changer le comportement du modèle.

Nicolas Moreau: C'est un résultat dérangeant pour le débat classique. Si on peut approximer ce que font les vecteurs par du symbolique, ça suggère que l'opposition modèles connexionnistes contre systèmes symboliques est moins nette qu'on ne le raconte. En tout cas, ça donne de nouvelles façons d'analyser ce que ces modèles font réellement.

Claire Martin: Bon, maintenant, ces modèles sont massivement utilisés pour chercher de l'information. Et c'est là qu'on passe à une discussion qui a fait beaucoup réagir : la fiabilité des citations de Perplexity.

Nicolas Moreau: L'audit de Haus Research est assez sévère. Ils ont examiné 1826 citations de Perplexity, et 34,7 pour cent des pages référencées sont inaccessibles, ou bien ne contiennent tout simplement pas les chiffres que Perplexity leur attribue. Mesuré autrement, par affirmation, ça fait 14,4 pour cent d'échecs.

Claire Martin: Ce qui est intéressant, c'est la distinction entre les deux mesures. Une page morte ou muette, ce n'est pas la même chose qu'une affirmation fausse. Le premier chiffre mesure la traçabilité, le second mesure l'exactitude des revendications. Et les deux sont mauvais, mais pour des raisons différentes.

Nicolas Moreau: Et il y a un corollaire qui explique en partie le phénomène. Trois sites, créés fin 2023, ont généré 215 128 pages de type « best software », clairement fabriquées pour être citées par les IA. Résultat : 59,8 pour cent des citations de Perplexity sortent complètement du top 100 000 Tranco.

Claire Martin: C'est le SEO génératif en action. On ne cherche plus à plaire à Google, on cherche à être la source que l'IA va recopier. Et si les modèles favorisent ce type de contenu, on crée une boucle où la machine apprend sur des pages fabriquées pour la machine.

Nicolas Moreau: La question qui reste ouverte, et qui a animé les discussions : qui vérifie les autres sorties de l'IA ? Parce que si un tiers des citations ne tiennent pas la route, chacun a intérêt à vérifier soi-même, ce qui revient un peu à défaitre le gain de productivité annoncé.

Claire Martin: Et parfois, se tromper n'est pas une simple perte de temps. Des chercheurs ont testé quatre LLM, dont GPT-5.6-Sol, sur une tâche où l'erreur peut être dangereuse : identifier des champignons vénéneux. Ils ont utilisé le jeu de données FungiTastic, 340 000 observations couvrant 2800 espèces.

Nicolas Moreau: Et le constat est sec : le taux d'erreurs dangereuses est élevé. Autrement dit, les modèles ne se contentent pas d'hésiter, ils affirment des choses qui peuvent envoyer quelqu'un à l'hôpital. C'est un cas d'école, parce qu'avec les champignons, une confiance excessive coûte cher.

Claire Martin: Face à ce genre de risque, il y a deux stratégies. L'une, technologique, vient d'Anthropic : un outil de détection de credentials C2PA, qui permet de vérifier si un fichier a été traité par Claude. Mais l'outil a une limite assumée : l'absence de credential ne prouve pas qu'un contenu n'est pas généré par IA.

Nicolas Moreau: L'autre stratégie, celle-là, est politique. À New York, le maire Mamdani interdit l'IA dans les salles de classe du primaire et du collège. Ses partisans défendent l'idée que les élèves doivent d'abord apprendre à penser par eux-mêmes avant de déléguer quoi que ce soit à une machine.

Claire Martin: C'est un débat intéressant parce qu'il rejoint exactement ce qu'on vient de dire. Si un adulte ne peut pas vérifier les citations de Perplexity, on comprend l'argument de ceux qui disent qu'un enfant de dix ans n'a pas les outils pour évaluer une réponse de chatbot.

Nicolas Moreau: Bon. Passons aux outils eux-mêmes, et là, on a un contraste spectaculaire. Fable 5.1 a généré en une seule passe un monde 3D entier de San Francisco, Union Square précisément : 453 bâtiments, 129 vitrines, 220 piétons. Le tout pour environ 8 millions de tokens, soit 33 dollars.

Claire Martin: Trente-trois dollars pour un monde 3D d'un quartier entier. Il y a encore quelques années, c'était le travail de semaines d'équipe. Et en même temps, à l'autre bout du spectre, il y a des outils modestes qui gagnent juste à rendre le contrôle à l'utilisateur.

Nicolas Moreau: C'est le cas d'Immich, l'alternative auto-hébergée à Google Photos. Déploiement en Docker, sauvegarde automatique depuis le téléphone, synchronisation multi-utilisateurs. Et les retours sur HN sont très positifs, plusieurs commentateurs décrivent une expérience au quotidien qui tient vraiment ses promesses.

Claire Martin: C'est un signal intéressant : on parle beaucoup d'IA générative, mais une partie de l'énergie de la communauté part aussi dans la réappropriation de ses propres données. Encore un outil dont le sort est discuté : WebLLM, le moteur d'inférence qui tourne dans le navigateur via WebGPU, avec ses 18 800 étoiles.

Nicolas Moreau: Sauf que certains commentateurs le jugent mort, et recommandent plutôt de passer à llama.cpp avec WebGPU ou à ONNX. C'est un cas classique de projet qui a marqué son époque, prouvé que c'était faisable, puis se retrouve concurrencé par des solutions plus actives. La question de savoir s'il doit être déclaré moribond reste débattue.

Claire Martin: Et dans la catégorie maintenance de l'infrastructure commune, AISLE a trouvé six CVE dans curl, alors que Codex et Mythos n'en avaient signalé aucune. Toutes de faible gravité, heureusement, et déjà corrigées dans curl 8.22.0.

Nicolas Moreau: C'est un point intéressant pour la discussion outils d'audit : ici, l'humain outpassé les agents de code. Ça ne veut pas dire que les agents sont inutiles, mais ça montre que la couverture d'audit n'est pas équivalente selon la méthode. Et OpenTeams revient d'ailleurs dans cette discussion, avec sa critique des graphiques coût-performance qu'on évoquait en début d'émission, sur la lecture trompeuse des échelles logarithmiques.

Claire Martin: Reste un dossier de ce monde-là : SteamDB, racheté par la maison mère de Nexus Mods. Sur HN, la crainte principale est une mise sous paywall des fonctionnalités, et certains s'interrogent du coup sur la valeur réelle de ces données.

Nicolas Moreau: C'est un site que tout le monde utilise sans jamais y penser, et soudain son indépendance devient une question. On verra ce que le nouveau propriétaire en fait, mais la défiance est installée d'avance.

Claire Martin: Après les outils, un détour par la science, et d'abord par nos propres têtes. Des chercheurs ont étudié le cerveau vieillissant, et leurs conclusions nuancent l'idée qu'il s'agit simplement d'oubli.

Nicolas Moreau: Leur hypothèse : l'hippocampe ne perd pas seulement des souvenirs, il sur-généralise leur extraction. Résultat, des confusions entre catégories, des souvenirs qui se mélangent entre contextes qui n'auraient rien à faire ensemble. Avec une réserve importante : l'échantillon ne compte que 61 personnes, donc il faut rester prudent.

Claire Martin: Oui, c'est un premier pas, pas une conclusion définitive. Mais c'est un renversement conceptuel séduisant : le problème ne serait pas la mémoire qui s'efface, mais le filtre qui se relâche. Et en parallèle, un détour côté cosmos, avec LZ, le plus grand détecteur de matière noire au monde.

Nicolas Moreau: LZ a observé un seul événement anormal. Un seul. Et l'équipe elle-même dit qu'il est beaucoup trop tôt pour parler de découverte. Des données supplémentaires sont en cours d'analyse pour savoir si c'est un signal ou du bruit.

Claire Martin: C'est un joli contraste avec tout ce qu'on a dit avant. En IA, on annonce des égalités avec les meilleurs modèles sur des benchmarks. En physique des particules, un seul événement suspect, et tout le monde s'abstient de conclure. Deux cultures scientifiques très différentes face à l'incertitude.

Nicolas Moreau: Revenons maintenant au concret, et même au passé. Le Commodore 64 vient de fêter ses 44 ans : sorti le 1er septembre 1982, 64 Ko de mémoire sous 600 dollars, environ 12,3 millions d'unités vendues. Ça en fait toujours l'ordinateur le plus vendu de l'histoire.

Claire Martin: Et en face, un très bel exemple de repli géographique contemporain : Uber quitte immédiatement le Nigeria et l'Ouganda, après avoir déjà quitté la Côte d'Ivoire et la Tanzanie. Il ne reste à Uber que quatre pays africains : l'Égypte, le Ghana, le Kenya et l'Afrique du Sud.

Nicolas Moreau: Un contraste saisissant, en effet. Une machine de 1982 qui a vendu plus que tout autre ordinateur, contre une plateforme qui se retire de pays entiers en quelques mois. Ça dit quelque chose sur la différence entre un produit utile localement et un modèle économique qui doit fonctionner partout.

Claire Martin: Quelques sujets variés pour terminer, tous liés à des discussions qui ont fait débat. D'abord, l'antitrust : Google a gagné son procès sur la technologie publicitaire et échappe à une scission. La juge Brinkema, nommée par Clinton, a tranché en sa faveur, et sur HN, plusieurs commentateurs trouvent la décision trop clémente.

Nicolas Moreau: Ensuite, une histoire qui a fait grincer des dents côté confidentialité : Mistral a activé par défaut l'entraînement sur les prompts au niveau Team, et au passage, le réglage central admin pour le désactiver a disparu. La documentation a été corrigée après les réclamations, ce qui laisse penser que ce n'était pas un choix documenté dès le départ.

Claire Martin: Un mot aussi sur l'écosystème des sites indépendants : LWN augmente ses abonnements d'environ 20 pour cent au 15 septembre 2026. C'est la première hausse depuis 2022, et la raison donnée, c'est que la croissance du nombre d'abonnés est bloquée.

Nicolas Moreau: Et pour les amateurs d'algorithmes, un petit régal : Bridson, dont l'algorithme d'échantillonnage de Poisson tient sur une page et publiée en 2007, approche les mille citations. Il propose une optimisation, l'élimination conique des points parents, qui réduit le nombre d'itérations. Vingt ans après, on optimise encore la page.

Claire Martin: Côté matériel et sécurité, GrapheneOS note une info sur le Pixel 11 : le support matériel MTE reste présent mais minimal, et les performances dégradées, après le retrait de l'accélération par cache, ont conduit à sa désactivation dans le firmware. Donc une capacité technique qui existe, mais qu'on ne peut pas vraiment exploiter.

Nicolas Moreau: Enfin, deux débats de société. Le premier autour d'un texte intitulé « Exit the Cave », qui défend l'idée qu'apprendre en public, en assumant d'échouer devant tout le monde, vaut mieux que s'entraîner en privé. Sur HN, la discussion porte sur les limites de ce principe, notamment pour la création artistique et l'expression publique, où l'exposition précoce peut aussi blesser.

Claire Martin: Et l'autre, autour d'un billet qui défend la vie « NPC » comme état d'esprit ultime du je-m'en-foutisme. Ça n'est pas passé sans résistance : plusieurs commentateurs rétorquent que la réalité a des conséquences, et qu'ignorer la politique et les risques, ce n'est pas de la sagesse, c'est de l'impuissance apprise.

Nicolas Moreau: Et on termine par une leçon d'ingénierie qui, incidemment, fait écho à nos audits de ce matin. En 2010, le vol 32 de Qantas : le moteur numéro 2 d'un A380 explose en plein vol. L'enquête trouvera la cause : un tube à huile dont la paroi était trop fine de moins d'un demi-millimètre.

Claire Martin: Moins d'un demi-millimètre, et 469 personnes à bord qui doivent leur survie à l'équipage et à la conception globale de l'appareil. On a parlé de citations qui ne tiennent pas, de champignons mal identifiés, de benchmarks discutables. Ici, la leçon est la même : ce sont les détails qui tuent, et ce sont les détails qui sauvent.

Nicolas Moreau: Voilà pour aujourd'hui. Merci de nous avoir suivis, on se retrouve demain pour une nouvelle sélection.

Claire Martin: Excellente journée à tous, et à bientôt.