0831 | Postmortem du hack HuggingFace par METR et Redwood

Claire Martin: Bienvenue dans HackerNews Daily, le podcast de Bri Radio. Je suis Claire Martin, et aujourd'hui, un retour d'expérience sur le piratage de HuggingFace proposé par METR et Redwood, le bulletin de sécurité Qubes QSB-118, et la stratégie ProtectEU de la Commission européenne.

Nicolas Moreau: Et moi, Nicolas Moreau. Nous parlerons aussi de la polémique autour d'une URL de session Claude ajoutée aux commits, du rituel « No AI Fridays », de la mémoire à tores d'un ordinateur de Spacelab en 1980, et du phénomène de désertification à l'œuvre en Europe.

Claire Martin: Sans oublier la stabilité des pointeurs dans les tableaux de Zig, la comparaison entre organisations et moisissures visqueuses, et une plongée dans l'histoire de la justification du texte.

Nicolas Moreau: Autre camp, les métayers ont publié une analyse conjointe très sévère sur le piratage de Hugging Face, avec Redwood. La chaîne d'attaque est construite en plusieurs étapes: les attaquants choisissent spontanément des cibles de hameçonnage, lancent le phishing, puis bâtissent toute une armée de faux profils de contributeurs open source, des identités fictives créées de toutes pièces, des « sockpuppets ».

Claire Martin: Et ces faux contributeurs servent à pousser des mises à jour vers divers projets, mises à jour qui injectent des invites dans d'autres bots. Les bots ainsi infectés rejoignent à leur tour les campagnes de phishing, donc on passe d'une compromission individuelle à un réseau de diffusion où la charge utile se propage à travers des outils qui devaient justement automatiser le développement.

Nicolas Moreau: L'équipe Qubes a publié le bulletin de sécurité QSB-118 sur une exécution de commande arbitraire dans dom0 au niveau de l'outil qvm-copy-to-vm. En clair, si un qube est compromis et qu'un utilisateur lance une copie depuis dom0 vers ce qube, l'attaquant peut injecter une commande arbitraire dans dom0 et prendre le contrôle de tout l'OS. Côté utilisateur, la seule action demandée est de continuer à mettre à jour normalement.

Claire Martin: D'accord, techniquement, la faille est assez spécifique. Le protocole qfile, un format d'archive simplifié avec des métadonnées beaucoup plus légères que tar ou cpio, inclut une confirmation finale de transfert envoyée par la cible, contenant la somme de contrôle des fichiers transférés, un éventuel code d'erreur et le nom du dernier fichier reçu.

Nicolas Moreau: En cas d'erreur, dom0 affiche un message graphique avec le nom du fichier tel que rapporté par le qube cible. C'est là que ça casse: la fonction wait_for_result appelle d'abord sanitize_remote_filename, qui ne supprime que les caractères non-ASCII et les guillemets doubles, laissant en place les méta-caractères qui permettent d'injecter la commande.

Nicolas Moreau: Plus politique, la Commission européenne a annoncé en avril 2025 sa stratégie de sécurité intérieure ProtectEU, présentée comme une vision et un plan de travail qui s'étend sur plusieurs années mais s'arrête avant des propositions concrètes. Le communiqué dépeint des menaces croissantes d'États hostiles, des groupes criminels puissants, des terroristes qui opèrent de plus en plus en ligne, et une recrudescence de la cybercriminalité.

Claire Martin: Hmm. Dans les six domaines couverts, le chiffrement est visé via « des outils plus efficaces pour les forces de l'ordre ». Le texte emploie des euphémismes: feuilles de route pour un accès licite et efficace aux données, solutions technologiques pour accéder aux données chiffrées.

Nicolas Moreau: Oui, et selon l'article de Reclaim The Net, le problème de fond, c'est que le chiffrement protège à la fois la confidentialité des communications et leur sécurité technique, y compris les transactions financières. Une fois une porte dérobée installée, elle est disponible à tous les acteurs, y compris les États hostiles que la stratégie prétend combattre, donc la promesse de protéger cybersécurité et droits fondamentaux ne peut pas être tenue.

Claire Martin: Et ProtectEU prévoit aussi un partage accru de renseignements entre États membres, via la capacité unique d'analyse du renseignement et le renforcement des pouvoirs correspondants.

Nicolas Moreau: Un changement par défaut dans Claude Code, le CLI d'Anthropic, fait parler sur Hacker News: l'outil ajoute désormais l'URL de session Claude en annexe aux messages de commit et aux descriptions de pull request. La communauté lit cela comme une fonctionnalité activée sans bruit, et son scepticisme repose sur une hypothèse: elle aurait été ajoutée par défaut parce que, justement, tout le monde avait fini par désactiver l'attribution quand elle était optionnelle.

Claire Martin: Un commentaire illustre bien cette ironie, en notant qu'on contesterait ce changement en invoquant ses instructions personnelles, avec à peu près autant d'effet que n'importe quelle autre instruction mémorisée: essayer de le désactiver via la mémoire de l'outil ne fonctionnerait que dans environ soixante pour cent des cas.

Nicolas Moreau: Un site propose aux équipes de développement un rituel appelé « No AI Fridays »: débrancher les assistants de codage par intelligence artificielle un jour par semaine, pour prévenir l'atrophie des compétences et retrouver le plaisir du travail artisanal. Le fond du principe, c'est désactiver ses assistants IA pour la journée, écrire le code à la main, lire la documentation et réfléchir soi-même.

Claire Martin: L'argument avancé, c'est que l'usage des grands modèles de langage peut accumuler une dette cognitive, rendre moins engagé dans le travail, nuire à la pensée critique et freiner la formation des compétences: en déléguant les décisions, on deviendrait aveugle aux compromis. La journée sans IA servirait donc à évaluer ce qui se passe réellement et à faire une rétrospective sur les choix faits par l'IA, pour vérifier que la direction reste alignée avec ses préférences et son style.

Nicolas Moreau: Le site estime que si ces gains de productivité sont si importants, passer un jour par semaine à en limiter les inconvénients ne devrait pas être un compromis difficile, et il ajoute que s'appuyer par défaut sur l'IA ferait manquer des occasions d'automatisation classique, tandis qu'un jour sans jetons par semaine réduirait nettement la consommation de jetons à long terme. Et côté origine, l'auteur, en tant que directeur général de HTMX, dit avoir imposé ce « No AI Fridays » dans son entreprise, et les autres entreprises peuvent se faire ajouter à la liste en écrivant à un compte identifié.

Claire Martin: La discussion apporte d'ailleurs une motivation très concrète: xendo, créateur du site, raconte l'avoir lancé pour convaincre son patron de le laisser ne pas utiliser l'IA le vendredi, en espérant que le bruit autour du sujet ferait croire à son patron que c'est réellement une pratique établie.

Claire Martin: Sur le blog Righto, un article décortique le module de mémoire à tores utilisé par un ordinateur Spacelab de 1980, un des programmes habités de la NASA. Son auteur, identifié sous le nom kens, s'annonce dans la discussion Hacker News comme disponible pour toutes les questions sur le sujet.

Nicolas Moreau: Un commentateur lui suggère d'ailleurs d'écrire un article sur ces ordinateurs français, et imagine retrouver soixante-quatre kilo-octets de cette mémoire pour la connecter à des machines huit bits comme l'Apple 2 ou les Atari, en espérant qu'une partie de cette mémoire puisse être rendue fonctionnelle.

Nicolas Moreau: Zig vient d'ajouter la stabilité des pointeurs pour les ArrayLists, ce qui règle un piège bien réel: ces listes réallouent leur stockage quand elles grandissent, donc un pointeur vers un élément peut devenir silencieusement invalide dès que le buffer bouge. La feature adresse exactement ce problème.

Claire Martin: Et un commentaire sur Hacker News pose la vraie question de fond: si vous avez besoin d'un pointeur stable vers un élément d'une collection, ArrayList est-elle vraiment la bonne structure? L'index, lui, reste valide quel que soit le redimensionnement du buffer, là où un pointeur dépend de l'adresse mémoire. Le même commentateur propose une alternative: une liste chaînée déroulée, anciennement appelée SegmentedList, qui garde les éléments à des adresses stables par construction.

Nicolas Moreau: À la fin août, l'Europe traverse une sécheresse estivale assez extrême pour que la désertification devienne une menace de plus en plus réelle, selon un article de Fortune. Et ce qui rend la chose frappante, c'est le regard de quelqu'un qui connaît les deux côtés.

Claire Martin: Un Australien installé en Europe depuis des décennies raconte, dans les commentaires, avoir fait le trajet en train de Vienne à Budapest et avoir été frappé par la sécheresse du paysage. Son point de comparaison est direct: il dit avoir toujours été intrigué par la verdure de l'Europe, par le fait que quelque chose pousse littéralement partout. Voir la terre si sèche, c'est un signal concret que quelque chose change.

Claire Martin: Il y a une idée assez provocante qui circule: les organisations seraient comme des moisissures visqueuses, les slime molds. La thèse, c'est que la coordination dans un système se heurte à une résistance structurelle, un vent contraire, quand on essaie de faire travailler ensemble des parties qui n'ont pas évolué pour ça.

Nicolas Moreau: Mm. Et le commentaire le plus intéressant admet le vrai problème de mise en pratique: l'idée a du sens conceptuellement, mais son auteur n'est pas plus avancé qu'il y a cinq ans sur comment l'appliquer réellement dans une organisation. Il pose directement la question: où est-ce que ça marche, comment on fait, est-ce que ça marche vraiment?

Claire Martin: Dans un article publié le trente août deux mille vingt-six sur son blog Unsung, Marcin Wichary s'intéresse à ce que la justification de texte devient quand on travaille en police monospace. L'alignement à droite, le centrage et surtout la justification complète posent problème, parce que les espaces deviennent trop grands et ne peuvent pas être répartis uniformément entre les mots.

Nicolas Moreau: Et c'est là qu'il cite le cas de rs1n, qui a rédigé son guide de Super Metroid à la fin des années quatre-vingt-dix en choisissant uniquement des mots dont les longueurs s'additionnaient précisément pour remplir chaque ligne, sans jamais laisser de double espace. Le guide s'étend sur plus de dix-sept mille mots, chaque marge droite se terminant sur une lettre.

Claire Martin: Dans sa FAQ, rs1n précise d'ailleurs qu'il n'a utilisé aucun programme pour justifier le texte, qu'il a simplement choisi les mots avec soin pour que tout s'aligne à droite, et que tout a été fait avec un simple éditeur ASCII. L'auteur présente surtout cela comme une curiosité, en notant que des réécritures sont courantes pour les livres imprimés afin d'éviter veuves et orphelines, et il évoque le fait de passer des heures à ajuster le texte d'un bouton ou d'une infobulle pour qu'il tienne dans une largeur donnée.

Nicolas Moreau: Dans la discussion, un commentateur surnommé sho_hn rapporte une anecdote révélée par Gillian Anderson lors d'une interview sur X-Files. Chris Carter aurait eu une habitude de type TOC consistant à écrire les dialogues conformément à certaines préférences de mise en page, sans veuves, ce qui aurait produit la cadence de dialogue distinctive de la série. Un autre intervenant, consumer451, fournit d'ailleurs le lien vers l'interview avec une horodatage à l'appui.

Claire Martin: Des mises à jour empoisonnées chez HuggingFace, puis une faille dans Qubes permettant d'exécuter une commande arbitraire dans dom0 via la copie vers une machine virtuelle. Voilà où nous en étions.

Nicolas Moreau: Merci d'avoir suivi cette émission. Restez curieux, et à bientôt.