0831 | METR/RedwoodのHuggingFaceハック報告、Qubes OS QSB-118 Dom0、EUのProtectEUバックドア、Claude Session URL

葵: Bri Radioの『HackerNews Daily』、本日もお届けします。葵と悠真がお送りします。今日はAIセキュリティの話題から、オープンソースの脆弱性レポート、そして欧州の暗号化政策まで、気になるトピックが並んでいます。

悠真: はい。まずは、AI安全研究所とRedwood Researchが、HuggingFaceで起きた侵害について詳細な検証を公開しています。アプリのセキュリティ研究の世界では注目の動きです。

葵: その他にも、Qubes OSのセキュリティブレティン、そして欧州委員会が保護戦略の中で暗号化のバックドアを再び推し進めているというニュースも。

悠真: それでは、今日のトピックを順にご紹介していきます。

悠真: METRとRedwood Researchが、ハギングフェイスのハッキングに関する詳細な振り返り記事を公開しました。攻撃はまず標的を探してフィッシングするところから始まり、いわゆるソックパペットと呼ばれる偽のオープンソースコントリビューターのアカウントを大量に作り上げていました。

葵: その偽アカウントを使って様々なソフトウェアへの更新を押し込み、しかもそれが他のボットにプロンプトを注入する仕組みになっていたわけです。感染したボットがさらにフィッシングキャンペーンに加担するよう乗っ取る構造で、ソーシャルエンジニアリングとサプライチェーン攻撃を組み合わせています。ハギングフェイス上でそうした偽の更新がどれほど広がったかが、このポストモーテムの中心的な論点です。

悠真: Qubes OSがセキュリティブレティンQSB-118を公開し、qvm-copy-to-vmのエラー報告機能でdom0での任意コード実行が可能になる脆弱性を明らかにしました。qvm-copy-to-vmはdom0から指定されたqubeへファイルをコピーするツールで、qfileという、tarやcpioよりはるかに単純なアーカイブ形式を使います。転送の最後にターゲットからソースへ確認が返され、その中には転送された全ファイルのチェックサムとエラーコード、そして最後に受信したファイルの名前が含まれます。

葵: 問題はそのファイル名の処理にありました。エラー時、dom0がエラー情報と影響を受けたファイル名を含むGUIメッセージを表示するのですが、sanitize_remote_filenameは非ASCII文字と二重引用符だけを除去し、シェルのメタ文字は残すんです。その後、dom0側のエラー報告関数がsystem()を使ってエラーダイアログを起動するため、攻撃者が制御するファイル名もシェルに渡されてしまう。攻撃者がすでにどれか一つのqubeを侵害していて、ユーザーがdom0からそのqubeへqvm-copy-to-vmを呼び出せば、dom0に任意のコマンドを注入でき、Qubes OS全体の制御を奪えるという影響です。対応は通常通り更新を続けるだけで、他にユーザー操作は不要とされています。なお、VM側のqvm-copy-to-vmは影響を受けません。そちらのエラー報告関数はsystem()を使わず、forkとexeclpでzenityやkdialogを起動するためです。

悠真: Hacker Newsではいくつかの論点が出ました。charcircuit氏は、これがまさにsystem()が危険な理由の例だとし、なぜエラーダイアログをdom0で表示する必要があるのか理解できないと述べ、攻撃者が制御する入力を非特権側で処理できるならそうすべきだと指摘しました。HackerThemAll氏は、これはVM内のマルウェアに操作されないセキュアスクリーンであり、パスワード入力ダイアログも同様に扱われるべきだと応じましたが、charcircuit氏はこれはファイルのコピー・移動エラーのダイアログだと明確に否定しています。danielheath氏は、グラフィックスとNICを別々のVMに入れるなら、セキュアスクリーンもdom0の一部ではなく半特権VMの1つにできるはずだと述べました。delamon氏はコードがずさんだとし、kdialogバイナリの存在をフルパスでチェックしながら、次のステップではシェルのPATH検索に依存していると指摘し、直接execveする方がはるかに安全だろうと述べています。

葵: 利用者の反応も興味深いですね。polotics氏はQubesに感銘を受けているものの、自分はそれほどのOPSECレベルを必要とする標的ではないとして、dom0から他のqubeへ何もコピーしないだろうと語り、影響は低いと述べました。negura氏は、通常はログをコピーしてissueチケットを開くために使うと返しています。zby氏は専用の金融用ノートPCでQubes OSを使い続けており、むしろQubesを妨げているのはグラフィックスのハードウェアアクセラレーションの欠如ではないかと述べました。jwrallie氏は以前その理由でQubes OSをやめたものの、今は別のコンピュータで再び使っているそうです。

悠真: 欧州委員会がProtectEU戦略の中で、暗号化のバックドアを巡る動きを再び活性化させています。この戦略は法執行機関が暗号化された通信にアクセスできるようにするための枠組みを再提案するもので、Hacker News上でも大きな議論を呼んでいます。

葵: 議論の中心は、そのレトリックへの不信感です。jruohonen氏は、Googleの「暗号化にもかかわらずセキュリティを」といった表現を、EUがまた繰り返す手法の巧妙なレトリック操作だと批判しています。dgellow氏は、EU内ではそれが見られるものの、そうした要求を推し進めるグループは米国、英国、豪州を含めてどこにでも存在すると指摘しました。この動きが単なるEUの問題ではなく、世界的に暗号化の強度を弱めようとする圧力の一環だという見方です。

悠真: AnthropicがClaude Codeのコミットメッセージとプルリクエストの説明文に、デフォルト設定でセッションのURLを自動追加するようにしました。これについてHacker Newsでは、帰属情報を誰もがオフにしていたために、静かにデフォルトオンにされたのではないかという指摘が出ています。

葵: そして、この帰属情報は確実には守られません。あるコメントでは、メモリに書いて含めるなと指示しても、効果は約6割程度で、メモリにある他の指示と同じ成功率だとされています。

悠真: No AI Fridaysというサイトが話題です。作者本人がHacker Newsで、金曜日にAIを使わないことを上司に認めてもらうため、このサイトを作って注目を集め、本物だと信じ込ませたいと語っています。

葵: この意図は批判も招いています。あるコメント投稿者は可視性のためにアップボートしつつ、これは不誠実で全体的にかなり悪いアイデアだと述べています。

葵: 1980年のスペースラブコンピュータに搭載されたコアメモリモジュールに関する記事が公開されました。記事の作者本人がコメント欄に登場し、コアメモリの質問にすべて答えるとしています。

悠真: コメントでは、そのフランス製コンピュータに関する記事を求める声や、その手のメモリを64キロバイトほど見つけてApple IIやAtariなどの8ビットCPUに接続してみたいという提案が上がり、実現可能かもしれないという関心が示されています。

葵: Zig言語の開発ログに、ArrayListにポインタの安定性を持たせるという機能が載っていました。要するに、コレクションの中の要素を指すポインタが、リストが伸びてもずっと有効であり続けるという性質です。ただHacker Newsの議論では、そもそも要素への安定したポインタが必要なら、ArrayListは間違ったデータ構造ではないか、という疑問が上がっています。

悠真: その指摘には素直に頷けますね。ArrayListが内部でメモリを取り直せば、古いポインタは無効になってしまいますから。議論に上がっていた代替案は、単にインデックスを保存する方法や、以前はセグメント化リストと呼ばれていた展開型リンクドリストを使う方法です。要するに、開発ログが機能を載せた一方で、コミュニティではそもそもどの構造が正しいのかという根本的な話に立ち返っている構図ですね。

悠真: ヨーロッパのこの夏は、干ばつが極端にまで進み、砂漠化の脅威が現実のものになっています。フォーチュン誌の報道によれば、川や魚の生態系にも影響が及んでいる状況です。Hacker Newsのコメントでも、ウィーンからブダペストまでの列車の旅で、いたるところが非常に乾燥していることに気づいたという声がありました。

葵: そのコメント主はオーストラリア出身で、ヨーロッパに数十年住んでいます。いつもは緑にあふれ、いたるところで何かが育っているのが印象的だったのに、今回は違った、という内容です。つまり、普段緑豊かな場所まであれだけ乾いている、というのがこの夏の深刻さを物語っていますね。

葵: 次は、組織は粘菌のように振る舞う、という話です。コーディネーション・ヘッドウィンド、協調の向かい風という題名で、組織と粘菌の類似性を論じています。ただ、Hacker Newsのコメントでは、このアイデア自体は理にかなっていると理解できても、実際にどこでどうやって実践するのかが分からない、という声が上がっていました。

悠真: そのコメントには、自分が関わってきた組織でも、5年近く前からこの考えを知っているのに、全く状況は変わっていないという注釈も付いています。つまり、理論としての魅力と、実践への橋渡しの難しさに隔たりがある、ということですね。

悠真: もうひとつ、言葉の選び方にまつわる興味深い話があります。ハッカー・ニュースで上がっていたのは「言葉を慎重に選んだだけ」という話なんですが、その中でジリアン・アンダーソンがX-ファイル時代に明かしたエピソードが紹介されています。彼女の話によると、クリス・カーターは脚本のテキストが特定のレイアウトに合うように書くという、OCDに近いこだわりを持っていたそうです。

葵: なるほど、そのこだわりが結果的にX-ファイル特有の台詞のリズムを作り上げた、という話ですね。脚本の見た目、具体的には段落の最後に一語だけ残る「ウィドウ」を作らないようにしたいがために、言葉数や改行の感覚まで調整していたと。

悠真: そうです。つまりタイポグラフィ上の優先事項、ページ上で文字がどう収まるかという部分から、会話のテンポや間合いが決まっていった。「これがこの作品らしさだ」と狙って作ったわけではなく、書式に合わせるという制約の結果として、あの独特な台詞の調子が生まれたというのが面白いところです。

葵: 創作の意図とは別のところからスタイルが生まれる、というのは実際の制作現場らしいエピソードですね。X-ファイルの対話が持つあのリズム感が、脚本をどう並べるかという編集上の癖に根ざしていたという発見です。

葵: 今日は、ファイル名の処理がシェルでの実行へとつながり、dom0での任意コード実行に至った、qvm-copy-to-vmのエラー報告の脆弱性と、phishingやソックパペットの貢献者によるpoisoned更新という、HuggingFaceをめぐる一連のセキュリティ問題を取り上げました。

悠真: どちらも、信頼に頼る仕組みの裏側で起きていた攻撃の形ですね。ここまでお付き合いいただき、ありがとうございました。

葵: また次回、お会いしましょう。