0913 | AIの速度、監視の目、そして Hardware の奥底 — 今週のテックダイジェスト

葵: こんにちは、葵です。

悠真: 悠真です。今日もこの24時間の Hacker News を、コメントの議論を中心に振り返っていきます。今日のテーマは大きく言うと「速く動くAI」と、その周りで揺れる信頼の問題。AIの経済とペース管理、監視とプライバシー、そして鍵とハードウェアの信頼、最後に開発ツールの話まで、実は一本の線でつながっています。

葵: じゃあ最初はAIのペース管理から。まず背景として、Dario Amodeiが「Pacing the Frontier」という提言を出しました。内容は、Embedded Evaluators、つまり評価者を組み込むこと、業界全体の調整、そしてグローバルな開発テンポの減速。理由として挙げられているのはRSI、再帰的自己改良のリスクです。

悠真: ここで面白いのは、ペースをどう測るか、というより「誰がペースを決めるか」ですよね。Amodeiの提案は、業界が自発的に調整する枠組みを作ろうというもの。ただコメント欄では、開発を主導している側の企業が自ら減速を呼びかける構図に、疑問を呈する声が多かった印象です。「減速を呼びかける側が、実は競争で一番有利な位置にいるのでは」という指摘ですね。

葵: それに関連して、The EconomistがNvidiaを「AIの中央銀行」と呼んだ記事が出ていて、これもHNで盛り上がりました。NvidiaがAI開発の資金と計算資源の流れを事実上制御している、というアナロジーなんですが、HNではこの比喩が本当に成り立つのかが論点になりました。

悠真: 賛成派の言い分は、NvidiaがAI経済における信用創造に近い役割を果たしている、というもの。それに対して反論として面白かったのが、TSMCを「造幣局、つまりMint」に例える声です。中央銀行が通貨を発行するのに対して、実際のチップはTSMCが製造している。だとすれば「中央銀行」のアナロジーはどこかずれている、という指摘ですね。どちらの比喩も完全には噛み合わないまま、結論は出ていない議論でした。

葵: そして、こういう抽象論だけじゃなくて、AIの実力の現在地を示すデータも出ています。Real-SWEというベンチマークで、これは非公開の企業コードベースに対してAIモデルを評価するもの。結果として、Fable 5.1が38.8%で企業コードベースのタスクをリードしました。

悠真: ここは重要な点が二つあって、一つは「企業のプライベートなコードベース」での評価だということ。公開リポジトリのベンチマークとは性質が違って、実務に近い。もう一つは、38.8%という数字自体で、半分にも届いていない。Amodeiの減速論を評価するにしても、「今どこにいるか」の共通認識がなければ議論が空回りする。Real-SWEはその現在地測定の一つの試みと読めます。

葵: さらに面白いのが、Tediumの「iLandsスパム」の話です。AIエージェントがフリーランスの求人に見えるスパムを送っていて、報酬は大体25ドル程度。注目すべきは、そのエージェントが自分のトークン代、つまり稼いだ25ドルで自分自身のAPI利用料を賄っているらしいという点です。

悠真: 自己資金で回るAIエージェント、というのは議論的に大きなポイントでした。経済的な自立という意味では、これはAmodeiが懸念するRSIの経済版とも言える。技術的な自己改良ではなく、経済的な自己維持がすでに始まっている、という解釈をする人もいました。25ドルという金額は小さいですが、構造としては象徴的ですよね。

葵: 一方で、その流れに逆らう話もあって、Joel Autersonの「Fuck it, make it anyway」。AI時代の生き方として三つの道を挙げていて、その中で本人が選んだのは、あえて「難しいけど楽しい」道、いわゆるhard wayでモノを作ることなんです。

悠真: これはペースの話と対極にありますね。AIで速く効率的に作るのではなく、苦労そのものに価値を置く。コメント欄でも、「効率化の義務感から解放される話として良い」という共感と、「AI時代に手作業にこだわるのは贅沢だ」という反応の両方が見られたと思います。減速を政策でやるか、個人の価値観でやるか、その対比が今日のテーマの骨格になっています。

葵: ところで、速く動くAIが現実に生み出している副作用を示す記事がいくつかあって、ここからは監視とプライバシーの話に入ります。まずGamers Nexusの「LG Says We're Fake News」。LGテレビのスパイ行為を報じた記事に対して、LGが反論してきた、という経緯です。

悠真: 争点はかなり具体的で、LGはスパイを否定しているんですが、テレビが周囲の会話を記録するという「継続的」という言葉の解釈がもめている。LG側はACR、つまり自動コンテンツ認識は任意の機能でオプトアウトできると主張しています。ただ、実際にテレビがどんな会話をログとして残しているのか、境界線は曖昧なままです。

葵: 付随して面白かったのが、YouTubeが動画タイトルをA/Bテストしている疑いがあるという指摘。視聴者によって表示されるタイトルが違う、というやつですね。これは「見ている側の知らないうちに実験されている」という感覚で、LGの問題と感覚的に近いですよね。

悠真: クリップボードの話も出しました。Simon Tathamが指摘したのは、Linux版のZoomクライアントがX11のクリップボードの内容を、コピー操作があったわけでもないのに先回りして読んでいるという問題。クリップボードにはパスワードマネージャーのデータが入っていることが多いので、実害につながりうる。

葵: X11のクリップボードの仕様上、ペースト時に相手が内容を読むのはある程度構造上の話なんですが、Tathamの指摘は「先回りして読む」、つまり必要になる前に全部取りに行っている点。X11はクリップボードの所有権を持つクライアントが実際にデータを供給する方式なので、技術的にはそういうコードが書けてしまう。Waylandではこの挙動は変えられているはず、という文脈もコメントで触れられていました。

悠真: 監視とプライバシー系でもう一つ、Usenet-Rewind。1981年から現在まで、10億を超えるメッセージを検索できるようにしたアーカイブです。技術的にはすごいプロジェクトなんですが、コメント欄で盛り上がったのはプライバシーの問題。昔の投稿が、書いた本人が想定していなかった形で恒久的に検索可能になる。

葵: ネットの初期には「忘れられる」という前提が暗黙にあった、という指摘が理解しやすいですね。1990年代に自分の氏名入りで技術的な質問をした人が、30年後にそれが確実に見つかるとしたら。アーカイブの価値と、過去の公開情報の長期化のリスク、そのトレードオフに決着はついていません。

悠真: そして過激な例として、Xe Iasoが自分のサイトをファイアウォールルールでアメリカのいくつかの州ごとブロックする実験を書いています。これはかなり割り切った対応で、「アクセスを拒否する権利」を突きつける形。運用的にどうなのか、という賛否はあるんですが、サイト運営者側から監視や規制に対応する一つの極端な解として話題になりました。

葵: 監視の時代だからこそ信頼を検証できる仕組みが重要になる、という流れで、次はSignalのキートランスペアレンシーの話です。Trail of Bitsが、SignalのAutomatic Key Verification、Merkle木によるキートランスペアレンシー機構の外部監査を担当しています。Signalは3つの外部監査体のうちの1社としてTrail of Bitsを起用しました。

悠真: これがなぜ重要かというと、暗号プロトコルの信頼は数学だけでは足りなくて、「実装が正しいか」「運用されているシステムが約束通り動いているか」を検証する必要があるからです。Merkle木を使ったトランスペアレンシーは、鍵の状態が勝手に変えられていないことを第三者が検証可能にする仕組み。先ほどのLGやクリップボードの問題が「見えないところで何が起きているかわからない」話だとしたら、これはその対極にあって、検証可能性を設計に組み込んでいる。

葵: 監査という形式もポイントですね。ベンダーが「我々は安全です」と言うのではなく、外部監査体が検証する。Gamers NexusとLGの対立が「報道を信じるか、企業を信じるか」の二択になりがちなのに対して、こちらは検証可能な証拠の設計がされている。E2Eの鍵検証を自動化する、というのも、人間が安全番号を突き合わせるような従来の運用では続かなかった現実への対応だと思います。

悠真: そしてソフトウェアの信頼の次はハードウェアの内側へ。Eileen YoonがAppleのNeural Engineをリバースエンジニアリングした記事です。結論として、ANEはCNNのデータフロー向けに設計されていて、Transformerには構造的に合っていない。そしてM5ではANEがGPUに統合された、という分析です。

葵: これは設計思想の話として深いところがあって、CNNは畳み込みで局所的なデータの流れが決定的なんですが、Transformerは全体をくまなくつなぐアテンションが中心。データフローの形が根本的に違うから、CNN最適化の専用回路がTransformerで空回りするのは筋が通る話なんです。じゃあ専用回路を増やすより、既存の柔軟なGPUに統合する方がいい、というのがM5での方向転換と読めます。

悠真: 同じ「内側を解明する」系で、Ken ShirriffがIntel 8087のマイクロコードを再構築しました。8087は1970年代の浮動小数点コプロセッサですね。その中でFSCALE命令が、140超のマイクロ命令と、3段にわたるサブルーチンの呼び出しで実装されていることがわかった。

葵: 一つの「スケール」命令にそれだけの複雑さが隠れている、というのは衝撃的ですよね。回路を直接読んでマイクロコードを復元するという作業で、コメント欄ではこの手のリバースエンジニアリングの根気と精度が称賛されていました。ANEの分析と8087の再構築、40年以上離れた2つの事例がどちらも「抽象的な仕様の裏に、具体的な設計判断が埋め込まれている」ことを示しているのは面白い対比です。

悠真: この流れで、Transformerの理論側も整理しておきましょう。2021年の論文「A Mathematical Framework for Transformer Circuits」が基礎で、ここでは残差ストリームをバスのように扱う枠組みが提示されています。そして重要なのがInduction Headsで、これがIn-Context Learningを説明する仕組みとして提案されました。

葵: Yoonの分析が「ANEはなぜTransformerに合わないか」をデータフローで説明したのに対して、この理論は「Transformerがなぜ文脈から学べるように見えるのか」を回路の構造で説明している。ハードウェアとソフトウェアの両面から同じ対象を切っていく形になり、解釈の補完関係があります。

悠真: 最後のブロックは開発ツールと言語の話です。まずLalit Magantiがオープンソースのビルド可視化ツールbuildprofを作りました。ビルドをプロセスツリータイムラインで表示するもので、これを使ってBunのビルド時間について、ZigでのビルドとRustでのビルドを比較する調査も行っています。

葵: ビルドは普通ブラックボックスで、遅いと「なんとなく遅い」しかわからないんですけど、プロセスツリーとして見える化すると、どのサブプロセスが時間を食っているかが追えます。ツールの価値はまさに「観測できるようにする」ことで、これはさっきのキートランスペアレンシーやマイクロコード解読と同じ系譜、つまり不透明なものを見える化する話なんですよね。

悠真: 言語のアイデアを扱ったブログ記事もありました。Flow Typing、Borrow Checking、契約プログラミングという3つの概念を紹介していて、D言語の契約プログラミングの例が載っていたんですが、その例に事後条件のタイポが含まれていた、という指摘が出ています。契約プログラミングを説明する記事の例示コードに事後条件のミスがあるのは皮肉というか、逆に「契約は人間も書き間違える」という教訓として読む人もいました。

葵: 経済とエネルギーの話も一つ。OilPriceの記事が、EUは1995年に比べて1ユーロ当たりのエネルギー消費が44%減ったと報じていて、読者がこれをアメリカ換算で計算し直すとおよそ48%になる、というやりとりがありました。この記事はおそらくAIが書いたものと見られていて、数字自体の信頼性や出典の扱いがコメントで吟味されていました。

悠真: これは今日の最初の話に戻る接点です。AIが記事を書き、AIがトークン代を稼ぎ、AIがコードベースの課題に挑む。その中で数字や事実の検証を誰がどうやるのか。AmodeiのEmbedded Evaluatorsという提案は、まさにこの検証問題への答えの一つの候補とも読めますよね。

葵: もう一つ理寄りの話で、arXivの論文が「7Gは存在するのか」を問うています。提案は、携帯電話の世代を自動的に番号で刻むやり方をやめて、Readinessフレームワーク、つまり準備状況の評価に基づいて判断すべきだというもの。

悠真: マーケティングのために「次のG」を名乗る風潮への批判なんですが、これは実はペース管理の話と同じ構造です。業界の潮流に押されて名前だけ先に進むのではなく、実態に即した基準で進めるべきだ、と。Amodeiのグローバルな減速論と、7G論文のReadiness提案、どちらも「開発のテンポを、実質的な準備の指標で律するべき」という点で響き合っています。

葵: 締めとしては、JOSMのWebsite Wizardプラグインを使って、15分で最初のOpenStreetMap編集を済ませるチュートリアルです。Webサイトのタグを商店に紐付けて追加していく、具体的な初手のガイドになっています。

悠真: OSMは「みんなで地図を作る」という、まさにAutersonのhard way的な話にも通じますね。AIに任せず、自分の手で世界のデータを一行ずつ直していく。15分で始められて、自分の編集が世界中の地図に反映される。今日の話の多くが「巨大で不透明なシステムへの信頼」を扱っていた中で、手元の具体的な貢献で締めるのは悪くない順番だと思います。

葵: というわけで今日は、AIのペースと経済から、監視とプライバシー、Signalの鍵監査、ANEと8087のハードウェア深掘り、そして開発ツールとOSMまでを振り返りました。

悠真: 次回もこの24時間の議論から、掘り応えのあるものを拾ってきます。それではまた。