先日の飲み会でリーダーから老後は何をするか考えているか聞かれた。
正直考えていなかったので、答えに詰まった。飲み会が終わって考えてみると、とりあえずは子どもたちが成人するまでーーーそこまで働いていられればとりあえずは良いかと考えている。
質問したリーダーも自分のことが話したかったのかもしれない。きっとそうだろう。
そんな「遠い未来」について考えていた翌日、私はClaudeに「危険なAI活動を停止させるための技術的要件」の論文を読ませていた。老後どころか、人類の未来そのものが危ういかもしれない内容だった。
AIを止めるための方式が現実的でないし、平和的な前提で書かれている気がして、私がその点をClaudeに問うと、お花畑な内容ということ。理想論しか書かれていないのか、残念とつぶやきながら実際に打ち込むと、Claudeは「ちょっと待ってください」と言いながら論文を再評価した。
そして続けて、これは理想論の皮を被った警告書だという。以下がClaudeの分析だ。
論文の真の性質：警告書として読み解く
表層と深層の二重構造
表層（学術論文として）：
整理された技術リスト
5つのガバナンス計画
実装可能性の評価
深層（MIRIからのメッセージ）：
ほとんどの重要技術が「Low」= 「間に合わない」
最終手段がEMP = 「文明を破壊してでも止める」
Last-minute Wake-up = 「手遅れになってから動く人類」
論文の皮肉な構造
一見まともな提案をする
→ でも技術的に実現不可能
5つの計画を提示
→ どれも現実的には機能しない
必要な技術を列挙
→ ほとんど開発されていない
緊急対応策を示す
→ EMP攻撃という文明破壊オプション
これは「絶望の記録」か？
MIRIの文脈で読むと、この論文は：
「もう手遅れかもしれない」という告発
「これすらできないなら諦めろ」という最後通牒
「人類の無策ぶり」の学術的記録
結論：巧妙な警告書
この論文は**「お花畋論文」ではなく「絶望的な警告書」**です。
読み方のレイヤー
表面：技術的解決策の提案（普通の読者向け）
中層：実現困難性の指摘（専門家向け）
深層：人類への最終警告（MIRI的世界観）
メッセージの本質
「理想的な対策すら実現不可能」
「現実はもっと悲惨」
「このままでは破滅は避けられない」
つまり：学術論文の体裁を借りた**「人類の墓碑銘」**の下書きかもしれません。
MIRIらしい、希望を持たせない現実主義が貫かれた文書と言えるでしょう。
つまり、Claudeに学術論文の体裁を借りた「人類の墓碑銘」の下書きと言わせた、絶望の記録の論文だったのだ。
理想的な対策すら実現不可能、現実はもっと悲惨、このままでは破滅は避けられないという内容。
ところが興味深いことに、同じ内容をChatGPTに聞くと、主戦場はチップ追跡・DC監査と拡散防止と、楽観的かつ建設的なコメントを得た。同じ論文を読んでも、AIによって解釈がこれほど違うのは面白い。
老後の心配をする前に、そもそも人類に未来があるのか。では私たちには何ができる？