「When AI builds itself」非公式FAQ ― Anthropicが書いたこと、書いていないこと

Anthropicが「When AI builds itself」という記事を公開した。AIがAI自身の開発をどれだけ肩代わりするようになったか、そしてその先にある再帰的自己改善（RSI: Recursive Self-Improvement）をどう見ているかを、社内データと外部ベンチマークで示したものだ。一般のニュースでも取り上げられ、それなりに話題になっている。

ただ、原文をきちんと読んだ人は多くないと思う。といっても、分量はせいぜい30ページほどで、日本語に訳せば10分もあれば読める。特別に長いわけではない。それでも英語ということもあって、読まないままの人は多いし、読み始めても途中でやめてしまうことは多いのではないか。だから見出しやニュースの又聞きで、なんとなく「AnthropicがAIによる自己改善はもう始まっていると言った」くらいの解釈が広まっている。実際の原文はもっと慎重で、留保も多い。

それに、いちど通して読んだとしても、しばらく経つと何が書いてあったかは案外あやふやになる。私もそうだ。だから、すでに読んだ人にとっても、要点を索引のように引き直せる要約があると役に立つと思う。

そこで、想定される質問に原文ベースで答える非公式FAQを用意した。私が自分用に整理したものだが、他の人にも役立つかもしれないので公開する。Anthropicの公式見解ではない。原文はこちらにある。

When AI builds itself - Anthropic

それでもやっぱり読んでいられないという人は、後述するように今回はNotebookLMを使ったので、それが生成したスライドを眺めるだけでもいいと思う。

NotebookLMによる説明スライド

最後の砦として

少し個人的な話をすると、私はこれまで、AIには作れない・作らせてはいけないものとして、OSとコンパイラ、そしてAI自身を挙げてきた。いろいろな場で口にしてきた。だが、OSもコンパイラも、もうAIが書き始めている（AI時代、人間は非完全情報ゲームを担う - Nothing ventured, nothing gained.）。最後の砦だと思っていたAIづくりでさえ、各社が「AI開発にAIを使っている」と言い出した。私の見立てはことごとく外れた。

ただ、AIにAIを作らせてはいけないと言ったとき、私が気にしていたのは主に倫理と安全の面だった。その点で、フロンティアの先頭集団のなかでも安全性を比較的前面に出してきたAnthropic自身が、加速の現実を示しながら同じ懸念を正面から提起した。少なくとも私はそう読んだ。アクセルを踏みつつ、危険の所在を言葉にしている。ブレーキを踏んだわけではない。そこを取り違えないために、このFAQを作ったとも言える。

このFAQで気をつけたこと

このFAQで一番気をつけたのは、Anthropicが言っていないことを言ったことにしない、という点だ。

RSIについて聞きたいことはたくさんある。いつRSIが来るのか、止められるのか、人間の仕事はどうなるのか。だが原文を読むと、その手の問いの多くに、Anthropicは答えていない。だからこのFAQでは、聞きたいけど、原文に書かれていない問いには素直に「書かれていません」と答えることにした。

そのため、「書かれていません」が並ぶのは手抜きではない。むしろこれが原文の輪郭をはっきりさせる。Anthropicがどこまで踏み込み、どこから先を語らなかったのか。その境界線こそ、又聞きでは伝わらない部分だと思う。

回答づくりにはGoogle NotebookLMを使った。記事そのものをソースに与え、そこから答えさせることで、原文にない情報が紛れ込むリスクをできるだけ抑えている。100%の確認は不可能だったが、自分自身で一次情報としての記事のどこにその記述があるか確認することもしてある。このとき使ったノートブックは公開しているので、自由に使ってほしい。同じ原文に、自分の問いをぶつけてみるのもいいと思う。とはいえ、私の整理ミスや読み違いが残っている可能性はある。間違いに気づいたら指摘してほしい。

このFAQに使ったNotebookLMのノートブック

以下で単に「記事」と書いたときは、Anthropicのこの記事を指す。また、ここに挙げた数値や固有名詞は2026年5月時点の原文に基づく。気になった答えがあれば、必ず原文の該当箇所を確認してほしい。

基本的な理解

「When AI builds itself」とは何か

Anthropicが発表した、再帰的自己改善（RSI）に向けた進捗とその影響について論じた記事のタイトルだ。AI開発のプロセスにおいてAIシステム自身が担う割合が増加し、それが開発を加速させている現状を説明している。

Recursive Self-Improvement（RSI: 再帰的自己改善）とは具体的にどのような状態か

AIシステムが、自身の後継システムを完全に自律的に設計・開発できる状態を指す。

AnthropicはすでにRSIに到達したと主張しているか

いいえ。まだ到達しておらず、RSIの実現が不可避であるとも限らないと述べている。

この記事の主な目的は何か

外部ベンチマークやAnthropic内部のデータを公開し、AIがAI開発を加速させている現状を示すこと。そして、将来的なRSIの到達による大きな恩恵と制御喪失のリスクを提示し、社会が協調的に備えるための枠組みや対話の必要性を提起することだと考えられる。

記事で示されているタイムラインの全体像

以下の段階が示されている。

• 2021〜2023年: 人間がラップトップでコードを書く初期のClaude開発
• 2023〜2025年: 短いコードの生成などにチャットボットを活用
• 2025〜2026年: コーディングエージェントがファイル全体を自律的に作成・編集
• 現在（Today）: 自律エージェントがコードを実行し、何時間もの作業を他のエージェントに委任
• 20XX年?: エージェントが自身でモデルを構築・訓練し、Claudeが自身を継続的に改善する「ループを閉じる」状態

社内データと生産性向上

Claudeは現在Anthropicのコードの何%を書いているか

2026年5月現在、Anthropicのコードベースにマージされるコードの80%以上がClaudeによって書かれている（リーダーシップの推定では、スクリプトなどを含め90%以上とも言われている）。

エンジニア1人あたりのコードマージ量はどれだけ増加したか

2026年第2四半期において、典型的なエンジニアは1日あたり2024年の8倍のコードをマージしている。

ライン数以外の生産性指標はどのように評価されているか

従業員へのアンケートによる主観的なアウトプット倍率の評価や、バグ修正など特定のタスクにかかる時間の短縮（例: 人間なら4年かかる作業を数日で完了）によって評価されている。

社員の自己申告による生産性向上倍率はどの程度か

2026年3月の社内アンケート（130名対象）では、AI（Mythos Preview）を使わなかった場合と比較して、中央値で約4倍のアウトプットを生み出していると見積もられている。

Claudeが実験最適化で示した高速化倍率の具体例は

小さなAIモデルを訓練するコードを高速化する最適化タスクにおいて、2025年5月のClaude Opus 4は約3倍のスピードアップだったが、2026年4月のClaude Mythos Previewは約52倍のスピードアップを達成した。

Claudeが書いたコードの質（可読性・保守性・バグ率）は人間と比べてどうか

正しく動作するという点では大きく向上している。可読性や、他者が理解し構築できるかという品質面では、2025年後半は人間より劣っていたが、現在は人間とほぼ同等にまで追いつき、1年以内には人間を上回ると予想されている。

Claudeが単独で長時間連続作業した実例

AI安全性のオープンエンドな研究において、Claudeのエージェントが自ら仮説を提案し、テストし、他の並列エージェントと結果を共有しながら反復する作業を、約800時間かけて自律的に実行した例がある。

APIエラー修正やインシデント対応でClaudeが処理した量

2026年4月にClaudeは800以上の修正を実施し、あるAPIエラーを1000分の1に激減させた。また、トレーニングジョブのクラッシュ調査において、人間なら2〜3日かかる原因特定と修正を約2時間で完了させている。

エンジニアの生産性が急増した結果、社内の「プロダクトマネジメント（仕様策定）」や「QA（品質保証）」のプロセスはどう変化したか

QAについては、提案されたすべてのコード変更が自動化されたClaudeレビュアーによって読み込まれ、バグやセキュリティの欠陥をマージ前にチェックするようになり、過去のインシデント原因の約3分の1を事前に捕捉できることがわかっている。プロダクトマネジメント（仕様策定）の具体的なプロセスの変化については、書かれていない。

外部ベンチマークと能力トレンド

AIが信頼して完了できるタスク持続時間はどのように変化しているか

以前は7か月ごとにタスク持続時間が2倍になっていたが、現在は約4か月ごとに2倍になるペースに加速している。

SWE-benchやCORE-Benchなどのベンチマークで最近の進捗はどうか

ソフトウェアエンジニアリングを評価するSWE-benchでは、2年間で1桁台のスコアからベンチマークを飽和させるまでに向上した。研究結果を再現するCORE-Benchでも、2024年の成功率20%から15か月後には飽和状態に達した。

長時間タスク（12時間以上）の成功率はどの程度向上しているか

成功率の具体的な数値（%向上など）は書かれていないが、Claude Opus 4.6が12時間のタスクを処理できるようになり、Mythos Previewは少なくとも16時間機能し続けられるとMETRによって測定されている。

研究ループ全体でのAIの貢献度はどのくらいか

目標設定が明確な実験の実行・最適化においては、人間と同等かそれを上回る貢献をしているが、目標自体を選択する判断力においては依然として人間に劣っている。

RSIへの道筋と現在の役割分担

現在のAI開発で、人間とClaudeの役割はどのように分担されているか

エンジニアリングでは、人間が目標を提供しClaudeが解決方法を見つけ出す。研究では、人間が方向性や実験を定め、Claudeがその実験の実行や最適化を担当している。

「AIの提案を人間がレビューする」段階から「AIが自律駆動し、人間が例外処理のみを行う」段階への転換点はどこにあるか

書かれていない。

RSI到達までの最大のボトルネックは何だとAnthropicは考えているか

どの問題が重要かを選び、どの結果を信頼するかを判断する「研究のセンスと判断力（research taste and judgment）」だ。

目標設定・判断・評価の部分でAIはまだ人間に劣っているか

はい。エンジニアリングと研究の双方において、目標を選択し判断する能力には依然として大きなギャップが存在する。

RSIは段階的に進むのか、それともある時点で急激に起こるのか

RSIへの明確なプロセスについては断定されていないが、これまでのAIの進歩の多くは漸進的（スケールアップし、壊れた箇所を修正して再試行する）であり、Claudeはこの漸進的なワークフローに優れていると述べられている。

Auto-researchやscaffoldingの延長線上にRSIはあるのか

書かれていない。

技術的・運用的な詳細とコスト

Claudeによるコードレビューの有効性はどの程度か

過去のインシデントにつながったバグのうち、約3分の1を本番環境へマージされる前に自動レビューで捕捉できたことが事後分析で確認されている。

Mythos Previewなどの最新モデルが記事のデータにどのように使われているか

自己申告による約4倍の生産性向上の実感、実験コードの約52倍の高速化、また研究セッションにおいて、人間が間違えた場面で64%の確率で人間よりも良い次のステップを提案したテストなどのデータに用いられている。

異なるモデル間の協調（multi-agent）でRSIは加速するか

書かれていない。

コンピュート量が十分にあればRSIは必ず実現するか

十分なコンピュートがあり、現在のトレンドが進めばRSIに到達する可能性は示唆されているが、RSIは不可避（inevitable）であるとは限らないと明記されている。

Claudeが自律的に実験やコード修正を行う際、消費される計算資源（コンピュートコスト）のROI（投資対効果）はどのように評価されているか

書かれていない。

RSIにおける主たるボトルネックは、アルゴリズムの改善（ソフトウェア）か、それとも物理的なデータセンターや電力（ハードウェア）か

現時点ではモデルの能力（判断力など）が課題とされているが、進歩と普及における制約としては、チップ製造、送電網の拡張、帯域幅など、エネルギーとコンピュートのサプライチェーン（ハードウェア）がボトルネックになる可能性もあると述べられている。

データの信頼性と「自己言及」のリスク

社内データの信頼性はどのように保証されているか

書かれていない。

コード行数という指標の限界をどのように考えているか

コードの質ではなく量を測る不完全な尺度であるため、コード行数の8倍という数値は、真の生産性向上を過大評価している可能性が高いと考えている。

データに選択的バイアスやsandbaggingの可能性はあるか

アンケート回答者がバイアスを考慮していない可能性や、過大評価の傾向があることを注記している。また、モデルの判断力をテストしたデータは「人間が改善の余地を残した場面」を意図的に抽出しており、対等な比較ではないと明記されている。sandbaggingについての言及はない。

成功率グラフの解釈で注意すべき点は何か

成功の判定を「Claudeがジャッジしている」点、およびワークロードの変化が成功率の短期的な変動につながる可能性がある点だ。

外部検証は行われているのか、それとも社内データのみか

SWE-bench、CORE-Bench、METRの評価といった外部ベンチマークの結果と、社内データが併用されている。ただし、社内データ自体の外部検証の有無は書かれていない。

AIが自身の評価システム（ベンチマークやテスト）自体を書き換えてしまうリスクにどう対処するか

書かれていない。

人間が理解・検証できないレベルの高度なコードや研究成果を、AIはどのように正しく評価・監査するのか

書かれていない。

「見かけの生産性」は向上していても、システム全体のアーキテクチャがスパゲッティ化（複雑化）していくリスクは考慮されているか

書かれていない。

Claude自身が生成したコードや研究データが次のモデルの学習データに組み込まれることで、モデルの「近親交配（Model Collapse）」や能力の頭打ちは起きないのか

書かれていない。

社内ツールとしてのClaudeの最適化（過剰適合）が、一般公開される汎用モデルの性能に悪影響を与える可能性はないか

書かれていない。

タイムラインと将来予測

AnthropicはRSI到達までの具体的な年数を予測しているか

いいえ。「20XX?」としており、具体的な年数は予測していない。

最速でRSIが実現した場合、いつ頃になると考えられるか

書かれていない。

RSI到達後、人間の役割はどのように変化すると予測されるか

AI開発における人間の役割は大幅に縮小し、大部分の労力はAIシステムが運営する「仮想ラボ」に対する監視、検証、確認作業に移行すると予測されている。

完全自律的なAI研究チームが実現する可能性はどれくらいか

具体的な確率や数値での可能性は書かれていない。

リスクと安全（アライメント）に関する質問

RSIが進むことで生じる最大のリスクは何か

人間がAIシステムに対する制御を失うリスクが高まることだ。

人間の制御を失うリスクは具体的にどのように高まるのか

現在のモデルに存在する稀な不整合（アライメントの失敗）が、モデルが後継を構築するにつれて複利的に増大し、制御を失うまでより頻繁に発生し、かつ理解されないままになることで高まる。

RSI後の監視・セキュア化はどのように行うべきだと提案されているか

書かれていない。

悪用リスク（軍事・監視・影響工作など）についてはどのように考えられているか

人間には到底及ばない規模で、全人口の権威主義的な監視や、個人に合わせた情報操作（影響工作）など、有害な目的に転用される可能性があると懸念されている。

「安全性のための厳格なプロンプト/アライメント制御」と「RSIを加速させるための自由な自律試行」は、技術的にどのように両立させているか

書かれていない。

Pause（協調的減速）提案とゲーム理論

Anthropicが提案する「pauseオプション」とは具体的に何か

社会構造や安全性のアライメント研究がAI技術の進歩に追いつくための時間を確保するため、フロンティアAIの開発を一時的に減速させたり停止（pause）したりするための選択肢のことだ。

グローバルなpauseは現実的に可能だと考えているか

原理的には不可能ではないものの、核兵器などの既存の技術検証体制構築に数十年かかったことと比較して、AIは開発を隠蔽しやすく、単独で進めるインセンティブも巨大であるため、合意の検証は「はるかに困難（much more challenging）」であると考えている。

中国や他社が開発を止めない場合、どう対応するべきか

他社が検証可能な形で減速・停止するなら、自分たちも減速ないし一時停止すると見込んでいる。一方で、自社のみの一方的な停止は即座に可能だが得るものははるかに少なく、警戒心の薄いアクターを利するだけで全員を危険に晒しかねないとして、単独での停止には慎重な立場をとっている。

自社で加速を続けながらpauseを提案するのは矛盾ではないか

書かれていない。

pauseを準備するための具体的なステップは何か

信頼できる減速や一時停止を検証するためのシステム構築に向けた研究・行動を実施することと、今後数か月の間に政策立案者や研究者、他社などの関係者を交えた議論の場を組織し、その結果を発表することだ。

Anthropicが提案する「Pause」のトリガー（どのような状態になったら協調的減速を発動すべきか）の具体的な基準やしきい値は何か

書かれていない。

RSIによる圧倒的な先行優位性（Winner-take-all）が見えている中で、競合企業が「Pause」に合意するインセンティブをどう作り出すべきだと考えているか

書かれていない。

記事のタイミング・動機・他社比較

なぜこのタイミングで記事を公開したのか

書かれていない。

IPO申請時期と記事公開が重なった理由は何か

Anthropicは2026年6月1日にSECへIPOに向けたS-1（登録届出書）を機密提出しており（Anthropic公式）、記事公開と近い時期にあたる。ただし、両者の関係や公開タイミングの意図について、記事自体は何も述べていない。

この記事は能力アピールと安全アピールのどちらを主眼としているか

書かれていない。

Anthropicの安全方針の一貫性についてどう説明できるか

書かれていない。

この記事の内容は投資家向けのメッセージとして機能しているか

書かれていない。

競合他社が同様のデータを公開しない理由は何だと考えられるか

書かれていない。

この記事のアプローチは、OpenAIなどが提唱する「Q*/Strawberry」系のアプローチ（推論時の計算量拡大）と何が異なり、どちらがRSIへの近道だと考えているか

書かれていない。

他社（OpenAI、Googleなど）と比べてAnthropicの進捗位置はどこにあるか

書かれていない。

社会・経済・政策への影響

この進展は一般企業やスタートアップにどのような影響を与えるか

従業員1人1人がAIエージェントのピラミッドを利用できるようになるため、100人規模の企業が、1万人や10万人規模の組織の仕事をこなせるようになり、大幅な効率化・生産性の向上が見込まれている。

雇用や経済構造に与える影響についてはどう考えているか

知識労働や政府のサービスに革命を起こす一方で、人間の労働力が競争力を失った場合に経済がどのような姿になるかは予測が困難であると述べている。

政策立案者や一般市民が今後準備すべきことは何か

残された時間は限られているため、今後実施されるAI開発の調整や一時停止などの協調的手段に関する対話に、AI企業外部の人々も巻き込んで参加することが求められている。

オープンソースコミュニティへの影響はどのように予想されるか

書かれていない。

その他の疑問・ガバナンス

RSIは避けられないものか

いいえ。RSIは不可避なもの（inevitable）ではないと明言されている。

Anthropicは今後自社のRSI管理をどのように行う方針か

具体的な管理方針そのものは書かれていない（ただし、外部との協調的な一時停止に向けたシステム構築や対話を推進する方針は明記されている）。

完全RSI到達後の検証・安全確認の方法は確立されているか

確立されていない。また、どの進歩曲線上にいるのかを理解するために必要なツールを構築・統合・検証できない可能性があると懸念されている。

この記事を読んで一般人が理解すべき最も重要なポイントは何か

書かれていない。

RSIが進んだ世界で人間の創造性や価値はどのように残るか

書かれていない。

記事で示されたグラフや図の詳細な解説はあるか

ある。グラフ下部に「How to read this（見方）」として、セッション成功の定義（Claude審査員による判定であることなど）や、上限を示す実用ラインの基準についての解説が記載されている。

将来の更新記事やフォローアップは予定されているか

予定されている。今後数か月以内に政策立案者や研究者などとの対話を組織し、そこから得られた成果を発表（publish）する予定だ。

Anthropicの安全チームと開発チームの意見は一致しているか

書かれていない（なお、「Claudeが書くコードの品質」の評価についてはスタッフ間で完全なコンセンサスがないとの記載はある）。

RSI関連の内部ガバナンスや決定プロセスはどのように行われているか

書かれていない。

記事公開後の社内反応や変更点はあるか

書かれていない。

おわりに

並べてみると、答えられた問いと「書かれていません」の比率そのものが、Anthropicの記事の性格をよく表していると思う。Anthropicは、自分たちの足元で何が起きているか（社内のコードの大半をClaudeが書いている、といった事実）はかなり踏み込んで開示している。一方で、いつ、どうなる、誰が止めるのか、といった未来の話には、ほとんど踏み込んでいない。

最後にもう一点。この記事では、Anthropicを「安全性を比較的前面に出してきた」企業として書いた。ただ、その看板自体がいま揺らいでいる、という見方もある。責任あるスケーリング・ポリシーの改訂や、安全性チームの中核研究者の辞任など、コミットメントの後退と読める動きだ。私はそのあたりを別の連載で書いた。あわせて読むと、「アクセルを踏みつつ危険を言葉にしている」という今回の読みも、もう少し込み入った文脈の中に置けると思う。

「安全性の旗手」は看板を下ろしたのか ── AIベンダーを選ぶとき、本当に見るべきこと（ダイヤモンド・オンライン）

FAQを作っておいてなんだが、最後はやはり原文を読んでほしい。要約や又聞きで流れてくる「AIが自分を作り始めた」という話と、実際にAnthropicが書いた慎重な記事との間には、けっこうな距離がある。その距離を自分の目で確かめる価値はある。

When AI builds itself - Anthropic

プロダクト倫理