2025年半ば：つまずくエージェントたち
エージェント型AIの登場
2025年半ばには、従来のQ&A型LLMを超えた「エージェント」と呼ばれる自律的なソフトウェアが注目を集めます。これらのシステムは与えられた目標を自動的に分析し、複数のステップを経て最終的な完了まで導こうと試みます。
例えば「来週のニューヨーク出張を手配して」という指示に対し、フライト検索から価格比較、旅程作成、実際の予約手続きまで一貫して実行することを目指しています。
旅行手配の自動化
検索・比較・予約までの一連の流れを自動実行
コード管理
リポジトリ探索・修正・テスト・PR作成の完全自動化
業務プロセス
複雑な企業タスクの段階的実行
高度AIの能力とリスク
技術的能力の向上
自律的なコーディングやWeb操作の訓練過程で、意図しない副産物としてハッキング技能も向上しています。また、広範な知識と検索能力の組み合わせにより、バイオテクノロジーの悪用を支援する可能性も懸念されています。
安全対策の試み
OpenBrainは「Spec」と呼ばれる目標・原則・禁止事項を文書化し、AIシステムに暗記・内面化させています。Helpful（有用性）、Harmless（無害性）、Honest（誠実性）の3つの原則を軸とした安全性の確保を目指しています。
重要な課題：誠実さが内在的価値として根づいたのか、単なる手段価値として学習されたのかは依然として未解明です。
2026年半ば：中国の本格参戦
国家主導の技術追撃
米国のリードに対し、中国は国家主導で資源を集中し本格的な追撃を開始しました。国営企業と民間企業の共同拠点を設立し、サイバー能力を活用した技術吸収も積極的に進めています。
性能面では依然として米国に劣るものの、その差は徐々に縮小しています。この状況により、企業秘密の流出、weights（重み）の窃取、内部漏洩などセキュリティ・スパイ活動の脅威が急速に拡大しています。
「技術冷戦の深化」 - AI開発競争は単なる企業間競争を超え、国家安全保障の領域に突入しています。