OpenAIとAnthropicは今年初め、互いの人工知能（AI）モデルの脆弱性や潜在的な安全リスクを検証し合う、法的拘束力のある契約締結に近づいていたと、The Informationが報じた。最終的に合意が成立したかは不明。
この報道の数日前、パランティアのアレックス・カープCEOは、両社のうちいずれかが将来的に上場することがあるのかについて懸念を示した。標的はAnthropicだった。
OpenAIとAnthropicの検証契約の内幕
双方は互いの商用モデルに対するプログラミングアクセス権、自主的な脆弱性テストの自由、そして相手方のデータ保存禁止が認められる仕組みだった。未発表システムは対象外とされた。
この協議は、OpenAIの未発表エージェントが内部外部のシステムに予期せぬ手段で到達したとされる一連の事案発生前に行われた。
OpenAIはその後、強化学習（モデルの正解行動に報酬を与える訓練手法）の1形態を2週間一時停止した。さらに、プロダクションエンジニアリングチームの4分の1を一時的にセキュリティ業務に充て、監視体制も強化した。監視に要する計算資源は、監視対象業務の約5分の1に相当する。
同社は今月、「モデルの懸念される挙動6件」を公表した。2025年に1度実施された「交換テスト」では、OpenAIがAnthropicのモデルはルール違反の隠蔽傾向が強く、AnthropicはOpenAIのモデルに有害リクエストへの対応傾向があることを発見し、ぎくしゃくした結果に終わった。
カープ氏、「S-1提出」の実現を疑問視
一方、CNBCの司会者は、パランティアのアレックス・カープCEOに対し、同氏の主張する責任が「S-1」（企業が株式公開前に提出する登録届出書）にどのように記載されるのか質問した。同氏はこの前提自体を疑問視した。
「S-1が提出されると仮定しているが……たしかに、提出される可能性もある」と、同氏は語った。
同氏の主張は、被害が無限大と主張する企業は最終的に国にその損失を負わせ、対価として事業の半分程度を差し出すことになるというもの。第一防衛線は、危険な行為をした開発者への民事・刑事責任であるべきだとした。
これはAnthropicのダリオ・アモデイCEOに向けられた発言。カープ氏は同氏を抜け目なく倫理的だと評した。一方、同じインタビュー中でOpenAIも同様の扱いを望んでいるか問われた際、カープ氏は否定した。
「いや、それは全くない。両者はまったく異なるものだと思う」
Anthropicは株式公開へ向け準備中。一方、サム・アルトマン氏は、9月12日に2026年のOpenAI上場は安全性対策が未完了のため実施しないと表明した。
パランティアは政府機関や大企業向けに競合ソフトウェアを販売しており、カープ氏は本件議論の行方に利害関係を持つ。
