上院民主党議員と無所属議員1名がOpenAIに書簡を送った
CEOのサム・アルトマン氏は、内部告発者に対する同社の安全基準と雇用慣行に関する情報を求めている。この書簡では、米国政府機関がOpenAIの基盤モデルを展開前にテストおよびレビューできるようにするという約束も求めています。
ポイント
- 上院民主党と独立系1名がOpenAICEOのサム・アルトマンに書簡を送る
- 安全基準と内部告発の慣行に関する情報の要求
- 米国政府機関が基盤モデルを展開前にテストできるようにする取り組みを求めています
- AIの安全性と潜在的な悪意のある使用に対する懸念
- OpenAIとAIセクターに対する規制上の監視の強化
上院民主党議員と無所属議員1名がOpenAIの最高経営責任者（CEO）サム・アルトマン氏に書簡を送り、同社の安全基準と内部告発者に対する雇用慣行について懸念を表明した。ワシントン・ポスト紙が初めて入手したこの書簡では、いくつかの点が概説されており、項目9が特に重要である。「OpenAIは、その次の基盤モデルを米国政府機関が導入前のテスト、レビュー、分析、評価のために利用できるようにすることを約束するのか?」
この書簡には、OpenAIのコンピューティング能力の20%を安全性研究に充てることや、悪意のある行為者や外国の敵対者によるAI製品の盗難を防ぐためのプロトコルの実装など、さまざまな問題に対処する11の追加ポイントが含まれています。議員らの懸念は、OpenAIのGPT-4Omniの安全基準が、製品の市場リリースの遅延を避けるために侵害されたと主張する内部告発によって引き起こされた。
内部告発者らは、OpenAIの経営陣に安全性への懸念を提起しようとした試みが報復に遭い、違法な機密保持契約を締結したと主張した。これらの懸念は、2024年6月に米国証券取引委員会（SEC）に正式に提出されました。
規制上の調査
議員らからの書簡は、OpenAIとより広範な人工知能セクターが直面している継続的な規制の監視を浮き彫りにしている。7月、テクノロジー大手のマイクロソフトとアップルは、2023年にマイクロソフトがOpenAIに130億ドルを投資したにもかかわらず、規制圧力の高まりを理由にOpenAIの取締役会のメンバーから退いた。
実存的恐怖が続く
OpenAIの元従業員ウィリアム・サンダース氏は、進行中の研究が人類の存亡を脅かす可能性があるとの懸念から同社を辞めたと明らかにした。サンダース氏は、OpenAIの潜在的な軌道を1912年の悪名高いタイタニック号墜落事故に例えました。彼の懸念は、OpenAIのChatGPT大規模言語モデルの現在の反復ではなく、将来のバージョンと高度な超人的知能の潜在的な発展にありました。
解説
- 政府の監督:この書簡では、安全性とコンプライアンスの確保を目的として、政府機関が導入前にAIモデルをレビューおよびテストするためのフレームワークを確立することを求めています。
- 内部告発者の保護:議員らはOpenAIによる内部告発者の扱いに関する懸念に対処し、AI開発における透明性と説明責任の必要性を強調しています。
- 規制上の課題:規制機関からの監視の強化は、特にAI機能の急速な進歩を考慮すると、倫理的で安全なAI実践の重要性が高まっていることを反映しています。
- 存在するリスク:元従業員や内部告発者によって提起された懸念は、チェックされていないAI開発に関連する潜在的なリスクと、強力な安全対策の必要性を浮き彫りにしています。