ポイント
- アダム・シフ下院議員率いる米国議員らは、GoogleCEOのサンダー・ピチャイに対し、「AI概要」機能に関する情報を要求している。
- AI概要が誤った潜在的に危険な情報を出力することに対する懸念が提起されています。
- 議員らは、正確性、安全性、誤った情報の軽減に関する11の質問への回答を求めています。
アダム・シフ下院議員が率いる米国議員グループは、アルファベット/グーグルCEOのサンダー・ピチャイに対し、同社の検索向け「AI概要」機能に関する情報を要求した。議員らはピチャイ氏の回答期限を８月１日に設定している。
AI概要機能は、ユーザーがクエリを実行したときに、Google検索ページの上部に概要ウィンドウを提供します。通常、この概要には短いテキストの回答、関連する場合は画像、およびサポートリンクが含まれます。ただし、AI概要が誤った潜在的に危険な情報を出力するという報告が多数あります。
コインテレグラフ
議員の懸念
シフ氏の事務所が公表し、他の議員4人が連名した訴状では、AIの概要に関するいくつかの問題点が概説されている。大きな懸念の1つは、AIが風刺と事実情報を区別できないことです。たとえば、AIOverviewは、風刺ニュースサイト「TheOnion」を引用して、ユーザーに「ビタミンとミネラルのために少なくとも1日1石を食べる」ようアドバイスしたと伝えられている。他の例には、バラク・オバマが初のイスラム教徒の米国大統領であると主張するなど、誤りであることが暴かれた陰謀論を広めるAIが含まれる。
Googleの取り組みと議員の要求
議員らは、誤った情報と闘うためのGoogleの取り組みを認めながらも、AIOverviewが提供する情報の信頼性と正確性を確保するためにさらなる取り組みが必要だと主張している。訴状では、精度と安全性、事実確認手順、調達、透明性、当局との協力を向上させるための同社の取り組みに関する11の質問への回答を求めている。
AI推論の挑戦
AI概要のようなAIシステムの中心的な問題は、真の理解や推論が欠如していることです。進歩にもかかわらず、AIは依然としてコンテキストと学習した経験を新しい状況に適用する能力に苦労しています。これらの制限は、OpenAIのGPT-2や、不正確さに対する反発により閉鎖されたMetaの廃止された「Gaoptica」システムなど、初期の大規模言語モデルで観察されています。
結論
GoogleのAI概要に関する詳細情報を求める米国の議員らの要求は、正確で信頼できる情報を提供する上でのAIの継続的な課題と責任を浮き彫りにしています。AIテクノロジーが進化し続けるにつれて、その安全かつ効果的な使用を確保することが依然として最重要事項となっています。
解説
- 正確性と安全性:AIシステムが正確で安全な情報を提供することを保証することは、社会の信頼を維持するために非常に重要です。議員らによって提起された問題は、AIテクノロジーの継続的な改善の必要性を浮き彫りにしています。
- 事実確認と透明性:堅牢な事実確認手順を実装し、AIによって生成されたコンテンツの透明性を確保することは、誤った情報を軽減するために不可欠な手順です。
- AIの制限:コンテキストの理解と推論におけるAIの固有の制限は、AIの機能を強化するための継続的な研究開発の重要性を強調しています。