アダム・シフ下院議員が率いる米国議員グループは、誤った情報と安全性への懸念を理由に、Googleに対しAI概要機能に関する詳細情報を要求した。
ポイント
- 議員らはGoogleのAI概要の正確性と安全性を懸念している。
- AI機能は、不正確で潜在的に危険な情報を提供することが判明しました。
- 説明を求めて、一連の11の質問がGoogleのCEOに送信されました。
- Googleは誤った情報と闘う取り組みを認められていますが、さらなる取り組みを求められています。
アダム・シフ下院議員が主導する米国議会議員のグループは、アルファベット/グーグルCEOサンダー・ピチャイに対し、Google検索のAI概要機能に関する包括的な情報を要求した。検索結果の上部に概要ウィンドウを表示するこの機能は、不正確で潜在的に危険な情報を提供する傾向があるため、懸念が生じています。
議員らはピチャイ氏に宛てた書簡の中で、この機能の精度と安全性を確保するための同社の取り組みに関する11の重要な疑問について概説した。報告書では、ユーザーが鉱物のために岩石を食べることを示唆したり、バラク・オバマを初のイスラム教徒の米国大統領であると誤って主張したりするなど、AI概要が誤解を招く情報を提供したいくつかの例が浮き彫りになっています。
この書簡では、Googleがテストを強化し、コンテンツポリシーに違反する応答を削除し、AIが生成した応答を実験的としてラベル付けすることにより、機能を改善するための継続的な取り組みを行っていることを認めている。ただし、情報源としてのGoogleの信頼性を維持するにはさらなる対策が必要であると主張している。
AI概要の問題の一部は、情報源の信頼性を識別できないことに起因しており、多くの場合、「TheOnion」のような風刺サイトが事実であるかのように引用されています。これにより、コンテキストや推論を真に理解せずに人間の音声を模倣する生成AIシステムの限界について、より広範な議論が行われるようになりました。
コインテレグラフ
解説
- AIの制限:AI概要の失敗は、情報の理解と検証における現在のAIシステムの固有の制限を浮き彫りにします。
- 規制の監視:米国議員による調査は、AIテクノロジーとそれが公開情報に与える影響に対する規制の監視が高まっていることを示しています。
- 誤った情報のリスク:AIによって生成された誤った情報の可能性は重大なリスクをもたらし、堅牢な検証メカニズムの必要性が強調されています。