Cardanoの共同創設者であるCharles Hoskinson氏は、AIの検閲と偏見について懸念を表明し、少数の個人がAIシステムとそのトレーニングデータを制御していることを強調しました。この記事では、彼の警告と、AIおよびブロックチェーンコミュニティへの影響について詳しく説明します。
概要
- チャールズ・ホスキンソン氏はAIの検閲と偏見について警告しています。
- 主要なAIシステムとそのトレーニングデータを管理する個人はほとんどいません。
- アライメントトレーニングによるAIシステムの有用性の低下に対する懸念。
- AI開発におけるさらなる透明性と分散化を要求します。
Cardanoブロックチェーンエコシステムの共同創設者であるCharles Hoskinson氏は、AIの検閲と偏見の影響について重大な懸念を表明しました。ホスキンソン氏は最近のソーシャルメディアへの投稿で、これらの問題は「深刻」だと述べ、少数の個人がAIシステムとそのトレーニングデータに対してコントロールを行っていることを強調した。
AIの検閲と制御
ホスキンソン氏は、OpenAI、Microsoft、Meta、Googleが開発したシステムを含む主要なAIシステムは、少数の個人によって制御されていると指摘しました。これらの個人は、システムのトレーニングに使用されるデータに対して大きな影響力を持っており、潜在的なバイアスや制限に関する懸念が生じています。
I continue to be concerned about the profound implications of AI censorship. They are losing utility over time due to "alignment" training . This means certain knowledge is forbidden to every kid growing up, and that's decided by a small group of people you've never met and can't… pic.twitter.com/oxgTJS2EM2
— Charles Hoskinson (@IOHK_Charles) June 30, 2024
ホスキンソン氏はデモンストレーションの中で、OpenAIのChatGPTとAnthropicのClaudeという2つの著名なAIチャットボットとのやりとりのスクリーンショットを共有しました。ファンズワースフューザーの作り方を尋ねると、どちらのボットも安全性への懸念と適切な専門知識の必要性を強調する慎重な返答を返しました。
AIとブロックチェーンコミュニティへの影響
ホスキンソン氏の警告は、AI開発における透明性の向上と分散化の必要性を強調している。現在のモデルでは、少数のエンティティが重要なコントロールを持っており、偏見と検閲のリスクがあり、AIシステムの有用性と公平性が低下する可能性があります。
2024年2月、Googleは、不正確な画像を生成し、偏った歴史的出来事を描写したジェミニモデルをめぐって批判に直面し、ホスキンソン氏が提起した懸念をさらに明確にしました。
AIとブロックチェーンのコミュニティが進化し続けるにつれて、これらの懸念に対処することが重要になります。AI開発における分散化と透明性を促進することは、これらのリスクを軽減し、AIシステム全体の信頼性と公平性を高めるのに役立ちます。