ジェフリー・ヒントン「次の30年の人類滅亡確率は10%」

西暦2,023年3月29日キャンベル(アメリカのカリフォルニア州のサンタクララ郡)に所在する非営利団体の生命の未来研究所が、AI開発の6ヶ月間の一時停止を求めるオープンレターを公開する。以下の人間を始めとする1,000名以上が署名し、其の後翌月迄に33,000名以上に膨れ上がった。①テスラ社共同創業者でスペースX社創業者のイーロン・マスク②アップル社共同創業者スティーブ・ウォズニアック③モントリオール大学計算機科学・オペレーションズリサーチ学科教授でミラ・ケベックAI研究所(モントリオール(カナダのケベック州))共同創設者ヨシュア・ベンジオ④約1,000名のAI研究者オープンAI社のGPT-4リリース直後、其の言語生成・推論・画像作成の能力が人間を超える兆候であるとされ、AIの急速な進化が制御不能なリスク(誤情報拡散・雇用喪失・存在論的脅威等)を生むとの懸念が高まった事が背景として有った。全文は以下の通り。人間の競争力を持つ知能を備えたAIシステムは、社会と人類に深刻なリスクを齎す可能性が有り、此れは広範な研究によって示されており、トップのAIラボでも認められています。アシロマAI23原則で広く支持されている様に、先進AIは地球上の生命の歴史に於ける深刻な変化を表す可能性が有り、其れ相応の注意と資源で計画し、管理すべきです。残念ながら、此のレベルの計画と管理は行われておらず、最近数ヶ月でAIラボが制御不能なレースに突入し、益々強力なデジタルマインドを開発・展開しており、其れ等は創造者でさえ理解・予測・信頼性を持って制御出来ません。現代のAIシステムは今、一般タスクで人間の競争力を持つ様になっており、私達は自問すべきです。機械が私達の情報チャネルをプロパガンダと虚偽で氾濫させるのを許すべきか？全ての仕事、満足度の高いものも含めて自動化してしまっていいのか？最終的に私達を上回り、出し抜き、陳腐化し、置き換える可能性の有る非人間のマインドを開発すべきか？私達の文明の制御喪失をリスクに晒すべきか？此の様な決定は、非選挙で選ばれたテックリーダーに委ねるべきではありません。強力なAIシステムは、私達が其の効果が肯定的で、リスクが管理可能であると確信出来る場合にのみ開発されるべきです。此の確信はよく正当化され、システムの潜在的効果の大きさに比例して高まるべきです。OpenAIの最近の人工汎用知能に関する声明では「或る時点で、将来のシステムの訓練を開始する前に独立したレビューを得る事が重要になるかも知れないし、最先端の取り組みでは新しいモデルの作成に使用する計算量の成長率を制限する事に合意すべきだ」と述べています。私達は此れに同意します。其...一元化　公式HP https://uc-4.com/

http://www.nicovideo.jp/watch/sm45679106