人工知能による監禁 by Fouad Sabry

人工知能の閉じ込めとは

人工知能 (AI) 設計の分野では、AI の閉じ込めとも呼ばれる AI 機能制御提案が増加することを目指しています。 提案されている汎用人工知能 (AGI) を含む AI システムの動作を監視および制御して、システムが調整されていない場合に生じる可能性のあるリスクを軽減する能力。 これは、これらのシステムが正しく設計されていない場合に引き起こされる可能性のある潜在的な害を最小限に抑えることを目的として行われます。 それにもかかわらず、エージェントがより賢くなり、人間の制御システムの穴を悪用する能力が高まるにつれて、能力制御は効果が低くなります。 これは、汎用人工知能 (AGI) による存続リスクを引き起こす可能性があります。 この結果、オックスフォードの哲学者ニック・ボストロムらは、調整技術とのみ組み合わせて能力管理手法を利用することを提唱しています。

どのようなメリットがあるか

(I) 次のトピックに関する洞察と検証:

第 1 章: AI 機能の制御

第 2 章: 技術的特異点

第 3 章 : 優しい人工知能

第 4 章: 超知能

第 5 章: AI の乗っ取り

第 6 章: 人工知能の概要

第 7 章 : 人工知能の倫理

第 8 章: 汎用人工知能による実存的リスク

第 9 章: 人工知能における誤った目標

第 10 章: ロコのバジリスク

(II) 人工知能の閉じ込めに関する一般のよくある質問に答える。

(III) 多くの分野での人工知能の閉じ込めの実際の使用例。

( IV) 人工知能の閉じ込め技術を 360 度完全に理解するために、各業界の 266 の新興技術を簡潔に説明する 17 の付録。

この本の対象者

専門家、学部生および大学院生、愛好家、趣味人、およびあらゆる種類の人工知能の閉じ込めに関する基本的な知識や情報を超えたいと考えている人。