要約
Microsoft AI CEOのMustafa Suleymanが、AI業界に対し、制御と協力を混同しないよう警告。彼は、スーパーインテリジェンスの追求には堅固な制御メカニズムが先行すべきであり、人間中心の実用的なアプリケーションを重視する「ヒューマニスト・スーパーインテリジェンス」フレームワークを提唱している。
背景情報
- Microsoft AI CEOのMustafa Suleymanが、AI業界に対し、制御と協力を混同しないよう警告。
- Suleymanは、スーパーインテリジェンスの追求には堅固な制御メカニズムが先行すべきであり、人間中心の実用的なアプリケーションを重視する「ヒューマニスト・スーパーインテリジェンス」フレームワークを提唱。
- AI業界は、制御と協力を混同しており、Suleymanはこれらの違いを強調している。
- Suleymanは、Microsoftを他の無謀なAI開発に対する対抗勢力と位置付け、人間の制御と特定領域のAIを優先するビジョンを示している。
今後の影響
– 制御と協力の違いの重要性
- AI業界は、制御と協力を混同しているが、これらは異なる技術的・哲学的課題を提起する。
- 制御は、AIシステムを明確に定義された境界内に保つことであり、協力はこれらのシステムが人類の最善の利益のために行動するかどうかに焦点を当てている。
- 制御が確立されていない状態で協力を追求することは、本末転倒であるとSuleymanは主張している。
– ヒューマニスト・スーパーインテリジェンスの提唱
- Suleymanは、医療診断やクリーンエネルギーなどの実用的なアプリケーションを重視する「ヒューマニスト・スーパーインテリジェンス」フレームワークを提唱。
- Microsoft AIは、ニューイングランド・ジャーナル・オブ・メディシンの難しい症例研究で人間医師の約20％に比べて85％の正確性を達成するシステムを開発。
- ドメインに焦点を当てたこの戦略は、最も深刻な制御リスクを回避しながら、スーパ
