要約
2021年にDario Amodeiによって設立されたSan FranciscoのAI企業Anthropicが、米国防総省との関係を絶たれ、最大2億ドルの契約を失う可能性がある。Anthropicは、米国市民の大規模監視や人間の介入なしに標的を選択・殺害できる自律武装ドローンに技術を提供することを拒否したため、トランプ政権によって制裁された。Max Tegmarkは、AIの開発が規制の能力を上回っていると警告し、Anthropicなどの企業が自らの窮地の種を蒔いたと指摘している。
背景情報
- 2021年、Dario Amodeiによって設立されたSan FranciscoのAI企業Anthropicが、米国防総省との関係を絶たれる。
- Anthropicは、米国市民の大規模監視や自律武装ドローンに技術提供を拒否し、トランプ政権によって制裁を受ける。
- Max Tegmarkは、AIの開発が規制の能力を上回っているとして、Anthropicなどの企業が自らの窮地を招いたと指摘している。
今後の影響
– Anthropicは最大2億ドルの契約を失う可能性があり、他の防衛請負業者との取引が制限される可能性がある。
– AI企業は自主規制を約束しながら、実際には規制を支持せず、安全性に関する約束を破っている。
– Max Tegmarkの警告は、AI企業が自らの行動によって将来的なリスクを招く可能性があることを示唆している。
