要約
デロイトがオーストラリア政府に提供した44万ドルの報告書が、架空の参照文献や研究、裁判の判決を含むAIによる偽の情報で汚染されていたことが発覚。AIはコンサル業界を変えただけでなく、監査の必要性を再認識させる出来事。
背景情報
- 2025年、デロイトがオーストラリア政府に提供した報告書にAIによる偽情報が含まれていたことが判明。
- デロイトなどのビッグフォーは客観性の幻想を築き、AIがこの幻想を産業化させた。
- 政府はこれらのファームに国家インフラなどの重要分野の評価を委託しているが、その手法について検証していないケースが多い。
今後の影響
AIによる信頼性への疑念
- AIが生成した信頼性のある情報が人間の専門家のように提示されることがリスク。
- 2023年以降のコンサル報告書はAIによる偽情報の再監査が必要。
- 偽情報が公的記録に入ると、法律や政策の根拠となり、現実世界に影響を与える可能性がある。
政府の対応策
- AI支援セクションの完全な透明性の確保。
- 政策への採用前の第三者検証の義務化。
- 使用された生成ツールと監査ログの公開。
- これらの対策が取られない限り、ビッグフォーは疑似真実を大量生産し、それに対して報酬を得続けるだろう。
