AIリスクによるビジネス損失は他人事ではない

生成AIは業務効率を劇的に高める反面、特有のリスクを抱えています。前回のコラム^※1でもお話ししたように、AIの回答には事実と異なる情報、法令で保護される機密性の高い情報、差別・偏りの情報が含まれるなど、品質上の大きな問題があります。このため社内でAIの本格的利用が広がっていくほど、誤情報に基づく意思決定や機密情報の外部配布、他社の著作権・商標権の侵害、個人情報保護違反といったインシデント(事故やその予兆)の発生可能性は高まります。その結果、大きなビジネス損失につながる可能性が高くなっていきます。

米国の大学による調査結果によると、AIリスクによるインシデントの発生件数は毎年50～100％の勢いで増えています。インシデント件数が増えると、企業のブランド毀損や信用失墜に加え、訴訟による賠償金や制裁金などで多額の損失が生じる可能性が高まります。最近の大手コンサル企業の調査結果を見ると、多くの企業でAI関連リスクによる損失が発生していることが示されています。例えば、規制違反による罰金やコンプライアンス上の失敗を経験している企業は6割近く、不公平なAI出力が原因で企業の評判低下や訴訟を受けた企業も5割を超えます。法令違反や個人情報漏洩のような報告義務がある事案を除けば、こうしたビジネス損害例は必ずしも表に出てこないため、実態はさらに深刻だと考えられます。今や、AIリスクによるインシデント発生は他人事とは言えない状況となっています。

AIリスク特有のガバナンス整備が急務

AIガバナンス整備の実践的な進め方

そもそもAI工程には、AIサービスの導入・更新時の試験・評価工程や回答生成時の品質検査の工程がないことは前回のコラムで説明しました。これらを技術的に補うことは難しく、その工程を担うのがAIガバナンスと見ることができます。 AIガバナンス整備をこれから着手する企業が、優先して取り組むべき事項は下記3つのルール／規定です。

図表2：AI工程と実践的AIガバナンス

未だAI利用ガイドラインが策定されていない企業は、この整備が最優先となります。社内AI利用者が、本質的なリスクと起こり得るインシデントについて正しく理解し、AIリテラシーを高めることが目的です。AI全般に関する問い合せ窓口などもガイドラインに記載します。個別のAIサービスの操作方法や具体的なOK／NG事例などは、各AIサービス利用マニュアルで扱い、新規導入や更新毎に改訂していきます。
次にAIガバナンス整備のために行うべきことは、教育・周知に関する規定の策定とその実行です。まずは、教育・周知カリキュラムの計画・実施・評価を行う体制とプロセスを規定します。その上で、全社員を対象としたAIガイドラインについて教育・周知し、社員のAIリテラシーを向上させます。
そして、3番目に行うAIガバナンス整備が、新規導入・更新・監視・監査に関する規定です。新たなAIサービスの導入や更新を行う場合の申請・審査・承認プロセスを定め、導入後の監視・監査を担う部門やチェック内容を設定します。リスクの高いAI導入や契約を未然に防ぐだけでなく、利用状況を監視して、リスク実態を監査し、継続利用の是非を判断します。

企業内でAI利用が広がる一方、世の中ではAI事故や規制違反が急増しています。ガバナンスなきAI利用は投資効果を損ない、ビジネス継続を脅かしかねません。早急にAIガバナンスを整備し、安全な運用基盤を確立していくことをお勧めします。

ご参考
＊1 : AIの「品質不良」にどう向き合うか？-ヒントはものづくりにあり