日本企業のIT活用とデジタル化 － IT活用実態調査の結果から第19回 AI活用のリスクに対処する上で企業に求められる取り組み

株式会社野村総合研究所では、2003年より毎年、売上高上位の国内企業約3000社を対象に「ユーザ企業のIT活用実態調査」を実施しています。この連載では、最新の調査から、いくつかの設問をピックアップして集計結果をご紹介します。日本企業のIT活用動向を知るとともに、自社のデジタル化および情報化の戦略を考える一助としてご活用ください。

注目される調査結果のエグゼクティブサマリーはこちら

AIの活用は業界を問わず進んでおり、AIを用いた業務効率化やコスト削減、顧客体験の向上に取り組む企業も増えています。一方で、その活用には従来とは異なるリスクが存在するため、リスク管理のあり方に悩む企業も多いでしょう。

本調査では、企業がAIを活用する際に生じるリスクに対処するためにどのような施策を実施しているかを複数選択式で尋ねています。その結果、AI活用に関する国内外の法令やガイドラインなどを調査している企業が49.6％と最も多く、次いでAIが関わるシステムを利用する際のリスクに対処するための社内規則やガイドラインを定めている企業が42.3％、AIを活用する際に考慮すべき原則を記した基本的な方針を定めている企業が40.9％でした。回答数が多いこれらの施策は、ChatGPTなど社外から提供されるAIシステム・サービスを利用する際に不可欠なものです。

図　AIを活用する際に生じるリスクへの対処

AIに関する法令やガイドラインについては、日本では経済産業省と総務省のAI事業者ガイドライン、EUでは包括的な規制であるEU AI Actがあり、こうした国内外の動向を調査することがAI活用における第一歩と言えます。このような調査は、AI活用におけるリスクを理解し、適切に対応するための基盤を築くために重要です。
また、社内規則やガイドラインの制定は、従業員がAIを活用する際に想定されるリスクを低減するために必要です。これにより、企業は従業員が安心してAIを活用するための環境を整えることができます。
基本的な方針の制定は、社内だけでなく社外に対してもAI活用に対する企業の姿勢を示すために重要であり、ステークホルダーからの信頼獲得に繋がります。

一方、デジタル化に伴い、チャットボットなどのAIシステム・サービスを自社で開発し、顧客に対して提供する企業が増加することが予想されます。この場合、AIシステム・サービスのリスクを正しく評価し、適切な対策を実施することが求められます。これらを怠った場合、企業としての信用低下や訴訟問題、事業の停止などにつながる可能性があります。

このようなリスクを評価する上では、ナレッジの集約による精度向上が重要です。様々なAIシステム・サービスに対するリスク評価を通して、リスクの特性に関するナレッジを蓄積することで、リスク評価の精度を向上できます。こうしたナレッジの集約のためにも、全社横断的な会議体や組織の管轄下でリスク評価を実施することが望ましいと考えます。

しかし、AIの活用におけるリスクを評価し判断する会議体や組織を設置している企業は、未だ6.7％にとどまっており、今後必要に迫られる企業が増えていくと考えられます。

AIの活用におけるリスクとして、例えば、情報漏洩などのセキュリティリスク、開発委託先でのトラブルなどのガバナンス体制リスク、個人情報保護法違反などの法令に関連するリスクが挙げられます。これらを評価するためには、IT・デジタル部門、法務部門、総務部門などの複数部門の人材により構成される体制が必要です。
このような体制を整えることで、起案されたAIシステム・サービスへのリスク評価と対策検討、リリース後のリスク評価の継続的な見直しと対策の更新を実施することが可能になります。また、ガイドライン類の整備や従業員教育、出力結果の公開に関する審査など、リスク管理を含めたAIガバナンス全般の推進も期待されます。

異なる専門知識を持った人材が協力することで、幅広い観点からリスクを評価し、対策を講じることができます。一方で、異なる専門領域からの意見が対立することもあるでしょう。例えば、AIシステム・サービス利用時のログを取得するべきという技術的な観点からの意見に対して、利用者のプライバシーを侵害する可能性があるという法的な観点から反論が出る場合があります。このような場合、まずログを取得する目的とその重要性を体制内で共有する必要があります。その上で、プライバシーを考慮し、ログとして取得する情報の種類や範囲を定義し、ログ取得について利用者から同意を得る必要があるでしょう。これにより、技術的・法的双方の観点を満たす形で、合意形成を図ることができます。
AI活用が拡大するこれからの時代において、企業がAIを最大限に活用するとともにリスクを最小限に抑えるためには、適切なリスク評価に基づいた対策の実行が不可欠です。様々な観点をもとに適切な対策を講じることのできる体制の構築が、企業のAI活用におけるリスク管理を成功に導く鍵となるでしょう。

前のページ：日本企業のIT活用とデジタル化－ IT活用実態調査の結果から
第18回生成AI活用において、企業が直面する課題と求められる対応