2023年10月26日16:30
SOMPOホールディングス、損害保険ジャパン（損保ジャパン）は、AIの信頼性確保に向けたガイドラインの策定とリスク管理体制の構築のため、Robust Intelligence, Inc.と業務提携を行い、2023年8月から生成AIを活用した業務システムのリスク評価テストを開始した。
損保ジャパンは、生成AIや音声認証、画像認識といったAI技術を活用してさまざまな事業展開を進めている。そのため、損保ジャパンはEnd-to-EndのAIリスク管理ソリューションを提供するRobust Intelligenceと共にAIの信頼性確保の実現を目指す。
具体的には、AIが持つリスクを第三者の視点を入れて継続的に評価し、それらを適切に管理する方法を作り上げることで、安全で信頼性の高いサービス提供を目指す。さらに、AIの利用が広範囲におよぶ現代社会において、SOMPOグループ全体においても公正で透明なAIガバナンスの構築を目指す。
現在、損保ジャパンでは大規模言語モデルを組み込んだ社内照会システムを開発中だ。システムの性能向上のため、同システムで採用している生成AIモデルに対して Robust Intelligenceが提供するプラットフォームを活用し、品質・倫理・セキュリティなどさまざまな観点から設計された多数のテストによるリスク評価を行った。
評価結果とRobust Intelligenceによる分析を通して、生成AIモデルの出力結果の正確性向上のための具体的な対策の検討や、同システムの挙動の特性を踏まえた適切な利用ルールの策定における観点の整理を迅速に行うことができたという。
今回のリスク評価の結果は同システムの改善に活かされるだけでなく、SOMPOグループ全社への展開を見据えたAIガイドライン策定にも活用される。実際に活用しているAIモデルのテスト結果をAIガイドラインに反映させることで、より実効性のあるガイドラインの策定・改定につながり、「テスト→評価→評価項目の反映→テスト」というサイクルを回すことでアジャイルなAIガバナンスの構築を実現できると考えているそうだ。
