2022年2月25日18:37
米国のRobust Intelligence Inc.は、 自社で開発するAIの脆弱性を診断するエンジン「RIME」において、インテリジェント ウェイブ（IWI）と販売面での協業をし、国内での展開を促進していくという。
昨今、さまざまな業界にてAIの活用が進んでいる。労働力不足の解消やサービスの生産性および品質の向上のため、AIは今後も多くの場面で利用されていくと考えられる。しかし、AIは問題のある意思決定を行う危険性（AIリスク）を孕んでいる。米国ではクレジットカードの入会審査などの場で、AIによる性差別的な判断が行われたとして、公的機関が介入する大きな問題になった。コロナ禍のデータ変化にモデルが対応できず、AIによる利便性の向上を見込んでいたはずが、結果として多額の損失を生み出してしまう企業も続出しているそうだ。
Robust Intelligenceが提供するAIの脆弱性診断エンジン「RIME」は、そのようなAI活用におけるリスクを削減するソリューションだという。
RIMEは蓄積されたビッグデータから、既存運用中の機械学習モデルやルールの弱点を発見する製品となる。「AI Stress Testing」は、稼働前のAIモデルに何百ものテストを実行して脆弱性を見つけ出すソリューションだ。同ソリューションによりデータサイエンスのチームがモデルの問題点を即座に発見することができる。また、組織全体のAIの品質管理コストを大幅に削減し、モデル開発や改善にリソースを充てることができるようになる。
「AI Firewall」は、運用中のAIモデルを監視・保護するソリューションとなる。重大なエラーを引き起こす可能性のある運用時の入力データを自動的に検知および遮断する。同ソリューションによって本番環境で生成されるAIによる予測の信頼性および品質を維持することが可能だという。
この記事の著者
ペイメントナビ編集部
カード決済、PCI DSS、ICカード・ポイントカードの啓蒙ポータルサイト
