カードセキュリティ最新情報, カードセキュリティPCI DSS, ペイメントニュース

生成AI特有の新たなサイバー脅威に対抗するセキュリティソリューション「AiFort」を提供（KELA）

2024年4月30日7:10

サイバー脅威インテリジェンスを提供するKELAは、生成AIセキュリティソリューション「AiFort（エーアイフォート）」を発表し、2024年4月19日より国内販売開始した。

「AiFort」は、生成AI /大規模言語モデル（LLM）をセーフティ、セキュリティ、プライバシーの3つの観点で保護するために、AIモデル学習用データセットや模擬攻撃などを提供する。開発から運用までMLOpsライフサイクル全般をカバーし、安全な生成AIモデルを構築・運用できるよう支援するそうだ。

「AiFort」は、アンダーグラウンドの犯罪社会を常時監視することで収集・蓄積した膨大なデータに基づいているのが特長で、実際の犯罪の背景にある情報や、最新の脅威動向が反映されているので、より現実的な対策を講じることができるという「AiFort」を継続的に利用することで、犯罪のトレンドや犯罪の新技術に追随することができ、生成AIを利用したシステム/サービスのセキュリティレベルを維持することが可能だ。

具体的には、最新の脅威動向や犯罪技術などを反映した「AiFort Data」を利用して、生成AIモデルに学習させることで、セキュリティを強化することができるという。例えば、ジェイルブレイクの手口を学習させることで、AIチャットボットによる暴力的な発言や誤情報の流出などの脅威リスクを回避することが可能だ。

また、AIモデルの脆弱性やセキュリティリスクがないかどうか、信頼性と安全性を診断するための、脅威インテリジェンスに基づくアドバーサリーエミュレーション（攻撃模倣プログラム）を提供する。利用ユーザーが簡易な操作でテストプランを作成し、プランに基づいて「AiFort Red」が模擬攻撃を実行し、ユーザーは分析・診断結果をダッシュボードで把握できる。

さらに、「AiFort Red」がレッドチームを支援することで、テストを効率化し、テスト漏れを低減させる。「AiFort Red」で、安全性を確認・検証することで、例えば、AIチャットボットやAIヘルプデスクなどのAIアプリケーションを、安全性に⾃信を持って導⼊できるようになるとしている。運用開始後も継続的に診断を続けることで、システム/サービスのセキュリティレベルを維持するのに役立つ。

加えて、2024年中にAiFort Protect /プロンプトフィルタリングを提供開始予定だ。これは、悪意のある不正なプロンプト入力をリアルタイムに検知・通知し、プロンプトインジェクションやデータ漏洩、ハッキングなどの不正行為を防ぐことができるという。生成AIを用いたシステム/サービスの運用開始後、生成AI向けのファイアウォールのように機能するという。