生成AIの安全性/利便性向上を目指し「LLM付加価値基盤」開発(NTTドコモ/NTTCom/NTTコムウェア)

2023年8月22日10:00

NTTドコモ、NTTコミュニケーションズ(NTTCom)、NTTコムウェアは、大規模言語モデル(LLM)を活用した生成AIによる社内業務のDX推進や、生成AIの付加価値を高める新たなサービスの提供を目指し、2023年8月21日から生成AIの社内活用を行う実証実験を開始した。

LLM付加価値基盤構成・活用イメージ(NTTドコモ/NTTCom/NTTコムウェア)

同実証実験では、生成AIを活用する際の安全性と利便性向上のためにNTTドコモが開発した「LLM付加価値基盤」をNTTドコモグループ3社で活用する。まずは、NTTドコモグループ3社の全従業員の業務効率化に向けて、例えば、業務における専門性の高い問い合わせに対し、社内ルールやマニュアルをベースにLLMが生成した文章で回答を行うなど、社内業務において同基盤を活用する。また、利便性や回答の正確性を検証し、顧客応対業務などへの適用可否を検討する。同基盤は、今回の実証実験で得られたノウハウをもとに最適化を行い、法人顧客との検証を経て、2023年度中のサービス提供開始を目指す。さらに同基盤を、ドコモが保有するビッグデータや音声認識/画像認識などのAI技術と組み合わせることで、法人顧客とともに新たな付加価値サービスの検討を開始するそうだ。

さまざまなユースケースにおいて生成AIの活用が進む一方で、企業の利用時には、情報漏洩につながる懸念や、大規模データゆえの正確性の担保の難しさなどの課題がある。また、差別・暴力表現や社会規範に反する表現などの不適切回答から利用者を守り、安全に生成AIを活用するための仕組みが必要だ。

同基盤はこれらの課題に着目し開発したもので、プロンプト入力時に回答の元となるマニュアルなどのファイルを追加で投入すると、ファイルの内容を元に回答を生成し、回答にファイル内のリファレンスを表示する機能などを備えている。さらに、機微情報の外部送出フィルタリング機能やLLMからの不適切回答のフィルタリング機能を追加するなどし、安全性を向上させる基盤の提供を目指す。また、本基盤はAzure OpenAI Serviceと連携して利用可能だが、今後はNTT研究所が独自開発する分野特化型のLLMをはじめ、オープンソースソフトウェアや各ベンダが提供するLLMを活用し、ユースケースに合わせさまざまなLLMを選択して利用できる基盤として拡張していくという。

関連記事

ファイナンスニュース最新情報

ペイメントニュース最新情報

PAGE TOP