「閉域化」と「学習しない仕組み」で、生成AIを安全に利用できる

※下記は自治体通信 Vol.53(2023年10月号)から抜粋し、記事は取材時のものです。

今年4月、『ChatGPT』を開発したOpenAI社のサム・アルトマンCEOが来日し、岸田総理と意見交換したこともあり、自治体においても生成AIの注目度は高まっている。そうしたなか、自治体に対して生成AIの導入支援を行っているディープコム代表の深田氏は、「生成AIは業務効率化が期待できる一方で、実際に業務で活用するとなると安全面でリスクがあるので、利用法には注意が必要」と話す。同氏に、解決法も含めて詳細を聞いた。

あらゆる事務作業において、活用が期待されている

―生成AIの導入を検討する自治体は増えているのでしょうか。

　非常に増えています。実際当社でも、規模に関係なく約60自治体から生成AIに関する問い合わせがあり、順次導入支援をしているところです。生成AIは、入力されたプロンプト*に応じて、学習した情報を基に人間が作成するようなテキストやプログラムなどを自動で生成するAIです。このAIを活用すれば、多くの自治体が抱える業務課題を解決できるのでは、と期待する首長や自治体職員が増えているのだと見ています。

―どのような業務課題が解決できますか。

　これまで以上に少ない職員数で、住民ニーズに応え続けていかなければならないという業務課題です。これは現場の方々が実感していると思いますが、住民ニーズが多様化・複雑化している一方で、財政健全化や労働人口の減少により職員数は減っていくことが予測されています。そのため、現場はDX推進も含めて、さらなる業務効率化を図っていく必要があるのです。DX推進の手法は多々ありますが、特に生成AIの活用は自治体職員の業務改善に大きく寄与する可能性を秘めていると言えるでしょう。

―なぜ、そう言えるのですか。

　自治体業務の大半は事務作業であり、あらゆる業務で生成AIを活用できる可能性があるからです。たとえば生成AIは、「文章作成補助、校正」「条文や議事録の要約」「政策を企画立案する際の情報収集」「庁内に点在している資料の統合、ナレッジ化」といった業務に活用できます(下図参照)。そして、あくまでこれらはごく一例にすぎません。生成AIによって自治体職員は煩雑な事務作業から解放され、より住民サービスの向上につながるコア業務に集中できるようになりうるのです。

　また、ある自治体職員からは「住民の一次窓口対応に生成AIを使ってみたい」という声もあり、事務作業だけではなく、窓口での活用も想定できるでしょう。

　一方で、自治体が生成AIを活用するうえでの課題もあります。

*プロンプト : ユーザーが生成AIに入力する指示や質問のこと

運用方針で、入力情報を制限するケースも

―どのような課題でしょう。

　「生成AIを業務に活用すると情報漏えいするのではないか」と、懸念する人が多いことです。たとえば、利用者が入力した情報がインターネット上に流出したり、入力した情報を学習した生成AIがほかの利用者の回答に使ったりして、情報漏えいするというリスクへの懸念です。これは自治体に限らず、世間一般の多くの人が抱いている懸念でしょう。そのため、事務作業に生成AIを活用するための実証実験を行っている自治体では、「生成AIに機密情報を入力しない」といった独自の運用制限をかけているケースが見られます。しかし、そのような運用方針を取り入れるのは、生成AIを活用するうえで、あまり得策ではないと我々は考えています。

―それはなぜですか。

　結果として、生成AIの利用範囲を狭めてしまうことになるからです。生成AIは学習すればするほど、回答の精度が上がるのが特徴のひとつです。そのため、庁内で定められている規定などを学習させれば、その自治体が求めている精度の高い回答が得られるようになります。しかし、学習させる内容を限定してしまえば、ある意味どこの自治体でも使えるような通り一遍の回答になってしまいます。すると職員が、「生成AIはあまり業務に使えない」と判断するようになります。結果、そもそも生成AIの業務活用に対するリスクを感じている自治体も含めて、いつまで経っても生成AIの普及が進まないという状況を生み出しかねません。これは、生成AIがもたらす業務効率化の可能性を考えると、非常にもったいないことだと言えるでしょう。

クラウドサービスとの連携で、入力情報を保管・検索

―解決策はありますか。

　ポイントは、いかに安全性を担保した運営を行っていくかということです。オープンソースの生成AIをそのまま活用すれば、確かに情報漏えいの可能性はあります。そのため当社では、『Azure OpenAI Service』を活用した生成AIの運用を推奨しています。これは、Microsoft社が提供しているクラウドサービスであり、『Microsoft Azure』にてオープンソースの生成AIを利用することができます。『Microsoft Azure』は閉域化された環境のため、入力したデータがインターネット上に流出することはありません。また、入力した情報はAIの学習には利用されない仕組みであるため、生成AIがほかの利用者の回答に使うこともないのです。

　我々が提供している、ビジネス用生成AIアプリケーション『BizCopilot Powered By ChatGPT(以下、BizCopilot)』では、 『Azure OpenAI Service』を活用してOpenAI社のGPTシリーズを運用することで、安全性を担保しているのです。

―AIが学習しないのであれば、得られる回答の精度が上がらないのではないですか。

　『BizCopilot』では、別の方法によりその問題を解消しています。具体的に言うと、『Azure Cognitive Search』というMicrosoft社のクラウド検索サービスを使い、そのなかに庁内情報を蓄えて生成AIと連携させるのです。そうすることで、生成AIは必要に応じて『Azure Cognitive Search』から庁内情報を検索し、プロンプトへの回答に使えます。

　こうしたサービスの提供ができるのも、当社がMicrosoft社の提供する製品の取り扱いに精通しているからこそだと言えます。実際に当社には、「マイクロソフト オフィス スペシャリスト」の資格を所有する開発者が多数在籍しているほか、Microsoft社のパートナープログラム「Microsoft Cloud Partner Program」の 「Solutions Partner」に認定されました。

　さらに『BizCopilot』では、自治体の生成AIの利用を促進していくための支援策があります。

「AI格差」をなくすため、基盤を無償で提供

―具体的に教えてください。

　当社が自治体に、『BizCopilot』の基盤を無償提供することです。我々は自治体が生成AIを導入していくうえで、5つのステップがあると考えています。ステップ1は、生成AIを利用するうえでセキュアな環境を構築すること。ステップ2は、生成AIの実運用に向けたシステム開発です。ステップ3は、生成AIとのやりとりのログを、いつでも確認できるように保存する機能をつけることです。これらのステップをICTの知識をもった職員自ら進めることも可能ですが、『BizCopilot』では既存機能として対応しています。

　ここまでは、当社が無償で対応し、以降のステップは有償オプションで提供します。

―どのようなオプションを提供しているのでしょう。

　ステップ4では、庁内情報を保管、検索できるように支援しています。こちらは、さきほど紹介した『Azure Cognitive Search』を活用して実現させます。ステップ5では、より高度な活用ができるようにオーダーメイドで支援します。たとえば、システム内に住民からの問い合わせ履歴を蓄えたうえで、HP上で住民からの問い合わせに『BizCopilot』が自動回答するシステムを作成し、一次対応を行う支援などが可能です。

　ステップ4、5の支援は有償ですが、自治体が自前で構築したり、ベンダーに依頼したりするより、手間とコストを抑えられます。

生成AIの普及支援で、地方創生に貢献したい

―なぜ、ステップ3までを無償で提供するのですか。

　地方創生に貢献するためです。当社は会社の方針として地方創生を掲げ、地方の学生を積極的に採用するなどの活動を行ってきました。そして、『BizCopilot』に対する自治体からの問い合わせが多かったため、「自治体には無償で提供する」と決定。そうすることで、予算規模の違いにより発生してしまう、自治体間の「AI格差」がなくなればという考えもあったのです。

　自治体が先導役となれば、地元の中小企業にも生成AIの普及が進むことが期待できます。その結果として、地域DXにも貢献できると我々は考えているのです。「生成AIの導入を検討したいが予算がない」「どのように導入すればいいかわからない」場合は、ぜひご相談ください。