ChatGPT・生成AIの導入で陥りやすい失敗とは？

ChatGPTをはじめとした生成AIにおいて、企業における導入が増えております。一方で、導入において失敗する場面も多く、苦慮する企業も出てきました。そこで本記事では、ChatGPTなどの生成AIを企業が導入する際に陥りやすい失敗を解説します。事前に失敗する事例や原因を把握しておき、対策をとっておきましょう。

目的が不明瞭

企業がChatGPTや生成AIを導入する目的は、きちんと定まっているのでしょうか。なぜ導入する必要があるのかを明確にしなければ、計画は正しい方向に進みません。ありがちな目的におけるありがちな失敗例を紹介します。

他社が導入しているから

同業他社がChatGPTや生成AIの導入を発表すると、まだ導入していな自社が遅れていると思われてしまいます。そこで導入を決めるものの、それだけでは明確な目的になりません。その結果、ゴールが見えずに迷走してしまいます。また、他社の導入事例と同じことを行っても、自社では思わぬトラブルが起こったり、期待した成果が出ない場合もあります。単純に同じ成果が得られるとは限らない点に注意してください。

話題になっているから

2022年10月にChatGPTが発表されてから現在に至るまで、常に話題になってきました。もちろん経営者にとっても例外ではなく、セミナーや会食で話題に上がることも多いでしょう。そこで話題になった事を理由に社内で議題に出すと、そのまま導入が開始されます。しかし、話題性だけでは目的が決まらず、何をすればいいのかわかりません。流行に左右されず、まずは本当に自社にとって必要であるかを判断すべきでしょう。

何ができるかを把握していない

ChatGPTや生成AIにおいて、どのような事ができるでしょうか？本来は「〇〇をやりたい」「〇〇の業務を改善したい」などの目的に対して、できることを当てはめて計画を進めるべきでしょう。ここでChatGPTや生成AIのできることを把握していなければ、やるべきことが決まりません。まずは「何ができるか？」について、調べるべきです。実際にChatGPTや生成AIでできることは限られていますし、逆に機能追加やバージョンアップで新しい事ができるようにもなります。常に動向は把握しておきましょう。 

用途に合わない

ChatGPTや生成AIは、「何でもできる魔法の杖」のように誤解されがちです。もちろん便利な道具ではありますが、不可能を可能にするものではありません。むしろ用途が限定されたり、他の道具のほうが適切な場合もあるでしょう。間違いやすい失敗事例を紹介していきます。

不向きな用途に利用する

ChatGPTや生成AIの欠点として、回答における間違いがあります。これは質問や指示に対して、さも正しいと思える回答をする「ハルシネーション（幻覚）」という現象を起こすためです。そのため、ChatGPTや生成AIは間違いを起こすと大きな問題を起こす業務には不向きです。間違いがあっても、人間が確認したり修正できる範囲で利用しなければ、大きな事故にもつながるでしょう。逆にChatGPTや生成AIが得意とする分野もあるので、こちらは人間以上の性能を期待できる場合もあります。ここでもどのぐらいの精度や成果が必要になるかによるので、注意が必要です。

他の道具の代替品にする

ChatGPTや生成AIは質問に答えてくれるので、インターネットの検索やチャットボットと似たような機能と思われがちです。また、「ChatGPT」と「Chatbot（チャットボット）」で呼び方やっ表記が似ているので、誤解する人もいます。しかし、何かを調べる場合でもインターネットの検索が便利で正確な場合もあります。また、最新情報や専門的な知識などはChatGPTや生成AIが苦手とする分野です。チャットボットにおいても、事前に学習をしたり、必要な質問と答えを準備するなどの手間を考えると、代替品になるとは限りません。安易に今あるものをすべてChatGPTや生成AIに置き換えようとせず、適材適所を心がけましょう。さらに切り替える手間を考慮すると、そのままで問題ない場合も想定されます。本当に切り替えるべきかは、慎重に検討すべきです。

コスト削減だけが目的

ChatGPTや生成AIに限らず、IT製品の導入にはコスト削減を最優先とする傾向があります。導入によるコスト削減を目指しても、そこに至るまでは作業を行うエンジニアの人件費や時間もかかります。さらに導入後も利用回数やデータの通信量に応じて費用がかかるため、一定の費用がかかります。前述の間違いを防いだり監視する仕組みを準備すると、さらに費用がかさみます。導入することで本当にコスト削減につながる点について、根拠を調べてから導入すべきでしょう。さらにどのようにChatGPTや生成AIを使うべきかを考えると、上流工程や要件定義を担当するコンサルタントに依頼する費用もかかります。導入して使えるようにするまでは思った以上に費用と時間がかかるでしょう。

社内で準備ができていない

ChatGPTや生成AIを導入するには、人材や組織において受け入れて活用する準備が整っていない場面が見受けられます。あくまでChatGPTや生成AIは道具であり、道具は使う人間によって価値が変わります。自社で本当にChatGPTや生成AIを導入して使える環境が整っているかを把握しておきましょう。

詳しい人材がいない

ChatGPTや生成AIはここ数年で普及した新しい分野のため、詳しい人材が限られています。社内に都合よく詳しい人材がいるとは限りません。そこで1から育成するにしても、研修やトレーニングを行うには時間も費用もかかります。外部から人を採用するにしても、詳しい人材は他社でも不足しているのでよほどの好条件を提示しなければ採用するのは難しいのが現状です。一方で詳しい人材がいなければ導入が進まないので、結果として計画がまとまらないという失敗に陥りがちです。

社外に委託している

社内にChatGPTや生成AIに詳しい人材がいなくとも、業務システムを委託している社外のIT企業があります。しかし詳しい人材が不足してるのは外注先のIT企業においても同様なので、従来から委託してきた業務システムと同じ感覚で依頼できません。なぜなら従来のシステム開発とChatGPTや生成AIは異なる点も多く、まだノウハウが蓄積されていないという背景もあります。そのため従来と同じ感覚で導入を始めた結果、予期せぬ問題が起こって予算やスケジュールを超過するなどのトラブルがあります。また、社内に詳しい人材がいなければ、外注先の提案や開発状況を正しく把握できません。そのためトラブルが顕在化するまで気付かない場合もあるでしょう。

社内の合意が得られていない

ChatGPTや生成AIに対する印象は人それぞれなので、「AIが自分の仕事を奪う」「AIは間違いだらけで使い物にならない」のような否定的な意見を持つ人もいます。あるいは「AIがあればなんでもできる」という過度な楽観視をしたり、「自分には関係ない」と関心を持たない人もいるでしょう。社内でChatGPTや生成AIにおける導入において、積極的な賛成が得られていないと、こうした人から反対される可能性が高いです。また、誤解されたり協力してもらえないなどの問題も起こるため、社内におけるChatGPTや生成AIに対する意見を事前に調べておくのが重要です。

ChatGPT・生成AIの導入は準備が9割

ここまで、ChatGPTや生成AIの導入における失敗事例を解説してきました。これから導入を進める企業において起こりやすい失敗でも、事前に準備をしておけば回避することができます。自分の会社で検討が始まったら、まずは社内の状況と失敗事例を照らし合わせて準備を進めて下さい。事前に入念な準備を重ねておけば、よくある失敗パターンを回避できるでしょう。 

記事で紹介した失敗事例に加えて、会社でChatGPTや生成AIを導入するために必要な準備をまとめた本があります。本「会社でChatGPT」においては、導入前の準備だけでなく活用法や導入済み企業（ライオン・ベネッセ・住友生命・三井住友海上）へのインタビューも掲載しています。

「会社でChatGPT」を読んでおけば、失敗への回避策だけでなく導入後の活用法も理解できるでしょう。

・執筆者プロフィール
マスクド・アナライズ（AI コンサルタント）

 AIスタートアップ社員として、AIやデータサイエンスについてSNS による情報発信で注目を集める。
同社退職後は独立し、企業におけるChatGPT 及び生成AI の導入活用やDX（デジタル・トランスフォーメーション）を支援している。
企業研修において、JR西日本、シーメンスヘルスケア、日立製作所などの実績がある。
イベント登壇はソフトバンク、特許庁、マクニカ、HEROZを含めて多数。
記事連載はITmedia NEWS、ASCIISTARTUP、Business Insider Japan、エンジニアtype など。解説動画として地方創生カレッジ（内閣府）、NewsPicks Learning に出演。東京大学と武蔵野大学にて、特別講義を実施している。
著書に「会社で使えるChatGPT」「データ分析の大学」「AI・データ分析プロジェクトのすべて」「これからのデータサイエンスビジネス」がある。

本「会社で使えるChatGPT」のAmazonへのリンク
https://www.amazon.co.jp/dp/4492047794