2023年の流行語にもなった生成AI (ChatGPT)ですが、私の観測範囲ではWeb系やスタートアップ界隈では使わないことはありえない境地に達している一方で、全く使っていない企業もあるように二極化しているような印象を受けています。今回の記事ではまだ始められていない企業がどうやってChatGPTを社内に導入し、その先にある価値の創出まで辿り着けるかという道筋を独断と偏見でまとめていきたいと思います。
- 本ブログは生成AI(ChatGPT)を社内に導入していく道筋を独断と偏見に基づいて記載したもので、権威的なドキュメント等を参考にしたものではありません。
- 当然、企業の置かれている状況ごとに進め方は異なります。参考までに見ていただけたら幸いです。
全体像
- ポリシー・ガイドライン策定
- 安全に「素のChatGPT」を使える環境を作る
- より特化したユースケースや生成AIで効率化したい業務の検討
- 生成AIが組み込まれたSaaSの導入検討
- PaaS/iPaaSで利用する生成AIの導入検討
Step1. ポリシー・ガイドライン策定
AIツールの中には、入力されたデータがモデルの学習に利用される可能性があるものもある等、投入するデータ等に対して注意が必要です。そのため、自社の情報をどのように扱うか、どの情報をどのツールに入力して良いかを明確に定義する必要があります。また、個人情報保護法や著作権の問題にも注意が必要です。これらを規定に含めることが生成AIの取り組みの第一歩です。
ポリシー作成には様々な観点がありますが、民間企業や各種組織が生成AIを利用する場合に組織内のガイドラインとして最低限定めておいた方がよいと思われる事項を参考として示した資料が公開されているので、このような資料を参考にすることがおすすめです。個人的に参考にさせていただいているのは日本ディープラーキング協会が発行している「生成AIの利用ガイドライン」です。ぜひ参照してみてください。
Step2. 安全に「素のChatGPT」を使える環境を作る
まずは、従業員が「素のChatGPT」を安全に使えるような環境を作ることがお勧めです。最近だと、さまざまな自社データを大規模に取り込んだ事例が登場しているので、そちらに目移りしてしまう気持ちも分かります。しかし、全てのシステム導入がそうですが、導入するユースケースを誤ってしまうと、完成するシステムが満足できないものとなる恐れがあります。
そのため、まずは安全に「素のChatGPT」を使える環境を作り、それを実験場とすることが望まれます。その方法としては、SlackやMicrosoft TeamsのようなチャットツールでChatGPTを利用できるようにすることが挙げられます。また、Microsoft Copilot（旧：Bing Search Enterprise）を使って、生成AIに慣れる方法もあります。個人的には、SlackやTeamsを使う方法をオススメします。これにより、他の人も利用状況を見ることができ、ChatGPTを使って何ができるかを実験し、その結果を共有することが簡単だからです。
Step3. より特化したユースケースや生成AIで効率化したい業務の検討
社内に「素のChatGPT」を導入し、従業員がそれに慣れた後に、特化したユースケースや効率化を図りたい業務を検討するのが地に足のついた戦略だと捉えています。通常のシステム導入では、ユースケースの検討が初期段階で行われることが多いですが、ChatGPTの場合は「とりあえず触ってみてから」「自社のデータを投入してから」考えるのがお勧めです。
ChatGPTはまだ新しいサービスであり、企業内のどのユースケースに最適かは明確ではありません。そのため、最初は「素のChatGPT」を用いて実験することが重要です。この実験を通じて、どのタスクにChatGPTを効果的に活用できるか、またどのタスクには不向きかを判断することができます。
また、小さなタスクから始めることも重要です。90点100点の成果が求められる業務にて、完璧な成果を期待するのではなく、40点程度の成果で満足できるような業務にChatGPTを導入することが、失敗リスクを減らすことに繋がると考えています。
「素のChatGPT」を使った実験ではとりあえず様々なケースを生成AIでやったらどうなるかという「生成AI脳」で検証することが望ましいと考えています。Step3以降では「このタスクは生成AIにやらせるべきか？」という点を慎重に考えて、必要に応じて別ソリューションの導入（あるいは別のことをやる）ということが望ましいのではと考えています。
Step4. 生成AIが組み込まれたSaaSの導入検討
特化したユースケースや生成AIで効率化を図りたい業務が明確になったら、次のステップはそれらの業務が生成AIを活用したサービス（SaaS）で解決可能かどうかを検討することです。最近、多くの製品にChatGPTを含む生成AIが組み込まれており、これらを活用することがエコな選択肢となる可能性があります。（まだ登場して間もないので、もう少し時間はかかるかもしれませんが）
特に、生成AI領域では、変化のスピードが非常に速いです。そのため、大規模なシステムをゼロから構築すると、そのシステムが完成する頃には、すでに対応したサービスが出現している可能性があります。このようなリスクを避けるためにも、既存のSaaS製品を利用することが賢明です。余談ですが、政府が掲げる「クラウドバイデフォルト」原則等1でも、SaaSからの検討を推進する方針となっています。これはAIと直接関連はありませんが、可能であれば作らずに素早く導入することで迅速な導入と、素早い成果につながります。
Step5. PaaS/iPaaSで利用する生成AIの導入検討
もし、生成AIが組み込まれたSaaS で、目的は達成できないのであれば、作り込みをせざるを得ません。 その中でも小さく作っていくということが非常に大事になってきます。 そのためのソリューションとして、個人的には以下のようなソリューションを順々に駆使して実施していくことをお勧めしています。
Azure OpenAI – On your Dataを使った初期プロトタイピング（検証）
Azure OpenAI – On your Data ノーコードで自社データを組み込んだAI（RAG）を構築できるツールです。Azure OpenAI – On your Dataを を実施するのに、専門知識は不要で、読み込ませたデータをアップロードするだけでも検証が可能となっています。 もちろん、Azure OpenAI – On your Data では、高い精度を誇るシステムを構築する事はなかなか難しいので、このシステムを本番関係で利用する事は無いかもしれませんが、プロジェクト開始当初の初期の検証やプロトタイピングに適してると思っています。
Azure OpenAI – completions-extensions API × Logic Apps を使ったプロトタイピング
初期の検証が終わったら、 自社のシステムの中に組み込んでいくかの検討をしていくことになると思います。 そこで役立つのがAzure OpenAI – completions-extensions APIとLogic Appsです。Azure OpenAIへのリクエストにAzure AI Searchのエンドポイント等の情報を含めておくことで、 Azure OpenAIが 勝手にユーザからの質問に対して回答するための情報を探してきて、 その情報をもとに回答します。
また、 API単体だと、なかなか ユーザに使ってもらうレベルまでのシステムチェックすることができませんが、そのAPIと既存のシステムをつなぐ役割を果たすのがLogic AppsのようなiPaaSです。 当社では、SlackやTeams等のシステムからiPaaSを通じて、Azure OpenAIを実行できるようにしており、フロントエンドのシステム開発をすることなく、生成AIの恩恵を得られるようにしています。
精度向上のための取り組み
プロトタイピングが終わったら、限られたユーザ等で試験をすることが考えられます。そこで、ある程度手応えを掴んだら、本番導入に進んでいくことになりますが、同時に精度向上にも向き合わなければなりません。精度向上の取り組みを上げたらキリがないですが、いくつかピックアップしてご紹介します。
RAGの自前実装
Completions extensions API は 初期のプロトタイピングには便利ですが、 裏側の処理が決められていることから細かいチューニングができません。そのため、Logic AppsからAzure AI Searchに 検索をかけて、 その結果を受け取って、Azure OpenAI に投げるなどの自慢実装が必要になってくる可能性があります。
また、必要に応じてPrompt Flow2や Azure Functions3を使った作り込み も必要になってくる可能性があります。 開発者がいるのであればそれもいいかもしれませんが、 普段あまり開発をやっていない情報システム部門の方がやるには引き続きLogic Apps等のiPaaSを使っていくことがいいのかと個人的には考えています。
データ整備
生成AIに対して、自社データを組み込む取り組み（RAG） をやっていると、いかにGPT-4が賢いとはいえ、ゴミデータを入れても、ゴミのような結果しか入ってこないような現実を知ることになります。 これまでのシステム開発でもそうでしたが、 良い成果を出るためには良いデータが必要となります。
業務プロセス・バックエンド処理への組み込み
ユーザー起点で生成AIを使うのもいいですが、業務プロセスへの組み込んで利用したり、バックエンド処理に組み込むことで、さらに効果を最大化できる可能性があります。ここでも役立つのがiPaaSであり、iPaaSを使って構築した業務フローの中の1つのパーツを生成AIに置き換えてあげることが考えられます。
Step1〜5. 教育・啓蒙活動は継続的に
ChatGPTが登場してから、まだ1年程度しか経っていないこともあり、ChatGPTを有効に使える・使えないという観点で、ユーザーごとに濃淡があるように思っています。 使う人は勝手に使うますけども、 今まで使ったことなかった方が正しく使う・ 使ってちゃんと価値を出すレベルまで達するには教育・啓蒙活動は不可欠だと考えています。恥ずかしながら、今年はスクラップ&ビルドを繰り返して、 個人的にあまり教育活動に力を入れられませんでしたが、2024年はしっかりと向き合いたいと言うふうに思っています。
おわりに
直近は、生成AIが組み込まれたSaaSがいくつも登場し、ユーザーとしては選択肢が増えているように思います。生成AIはまだまだ発展途上でこれからも新しいものがどんどん出てくると思いますが、地に足のついた取り組みを進めていきたいと考えています。
