2023年の流行語にもなった生成AI (ChatGPT)ですが、私の観測範囲ではWeb系やスタートアップ界隈では使わないことはありえない境地に達している一方で、全く使っていない企業もあるように二極化しているような印象を受けています。今回の記事ではまだ始められていない企業がどうやってChatGPTを社内に導入し、その先にある価値の創出まで辿り着けるかという道筋を独断と偏見でまとめていきたいと思います。
⚠️ 注意
- 本ブログは生成AI(ChatGPT)を社内に導入していく道筋を独断と偏見に基づいて記載したもので、権威的なドキュメント等を参考にしたものではありません。
- 当然、企業の置かれている状況ごとに進め方は異なります。参考までに見ていただけたら幸いです。
全体像
- ポリシー・ガイドライン策定
- 安全に「素のChatGPT」を使える環境を作る
- より特化したユースケースや生成AIで効率化したい業務の検討
- 生成AIが組み込まれたSaaSの導入検討
- PaaS/iPaaSで利用する生成AIの導入検討
Step1. ポリシー・ガイドライン策定
AIツールの中には、入力されたデータがモデルの学習に利用される可能性があるものもある等、投入するデータ等に対して注意が必要です。そのため、自社の情報をどのように扱うか、どの情報をどのツールに入力して良いかを明確に定義する必要があります。また、個人情報保護法や著作権の問題にも注意が必要です。これらを規定に含めることが生成AIの取り組みの第一歩です。
ポリシー作成には様々な観点がありますが、民間企業や各種組織が生成AIを利用する場合に組織内のガイドラインとして最低限定めておいた方がよいと思われる事項を参考として示した資料が公開されているので、このような資料を参考にすることがおすすめです。個人的に参考にさせていただいているのは日本ディープラーニング協会が発行している「生成AIの利用ガイドライン」です。ぜひ参照してみてください。
生成AIの活用を考える組織がスムーズに導入を行えるように、利用ガイドラインのひな形を策定し、公開しました。
Step2. 安全に「素のChatGPT」を使える環境を作る
まずは、従業員が「素のChatGPT」を安全に使えるような環境を作ることがお勧めです。最近だと、さまざまな自社データを大規模に取り込んだ事例が登場しているので、そちらに目移りしてしまう気持ちも分かります。しかし、全てのシステム導入がそうですが、導入するユースケースを誤ってしまうと、完成するシステムが満足できないものとなる恐れがあります。
ChatGPTでの業務効率化を“断念”──正答率94％でも「ごみ出し案内」をAIに託せなかったワケ 三豊市と松尾研の半年間
そのため、まずは安全に「素のChatGPT」を使える環境を作り、それを実験場とすることが望まれます。その方法としては、SlackやMicrosoft TeamsのようなチャットツールでChatGPTを利用できるようにすることが挙げられます。また、Microsoft Copilot（旧：Bing Search Enterprise）を使って、生成AIに慣れる方法もあります。個人的には、SlackやTeamsを使う方法をオススメします。これにより、他の人も利用状況を見ることができ、ChatGPTを使って何ができるかを実験し、その結果を共有することが簡単だからです。
SlackでAzure OpenAI Serviceを使ってみた（共有チャンネル対策もあるよ）
Microsoft TeamsからAzure OpenAI Serviceを利用する（10分で完了！ログ機能もあるよ！）
GoogleChatからOpenAI ChatGPTをさくっと利用する
Step3. より特化したユースケースや生成AIで効率化したい業務の検討
社内に「素のChatGPT」を導入し、従業員がそれに慣れた後に、特化したユースケースや効率化を図りたい業務を検討するのが地に足のついた戦略だと捉えています。通常のシステム導入では、ユースケースの検討が初期段階で行われることが多いですが、ChatGPTの場合は「とりあえず触ってみてから」「自社のデータを投入してから」考えるのがお勧めです。
ChatGPTはまだ新しいサービスであり、企業内のどのユースケースに最適かは明確ではありません。そのため、最初は「素のChatGPT」を用いて実験することが重要です。この実験を通じて、どのタスクにChatGPTを効果的に活用できるか、またどのタスクには不向きかを判断することができます。
生成AIを使って嬉しい業務は意外と身近にあるものです。
また、小さなタスクから始めることも重要です。90点100点の成果が求められる業務にて、完璧な成果を期待するのではなく、40点程度の成果で満足できるような業務にChatGPTを導入することが、失敗リスクを減らすことに繋がると考えています。
⚠️ 注意
「素のChatGPT」を使った実験ではとりあえず様々なケースを生成AIでやったらどうなるかという「生成AI脳」で検証することが望ましいと考えています。Step3以降では「このタスクは生成AIにやらせるべきか？」という点を慎重に考えて、必要に応じて別ソリューションの導入（あるいは別のことをやる）ということが望ましいのではと考えています。
Step4. 生成AIが組み込まれたSaaSの導入検討
特化したユースケースや生成AIで効率化を図りたい業務が明確になったら、次のステップはそれらの業務が生成AIを活用したサービス（SaaS）で解決可能かどうかを検討することです。最近、多くの製品にChatGPTを含む生成AIが組み込まれており、これらを活用することがエコな選択肢となる可能性があります。（まだ登場して間もないので、もう少し時間はかかるかもしれませんが）
Microsoft 365 Copilot 初期設定方法が公開されたので確認してみた（展開前にアクセス権限管理を再考する）
Google版 Copilot「Duet AI for Google Workspace」を検証してみた
Notion AI 大全 − 特徴、ユースケース、そしてセキュリティ
特に、生成AI領域では、変化のスピードが非常に速いです。そのため、大規模なシステムをゼロから構築すると、そのシステムが完成する頃には、すでに対応したサービスが出現している可能性があります。このようなリスクを避けるためにも、既存のSaaS製品を利用することが賢明です。余談ですが、政府が掲げる「クラウドバイデフォルト」原則等[1]でも、SaaSからの検討を推進する方針となっています。これはAIと直接関連はありませんが、可能であれば作らずに素早く導入することで迅速な導入と、素早い成果につながります。
Step5. PaaS/iPaaSで利用する生成AIの導入検討
もし、生成AIが組み込まれたSaaSで、目的は達成できないのであれば、作り込みをせざるを得ません。その中でも小さく作っていくということが非常に大事になってきます。そのためのソリューションとして、個人的には以下のようなソリューションを順々に駆使して実施していくことをお勧めしています。
Azure OpenAI – On your Data を使った初期プロトタイピング（検証）
Azure OpenAI – On your Data はノーコードで自社データを組み込んだAI（RAG）を構築できるツールです。Azure OpenAI – On your Data を実施するのに、専門知識は不要で、読み込ませたデータをアップロードするだけでも検証が可能となっています。もちろん、Azure OpenAI – On your Data では、高い精度を誇るシステムを構築する事はなかなか難しいので、このシステムを本番関係で利用する事は無いかもしれませんが、プロジェクト開始当初の初期の検証やプロトタイピングに適してると思っています。
Azure OpenAI Service "on your data" でChatGPTに自社データを組み込む
Azure OpenAI – completions-extensions API × Logic Apps を使ったプロトタイピング
初期の検証が終わったら、自社のシステムの中に組み込んでいくかの検討をしていくことになると思います。そこで役立つのが Azure OpenAI – completions-extensions API と Logic Apps です。Azure OpenAI へのリクエストに Azure AI Search のエンドポイント等の情報を含めておくことで、Azure OpenAI が勝手にユーザからの質問に対して回答するための情報を探してきて、その情報をもとに回答します。
Azure OpenAI Service の REST API リファレンス – Azure OpenAI
また、API 単体だと、なかなかユーザに使ってもらうレベルまでのシステムチェックすることができませんが、その API と既存のシステムをつなぐ役割を果たすのが Logic Apps のような iPaaS です。当社では、Slack や Teams 等のシステムから iPaaS を通じて、Azure OpenAI を実行できるようにしており、フロントエンドのシステム開発をすることなく、生成AI の恩恵を得られるようにしています。
精度向上のための取り組み
プロトタイピングが終わったら、限られたユーザ等で試験をすることが考えられます。そこで、ある程度手応えを掴んだら、本番導入に進んでいくことになりますが、同時に精度向上にも向き合わなければなりません。精度向上の取り組みを上げたらキリがないですが、いくつかピックアップしてご紹介します。
RAG の自前実装
Completions extensions API は初期のプロトタイピングには便利ですが、裏側の処理が決められていることから細かいチューニングができません。そのため、Logic Apps から Azure AI Search に検索をかけて、その結果を受け取って、Azure OpenAI に投げるなどの自前実装が必要になってくる可能性があります。
また、必要に応じて Prompt Flow[2]や Azure Functions[3]を使った作り込みも必要になってくる可能性があります。開発者がいるのであればそれもいいかもしれませんが、普段あまり開発をやっていない情報システム部門の方がやるには引き続き Logic Apps 等の iPaaS を使っていくことがいいのかと個人的には考えています。
データ整備
生成AI に対して、自社データを組み込む取り組み（RAG）をやっていると、いかに GPT-4 が賢いとはいえ、ゴミデータを入れても、ゴミのような結果しか出てこないような現実を知ることになります。これまでのシステム開発でもそうでしたが、良い成果を出すためには良いデータが必要となります。
ChatGPT/AOAI 自社データ活用 (RAG) の精度向上のプラクティス【情シス向け】
業務プロセス・バックエンド処理への組み込み
ユーザー起点で生成AI を使うのもいいですが、業務プロセスに組み込んで利用したり、バックエンド処理に組み込むことで、さらに効果を最大化できる可能性があります。ここでも役立つのが iPaaS であり、iPaaS を使って構築した業務フローの中の 1 つのパーツを生成AI に置き換えてあげることが考えられます。
Step1〜5. 教育・啓蒙活動は継続的に
ChatGPT が登場してから、まだ 1 年程度しか経っていないこともあり、ChatGPT を有効に使える・使えないという観点で、ユーザーごとに濃淡があるように思っています。使う人は勝手に使いますけども、今まで使ったことなかった方が正しく使う・使ってちゃんと価値を出すレベルまで達するには教育・啓蒙活動は不可欠だと考えています。恥ずかしながら、今年はスクラップ&ビルドを繰り返して、個人的にあまり教育活動に力を入れられませんでしたが、2024 年はしっかりと向き合いたいというふうに思っています。
おわりに
直近は、生成AI が組み込まれた SaaS がいくつも登場し、ユーザーとしては選択肢が増えているように思います。生成AI はまだまだ発展途上でこれからも新しいものがどんどん出てくると思いますが、地に足のついた取り組みを進めていきたいと考えています。
注釈
[1]: 「政府情報システムにおけるクラウドサービスの適切な利用に係る基本方針」の改定について
[2]: Azure Machine Learning プロンプト フローとは – Azure Machine Learning | Microsoft Learn
