結論から書くと、社内向けの AI チャットボットを入れる前に決めておくのは、次の5つです。
- 誰の、どんな質問に答えるか
- 何を根拠に答えさせるか
- 何を入力してよいか
- 間違えたときにどうするか
- 誰が文書を更新し、運用を見るか
ツールの比較は、この5つが決まってから行います。決まっていれば、必要な機能と確認すべき条件がはっきりするので、選ぶのはそれほど難しくありません。逆に、決めないまま入れると、「何でも聞いてよい」状態になり、答えの質も、効果も、問題が起きたときの責任も、あいまいなまま使われることになります。
AI の導入全体を、業務の棚卸しから始める進め方は「中小企業の AI 導入、最初にやるのはツール選定ではなく業務の棚卸し」で説明しました。この記事は、棚卸しの結果「社内の問い合わせ対応にチャットボットを使う」と決めた後の話です。
1. 誰の、どんな質問に答えるか
最初に、使う人と質問の種類を決めます。
- 使う人: 全社員か、特定の部署か。新しく入った人の質問に答えるのか、現場の担当者が手順を確かめるのか
- 答える質問: 社内の規程、経費や休暇の手続き、社内システムの操作方法など
- 答えない質問: 個人の給与や人事評価、法律の判断、取引先との個別の条件など
範囲を決めるには、今の問い合わせの実物を集めるのが近道です。総務や情報システムの担当者に届いているメールやチャットの質問を一定期間分集め、多い順に並べます。最初は、件数が多く、答えが文書に書かれている質問に絞ります。範囲が狭いほど、答えの質を確かめやすく、効果も測りやすくなります。
「答えない質問」も明記して、利用者に伝えます。範囲の外の質問には、担当の部署や窓口を案内するように設定します。決めた内容は、次のように1枚にまとめておくと、導入の後も判断の基準として使えます。
【使う人】全社員
【答える質問】就業規則、経費の精算、休暇の申請、社内システムへのログイン方法
【答えない質問】個人の給与や評価、法律の判断、取引先との個別の条件
【範囲の外の質問への案内】総務の問い合わせ窓口
【見直す時期】規程を改定したとき、運用の担当が定期的に見直すとき2. 何を根拠に答えさせるか
この記事では、社内の文書を参照して答えさせる構成を前提にします。この構成で答えの質を大きく左右するのは、AI の性能より 文書の状態 です。
- 最新版か: 改定前の規程が残っていると、古い内容で答えます
- 重複や矛盾が無いか: 同じ手続きが2つの文書で違って書かれていると、どちらで答えるか分かりません
- 見てよい人の範囲: 部署限定の文書や、役職者向けの資料を、全員が使うチャットボットの参照先に入れない
あわせて、答えに 出典（文書名と該当箇所）を表示する ようにします。利用者が元の文書で確かめられるからです。文書に書かれていないことは「分かりません」と答え、担当の窓口を案内するように設定しておくと、もっともらしい作り話を減らせます。
文書の整理は、導入の作業の中で見落とされやすい部分です。チャットボットを入れなくても役立つ作業なので、先に始めても無駄になりません。
3. 何を入力してよいか
利用者が質問に何を書いてよいかを決めます。個人情報については、個人情報保護委員会が生成 AI サービスの利用に関する注意喚起を公表しています。事業者が個人情報を含むプロンプトを入力する場合は、利用目的の達成に必要な範囲内かを十分に確認すること、本人の同意なく個人データを含むプロンプトを入力し、それが応答の出力以外の目的で扱われる場合は法律に違反する可能性があるため、サービスの提供事業者が機械学習に利用しないことなどを十分に確認すること、とされています。
これを踏まえて、次のことを決めます。
- 入力してはいけないもの: 顧客や従業員の個人情報、パスワード、取引先の機密など
- サービスの条件: 契約の形態ごとに、入力したデータが学習に使われるか、どのくらいの期間保存されるか
- 利用者への表示: 入力してはいけないものを、チャットボットの画面に書いておく
ルールは、規程の文章だけでなく、画面に出しておくことが大切です。使うたびに目に入るからです。情報セキュリティの基本的な対策は、IPA の中小企業の情報セキュリティ対策ガイドラインも参考になります。
4. 間違えたときにどうするか
AI の答えには、誤りが含まれることがあります。同じ注意喚起でも、生成 AI サービスの応答には不正確な内容が含まれることがあると指摘されています。間違えることを前提に、次のことを決めておきます。
- 答えを確定扱いしない質問: 規程の解釈、金額、手続きの期限など、間違えると影響が大きいものは、答えの最後に「担当の部署に確認してください」と添える
- 人への窓口を残す: チャットボットだけにせず、人に聞ける窓口と、そこへのつなぎ方を用意する
- 誤りの報告の方法: 利用者が「答えが違う」と報告できる仕組みを作り、報告を文書の修正につなげる
- 責任の書き方: チャットボットの答えをもとに判断した結果について、どう扱うかを利用のルールに書く
最初のうちは、担当者が実際の質問と答えを定期的に見て、誤りの傾向を確かめます。誤りの原因は、文書が古い、文書に書かれていない、質問が範囲の外、のように分けて考えると、直し方を決めやすくなります。
公開する前に、質問と答えの組で確かめる
全員に公開する前に、集めた実際の質問から、確かめ用の質問と正しい答えの組を作ります。担当者が答えを知っている質問を選び、範囲の外の質問や、文書に書かれていない質問も混ぜます。チャットボットの答えをこの組と照らし合わせ、正しく答えられるか、分からないときに「分かりません」と答えるか、出典が合っているかを見ます。
文書を直したり設定を変えたりした後も、同じ組でもう一度確かめます。前は正しく答えていた質問を間違えるようになっていないかを確かめられます。そのうえで、一部の部署から使い始め、問題が無ければ広げます。
5. 誰が文書を更新し、運用を見るか
導入した後に使われなくなるのを防ぐには、運用の担当を決めておくことが欠かせません。次の役割を、名前で決めます。
- 文書の担当: 規程や手順が変わったときに、参照先の文書を更新する人。部署ごとに決めるのが現実的です
- 運用の担当: 答えられなかった質問、誤りの報告、利用の状況を定期的に見て、文書の追加や設定の見直しにつなげる人
- 費用の管理: 利用量に応じて料金が変わるサービスでは、上限と予算を決め、毎月の請求を確かめる人
文書の更新は、規程や手順を改定する社内の手続きの中に組み込んでおくと、忘れられにくくなります。「改定したら、チャットボットの参照先も差し替える」を、改定の手順書の1行にしておくだけでも違います。
効果は、導入の前と後で、問い合わせの件数や、担当者が対応にかけている時間を比べて測ります。導入の前の数字を取っておかないと、後で比べられません。
h-system でできること
h-system の AI 導入・活用コンサルティングでは、社内向けチャットボットについて、答える範囲や参照させる文書の整理、入力のルール、間違えたときの扱いの決め方から、導入と運用の設計までご相談いただけます。ツールありきではなく、今の問い合わせの状況を伺ったうえで、チャットボットが合うかどうかからご一緒に考えます。開発者である代表が直接対応します。初回相談（オンライン30分程度）は無料です。