AIが間違えたとき、謝るのは誰？「ChatGPTが書いたので」は会社の言い訳にならない
ChatGPTで作ったメールを、社員がお客様に送った。ところが、そこには間違った説明が書かれていた。
こんなとき、誰が謝るべきなのでしょうか。
社員30人以下の小さな会社で生成AIを使うなら、便利な使い方だけでなく、間違いが起きたときの責任の所在も決めておきたいところです。
今回は、お客様への問い合わせ返信を例に、社長と担当者が最低限決めておくべきことを考えます。
AIが勝手に約束した。でも、お客様には関係ない
例えば、従業員10人の会社に、お客様からこんな問い合わせが届いたとします。
「購入した商品の返品はできますか？」
担当者はChatGPTに返信文を作ってもらいました。
すると、AIは丁寧な文章でこう回答しました。
「商品到着後30日以内であれば、返品を承っております」
ところが、その会社の正式な返品期限は7日以内でした。
担当者は文章が自然だったため、そのまま送信。後日、お客様から返品の依頼が届きます。
会社としては期限を過ぎています。しかし、お客様は「30日以内なら返品できると案内された」と主張します。
さて、誰が悪いのでしょうか。
AIが間違った文章を作ったことは確かです。
でも、お客様から見れば、そのメールは会社から届いた正式な案内です。
お客様はChatGPTと取引したのではなく、その会社と取引しています。
この違いが、AIを業務で使うときの重要な出発点になります。
「AIが間違えました」と説明しても、問題は解決しない
この場面で、担当者がお客様にこう説明したらどうでしょう。
「申し訳ありません。AIが間違った内容を作成していました」
間違いが生じた経緯としては事実かもしれません。
しかし、お客様が知りたいのは、AIがどう間違えたかではありません。
「結局、返品できるのか」
「会社はどう対応してくれるのか」
この2点です。
私は、生成AIの利用で見落とされやすいのは、文章の正確さだけではなく、誰がその文章を会社の回答として認めたのかという点だと考えています。
もちろん、担当者による確認は必要です。
ただし、すべてを担当者個人の責任にするのも違います。
会社がAIの利用を認めているのに、確認する方法も判断基準も教えていなかったとしたら、担当者だけを責めても再発は防げません。
AIの誤りを発見できなかったことと、そのような運用を放置していたことは、分けて考える必要があります。
謝る人と、責任を持つ人は同じとは限らない
小さな会社では、一人が複数の仕事を担当することも珍しくありません。
お客様への返信も、商品管理も、社長への報告も、同じ社員が担当している場合があります。
だからこそ、「問題が起きたら担当者が対応する」という曖昧なルールでは困ります。
ここで整理したいのは、次の違いです。
- 返信担当者：お客様への説明や謝罪の窓口になる人
- 内容の承認者：会社として回答してよいか判断する人
- 最終責任者：会社としての対応方針や再発防止を決める人
例えば、通常の返品案内なら担当者が規定を確認して返信する。
一方、規定にない例外対応や、会社に損失が発生する判断は責任者に確認する。
このように分ければ、すべてのメールを社長が確認する必要はありません。
重要なのは、役職を増やすことではなく、誰の判断で回答が確定したのかを明確にすることです。
なお、社内で責任者を決めることと、法的な責任が誰に生じるかは別の話です。法的責任は契約内容や実際の経緯などによって異なります。
ここで扱うのは、会社がAIを安全に使うための業務上の責任分担です。
AIを使ったことより、「確認せず送ったこと」が問題になる
ここで誤解したくないのは、AIで作った文章が危険だから使わない、という話ではないことです。
ChatGPTは問い合わせ内容を整理したり、丁寧な返信文を作ったりする作業に役立ちます。
問題は、AIの文章をそのまま会社の決定として扱ってしまうことです。
先ほどの返品期限の例を考えてください。
AIが「30日以内」と書いたこと自体は、まだ社内の下書き段階です。
この時点なら、間違いを修正できます。
ところが、その文章を確認せずに送信すると、お客様に対する案内になります。
つまり、下書きと正式回答の間には、明確な境界線があります。
AIは下書きを作る。会社の回答にするかどうかは、人が決める。
この線引きを徹底するだけでも、責任の所在が曖昧になる問題を減らせます。
ただし、「人が確認する」というルールだけでは不十分です。
何を見ればよいのかが決まっていないと、誤字脱字だけ確認して終わる可能性があるからです。
送信前に確認するのは、文章の上手さではなく「会社の約束」
問い合わせ返信で特に注意したいのは、AIが作った文章に含まれる約束です。
返品期限、返金条件、対応可能な範囲などは、お客様の判断に直接影響します。
例えば、次のような違いがあります。
AIの下書き
「商品到着後30日以内であれば返品可能です」
会社の規定を確認した文章
「商品到着後7日以内で、当社の返品条件を満たす場合に返品を承ります」
後者は、会社の規定がその内容であると確認できた場合の記載例です。
文章が少し硬くなっても、正しい案内を優先する必要があります。
また、ChatGPTに「この回答は正確ですか？」と聞くだけでは、会社独自の返品規定まで確認できるとは限りません。
AIが「正確です」と答えたとしても、それは社内規定との照合が完了した証拠にはならないのです。
確認先はAIではなく、会社が管理している正式な規定です。
今日から使える「AI返信の責任確認メモ」
ここまでの話を、実際の業務に落とし込みます。
社員30人以下の会社なら、最初から複雑な承認システムを導入する必要はありません。
まずは、AIが作った問い合わせ返信を送る前に、次の内容を確認する運用から始められます。
AI返信の責任確認メモ
1．AIが作った文章か
AIを使った返信であることを担当者が把握している。
2．会社の約束が含まれているか
返品期限・返金条件・対応範囲などを確認する。
3．正式な情報と一致しているか
社内規定や承認済みの案内文と照合する。
4．誰が送信を判断するか
通常対応なら担当者、例外対応なら責任者など、判断する人を明確にする。
この確認メモで大切なのは、すべての返信に上司の承認を求めないことです。
何でも社長に確認する運用では、AIで文章作成を効率化しても、確認待ちで業務が止まってしまいます。
そこで、今回の返品案内なら、次のように分けます。
- 通常対応：正式な返品規定と一致していれば担当者が送信する
- 例外対応：規定にない返金や特別対応は責任者が判断する
- 誤案内が発生：担当者が責任者に報告し、会社として対応方針を決める
これなら、担当者も「どこまで自分で決めてよいか」を理解できます。
確認メモは、共有フォルダや問い合わせ対応の手順書に置いておくだけでも構いません。
最初は紙に書いて、担当者の机に貼っておく方法でも十分です。
大切なのは、AIを使うこと自体を特別扱いするのではなく、会社の回答を確定する手続きを明確にすることです。
すでに間違った返信を送ってしまったら？
では、実際にAIの誤った文章を送ってしまった場合はどうでしょう。
先ほどの「返品期限は30日」という誤案内を例にします。
このとき、担当者が独断で「今回は返品を受け付けます」と約束してしまうと、別の問題が生じる可能性があります。
逆に、「AIの間違いなので返品できません」と一方的に断れば、お客様の不信感につながります。
必要なのは、原因の説明より先に、会社として対応を判断することです。
具体的には、誤って案内した文章と正式な規定を確認し、責任者に報告します。
責任者は、これまでのやり取りや契約条件を踏まえて対応を決めます。必要に応じて法的な確認も行います。
そのうえで、お客様に誤案内を謝罪し、会社としての対応を明確に伝えます。
ここで避けたいのは、担当者と社長の間で責任を押し付け合うことです。
「AIを使った担当者が悪い」
「確認させなかった社長が悪い」
どちらか一方を責めても、お客様への対応は進みません。
会社として説明する責任を果たしながら、社内では何が原因だったかを振り返る。この順番が重要です。
AIを使う会社ほど、人間の判断を見えるようにしたい
生成AIの魅力は、文章作成などの作業を効率化できることです。
しかし、文章を作る作業と、その内容に責任を持つ仕事は同じではありません。
AIが下書きを作っても、会社として何を約束するかは人間が決めます。
小さな会社だからこそ、難しい規則を大量に作るより、担当者が迷わず判断できる境界線を用意することが重要です。
そして、責任を明確にする目的は、間違えた社員を探して責めることではありません。
誰が判断し、誰が対応するかを決めておくことで、お客様にも社員にも無用な混乱を生まないようにすることです。
今日やることは一つだけ。
今使っている問い合わせ返信の手順書に、次の一文を追加してください。
「AIが作成した返信は、担当者が正式な規定と照合し、規定外の約束を含む場合は責任者の承認を得てから送信する」
この一文があるだけでも、AIが間違えたときに「誰が判断したのか分からない」という状態を避けやすくなります。
AIに仕事を任せる範囲を広げる前に、会社が責任を持つ場所を決めておきましょう。
もっと具体的な手順とテンプレートが必要な方へ
AIによる問い合わせ返信の確認、承認者の判断、誤案内が起きた場合の対応を、社内で実際に運用するには手順の統一が必要です。
こうしたAI活用の確認手順や記入例を、社内で回せる形にまとめた有料記事があります。
この記事の続きを、社内で回せる形にまとめました
この記事で扱った話の続きとして、問い合わせ・Excel・研修・採用・SNSにそのまま使えるプロンプトとテンプレ、社内のAI利用ルール雛形、使い始める前の安全チェック、30日の導入計画までを1本にまとめました。
【保存版】社員30人までの会社が生成AIを毎日の業務に載せる8ステップ（500円）
- #AI活用
- #生成AI
- #中小企業
- #業務効率化
- #テンプレート