この記事は、ITリテラシー「AIツール」カテゴリの7本目・最終回です。ここまでの6本で、AIに下書き・要約・議事録・調べものを渡せるようになりました。最後に、使い続けるために必ず身につけておく2つのこと——間違いへの備えと、情報の扱い——を、事務の現場で実際に起きる場面で見ていきます。

先に結論から。AIのリスクは大きく2つです。①もっともらしい嘘をつく（ハルシネーション） ②入力した情報が社外へ出ていく。どちらも、決まった手順を作っておけば防げます。この記事では、その手順を具体的な動作にして渡します。

ハルシネーションとは「自信満々の道案内」

見知らぬ土地で道を尋ねたとき、実は知らないのに、堂々と「その角を右です」と教えてくれる人に会ったことはありませんか。悪気はなく、本人も間違っているとは思っていません。AIの間違いは、これとまったく同じ形で現れます。

1本目で書いたとおり、生成AIは「次に来やすい言葉」を並べています。言葉として自然かどうかは計算していますが、内容が事実かどうかは見ていません。だから、間違いは「いかにも間違いっぽい文章」ではなく、いちばん自然で読みやすい文章の形をして出てきます。ここが怖いところです。

事務の現場では、こんな形で出てきます

抽象的な話にしないために、実際に起きた4つの場面を挙げます。どれも、読んだだけでは間違いだと分からないものばかりです。

とくに危ないのが合計の数字です。一覧に並んだ個々の数字は正しいのに、最後の合計だけが合わない。表の形が整っているぶん、「ちゃんと計算してくれた」と感じてしまいます。合計欄は、必ず自分で計算し直すと決めておいてください。

怪しいと感じたら、3手で確かめる

全部を疑っていては仕事になりません。確かめる動作を3つに決めておきます。

②の「本物を開く」を省かないでください。AIは、資料名を聞かれればそれらしい資料名を作ってでも答えます。名前が返ってきたこと自体は、実在の証明になりません。検索して、公式のページを自分の目で開く。ここまでやって、はじめて確認したと言えます。

もう1つのリスク——入力した情報は外へ出ていく

多くのAIサービスでは、入力した文章が社外のコンピューターに送られます。一度送った情報は、自分の手では取り消せません。「間違えて貼ってしまった」は、後から取り返しがつかない種類の失敗です。

置き換えのコツは、「AIに文章の型を作ってもらうのに、本物の中身は要らない」と考えることです。お詫び文の構成を作ってもらうのに、実際の請求額は必要ありません。「◯万円」で同じ文章が出てきます。

CCの現場のリアル——貼り付ける前の10秒

私たちのバックオフィスでは、AIを使い始めた初期に、ひやりとした場面がありました。スタッフの就業条件のメモを、氏名と勤務先名が入ったまま貼り付けようとしていたのです。送信前に隣の担当者が気づいて止まりました。

この一件のあと、私たちはルールを1つだけ作りました。「貼り付ける前に、人の名前と会社名を目で探して置き換える」。10個の禁止事項を作っても覚えられません。動作を1つに絞ったことで、全員が続けられています。

あわせて、判断に迷ったときの決まり文句も共有しています。「これ、社外の人に見せても大丈夫な文章か？」。この問いに一瞬でも迷ったら、貼り付けずに上長へ確認する。それだけです。

最後に名前を書いて送るのは、あなた

ここが、この記事でいちばん伝えたいことです。AIが作った文章でも、送信ボタンを押した瞬間から、それはあなたの名前で出した文章になります。受け取ったお客様は、AIに向かって話しているつもりはありません。

だから確認は、面倒な作業でも、AIを疑う作業でもありません。相手に間違った情報を届けないための、最後のひと仕事です。日付が1日ずれた案内が届けば、その人は1日を無駄にします。私たちが最後に人の目を入れるのは、その一人のためです。

AIは、私たちの時間を返してくれる道具です。返ってきた時間を、確認と、その先の人と向き合うことに使う。この使い方ができる人が、これからの事務職でいちばん強くなります。

今日からできる、たった1つのこと

まとめ

AIの間違いは、自信満々の道案内と同じ形で出てきます。確かめる動作は、出どころを聞く・本物を開く・数字は自分で計算するの3つ。そして貼り付ける前に、人の名前と会社名を置き換える。この2つを手順にしておけば、AIは安心して使える相棒になります。これでITリテラシー「AIツール」の7本は終わりです。1本目の「生成AIとは」に戻って、今なら何が違って読めるかを確かめてみてください。それが、身についた分量です。