AIが書いた文章でいちばん怖いのは、間違っていることではありません。間違っているのに、間違っているように見えないことです。読み返して「うん、悪くない」と思ってそのまま公開ボタンを押す。その数日後にお客様から「ここ、うちの話と違いますよね」と言われる。実際に起きるのはだいたいこのパターンです。文章として整っているせいで、読む側の警戒心が働かない。だから公開前の見直しは「文章の善し悪しを見る」のではなく、間違いが混ざりやすい場所だけを狙って見るほうが早いし確実です。この記事では、実際に起きがちな3つの場面に絞って、なぜ起きるのか、どこを見ればいいのか、そしてその場でAIに投げられる確認の一言まで、まとめて書きます。ルール作りや体制の話には広げません。書いた本人が5分でできるところだけです。

整った文章ほど、読み手のブレーキが利かなくなる

人が書いた文章には、その人の迷いが残ります。言い切れないところは語尾がぼやけるし、自信のない数字の前には「たしか」がつく。読む側はそれを無意識に拾って、「ここは確認したほうがいいな」と当たりをつけています。ところが生成AIの文章には、その迷いの跡がありません。知っていることも、知らないことも、同じ滑らかさで書かれてくる。ここが厄介なところで、文章の見た目からは危ない箇所が浮かび上がってこないのです。

那覇の建設会社さんで、こんな話を聞いたことがあります。会社案内の文章をAIに作らせたら、実際より立派な会社の紹介文が出てきた、と。書いてあることは一つひとつもっともらしく、社員が読んでも違和感がない。でも社長が読んだら「うちはこんな体制じゃない」と一発でわかった。つまり、中身を知っている人が読めばわかるものが、知らない人が読むとわからない。AIの文章チェックが難しいのは、書いた本人が「自分で書いたつもり」になってしまい、内容を知っている人の目を失うからです。

だから見直しのときは、頭を切り替える必要があります。「自分の文章を読み返す」のではなく、他人が書いた原稿を検品するという気持ちで開く。この一手間だけで、拾える間違いの量がまったく変わります。そして検品する場所は、最初から決めておく。全文を平等に疑っていたら時間が足りませんし、疲れて途中から流し読みになります。次から挙げる3つの場面が、その「決めておく場所」です。

場面1・数字が、いつのまにか作られている

いちばん多いのがこれです。「県内企業の約7割が」「導入企業では平均3割の工数削減」──こういう数字が、頼んでもいないのに文章に混ざってきます。しかもこの手の数字は、あり得ない値ではなく、いかにもありそうな値で出てくるのが特徴です。9割でも1割でもなく7割。だから読んでも引っかからない。

なぜ起きるかというと、生成AIは「事実を調べて書いている」のではなく、その文脈でもっとも自然に続く言葉を選んでいるからです。「県内企業の約」まで書けば、そのあとには数字が来るのが自然な文章です。だから数字を置く。その数字に出どころがあるかどうかは、文章の自然さとは関係がありません。人間なら「根拠がないから書かない」と踏みとどまるところを、AIは踏みとどまる理由を持っていない。ここが決定的に違います。

確認ポイントはシンプルで、本文中の数字を全部拾い出して、出どころが言えるかを一つずつ確かめる。パーセント、件数、年数、順位。この4種類を目で追うだけでかまいません。出どころが言えるものは残す、言えないものは消すか、「内容によって幅があります」といった書き方に直す。無理に別の数字を探してくる必要はありません。数字がなくても文章は成立します。むしろ、根拠のない数字が一つ入っているほうが、記事全体の信頼を落とします。

その場で使える確認の一言はこうです。「この文章に出てくる数字と固有名詞を全部リストにして、それぞれ出どころを示して。示せないものは『出典なし』と書いて」。AI自身に列挙させると、自分で「出典なし」と白状してくることがよくあります。もちろんこれで全部が見つかるわけではないので、最後は自分の目で本文を追います。ただ、リストがあるのとないのとでは、確認にかかる時間が段違いです。

場面2・制度の話が、去年の話のまま出てくる

次に多いのが、制度や仕組みの説明が古いまま書かれるケースです。補助金の名前、申請の窓口、電子帳簿保存法まわりの取り扱い、インボイスの経過措置。この手の話は毎年のように細かく変わりますが、AIが学習した時点の情報で書かれてくると、「間違い」ではなく「少し前は正しかったこと」として出てくる。これがまた見抜きにくい。完全な嘘なら気づけますが、去年の正解は、なんとなく正しく見えてしまうのです。

沖縄の中小企業の現場だと、この影響が出やすいのは補助金や助成金の記事です。「対象は県内の中小企業で、補助率は──」と書かれていると、読んだお客様がそれを信じて動いてしまう。実際には募集回によって条件が変わっていたり、その年度はもう締め切られていたりする。書いた側は悪気なく古い情報を載せただけですが、受け取る側にとっては実害になります。制度の話は、間違えたときの被害が他のテーマより大きいと考えておいたほうがいいです。

確認ポイントは、年度・時期・条件が書かれている段落に印をつけ、そこだけは必ず一次情報にあたること。一次情報というのは、その制度を運営している役所や機関が出しているページのことです。検索して出てきたまとめ記事ではありません。まとめ記事も同じように古い可能性があります。手間はかかりますが、印をつけた段落だけなので、たいてい2つか3つです。全文を調べ直すわけではありません。

もう一つ、根本的な逃げ道があります。そもそも記事の中で断定しないという書き方です。「補助率は◯分の◯です」ではなく「補助率や対象要件は募集回によって異なるため、最新の募集要項でご確認ください」と書く。情報としての鮮度が落ちにくく、読んだ人を間違った方向に進ませることもありません。自社ブログで制度に触れるときは、この書き方を基本にしておくと安全です。

その場で使える確認の一言。「この文章の中で、制度・法律・行政の手続きに触れている箇所を抜き出して。あなたの情報がいつ時点のものか、変わっている可能性があるかも添えて」。AIは自分の情報の古さを、聞かれれば申告してくれることがあります。聞かれなければ黙って書くだけです。

場面3・社外に出せないものが、まぎれ込む

3つめは毛色が違います。事実としては合っているのに、出してはいけない情報が文章に入ってしまうという失敗です。よくあるのが、社内向けの資料をそのまま貼り付けて「これを元にブログ記事にして」と頼んだケース。元資料に取引先名や案件の詳細が含まれていると、それが自然な形で本文に溶け込んで出てきます。しかも、うまく言い換えられているので、読み返しても「元資料から来た情報だ」と気づきにくい。

なぜ起きるかというと、AIは渡された材料を「使っていい情報」として扱うからです。この部分は社外秘、ここは公開可、という線引きは、渡す側が明示しない限り存在しません。むしろ具体的な材料があれば、それを活かした説得力のある文章を書こうとします。親切に書こうとした結果が、そのまま情報漏れになる。AIの側に悪意はなく、指示した側の線引き不足がそのまま出力に現れているだけです。

もう一つのパターンが、社内でしか通じない言葉の混入です。案件の略称、独自の工程名、社内システムの名前。読んでいる人には何のことかわからないうえに、外に出す必要のない情報でもあります。実害という意味では取引先名ほどではありませんが、記事の質を確実に下げます。

確認ポイントは、「これを取引先が読んでも大丈夫か」という一点で全文を通すことです。事実確認とは別の目線なので、続けてやらずに一度区切ってから読むほうがいいです。特に見るのは、固有名詞、具体的すぎる数量や日付、社内でしか使わない略語。この3つに引っかかるものがあれば、一般化するか削るかを判断します。

その場で使える確認の一言は、「この文章に、社外に出すと問題になりそうな固有名詞・具体的な取引内容・社内用語が含まれていないか指摘して」。ただしこれはあくまで補助です。何が社外秘かを本当に知っているのは書いた本人だけなので、最後の判断は人がやります。

3つの場面を並べて見る

ここまでの3場面を、確認の観点ごとに整理しておきます。見直しのときに手元に置いておくと、どこを見ればいいかで迷わなくなります。

場面	なぜ起きるか	公開前に見る場所	直し方の基本
数字の作り話	文脈上「自然な値」を置いてしまう	％・件数・年数・順位	出どころが言えないものは削る
古い制度の引用	学習時点の情報で書かれる	年度・条件・窓口の記述	一次情報で確認、または断定しない
社外秘の混入	渡した材料を使ってよい前提で扱う	固有名詞・具体的な取引内容・社内用語	一般化するか削除する

3つを見比べると、性質がはっきり分かれているのがわかります。数字はAIが作ってしまうもの、制度はAIが持っている情報そのものが古いもの、社外秘は人間が渡してしまったものです。原因が違うので、見つけ方も違います。まとめて「ファクトチェック」と呼んでしまうと、この違いが見えなくなって、なんとなく全体を読み返して終わりになりがちです。分けて見ることに意味があります。

5分で回すなら、この順番

実際の作業手順に落とすと、こうなります。まずAIに数字と固有名詞のリストを出させる。これは待っている間に他のことができるので最初に投げます。次に、そのリストを見ながら本文を追って、出どころの言えない数字を処理する。ここまでで2分ほど。

続いて制度や年度に触れている段落だけを拾う。だいたい2、3か所です。そこに書かれた条件を、運営元のページで突き合わせる。確認が面倒な内容なら、断定を外した書き方に変えてしまうのが早いです。ここで1分から2分。

最後に、頭を切り替えて全文を通しで読む。今度は事実を見るのではなく、「取引先がこれを読んだらどう思うか」だけを考えて読みます。引っかかる固有名詞や具体的すぎる記述があれば止まる。ここが1分。

合計で5分前後です。ポイントは、3つを同時にやらないこと。人間の注意力は、複数の観点を並行しては働きません。数字を見ているときは数字だけ、社外秘を見ているときはそれだけ。順番に一往復ずつするほうが、なんとなく3回読むより確実に拾えます。

それでも見落とすので、逃げ道を用意しておく

この手順を踏んでも、間違いはゼロにはなりません。人がやることなので当然です。だから公開後に直せる状態にしておくことが、実務としては同じくらい大事になります。ブログ記事なら、公開後に本文を修正して更新日を入れ直せば済みます。困るのは、PDFにして配ってしまったもの、印刷してしまったもの、メールで送ってしまったものです。

だから、AIに書かせた文章を扱うときは、やり直しがきく媒体から使い始めるのが現実的です。まずブログや自社サイトで出して、しばらく運用して問題がないことを確かめてから、営業資料や配布物に転用する。逆の順番でやると、間違いに気づいたときの手当てが大きくなります。実際の運用をどう組むかは業種や体制によって変わるので、迷うようなら一度ご相談ください。

もう一つの逃げ道が、公開したものを後から見直す習慣です。制度の話を含む記事は、半年に一度でも読み返すと、古くなっている箇所が見つかります。書いたときは正しくても、時間が経てば正しくなくなるのが制度の話です。これはAIのせいではなく、文章というものの性質です。

AIを疑うのではなく、扱い方を決める

ここまで間違いの話ばかり書いてきましたが、だからAIを使うな、という結論ではありません。下書きを作る速さは、人が手で書くのとは比べものになりません。ゼロから文章を起こすときの負担が減るのは、人手の限られた会社ほど効いてきます。問題は速さではなく、出てきたものをそのまま完成品として扱ってしまうことです。

考え方としては、AIは新人が書いた下書きだと思って受け取るのがちょうどいいです。新人が書いた原稿を、読まずにお客様に出す人はいません。文章としてはよく書けているけれど、事実確認はしていないかもしれない。社外秘の線引きも知らないかもしれない。だから上長が目を通す。AIに対しても同じ扱いをするだけで、事故のほとんどは防げます。

そして、この見直しは慣れます。最初のうちは3つの観点を思い出しながらやることになりますが、10本も書けば、数字が出てきた瞬間に手が止まるようになります。疑う場所が体に入っている状態になれば、5分もかかりません。AIを日々の業務に組み込んでいくうえで、この感覚を早めに身につけておくことが、いちばん効率のいい投資だと思います。

まとめ・見る場所を3つに絞る

AIが書いた文章の間違いに気づけないのは、注意力が足りないからではありません。文章が整っているせいで、危ない場所が目立たないからです。だから、目立たないものを勘で探すのをやめて、間違いが集まりやすい3か所を先に決めておく。数字、制度、社外秘。この3つです。

数字は出どころが言えるかを確かめる。制度は一次情報にあたるか、断定を避ける。社外秘は取引先の目で全文を通す。それぞれAIに投げる確認の一言も用意しておけば、作業としては5分で回ります。完璧を目指す必要はなく、致命的なものを落とさなければ十分です。

そして、やり直しのきく媒体から使い始めること。公開したものを定期的に読み返すこと。この2つを合わせておけば、間違いが残っても被害は小さく収まります。AIをうまく使っている会社は、間違えないAIを使っているのではなく、間違いが混ざる前提で扱い方を決めているだけです。自社でどこまでやるか迷ったときは、こちらからお気軽にご相談ください。内容をうかがったうえで、無理のない進め方をご提案します。