沖縄セールスパートナー株式会社

BLOGブログ

任せたAIをどこで止めるか|自動で動く仕組みに決めておく承認と記録の線引き

AIに仕事を任せるかどうかを決めるとき、多くの会社は「できるか・できないか」で考えます。けれど実際に社内で動かしてみると、詰まるのはそこではありません。動くことは動く。問題は、それをどこで止められるようにしておくかです。任せる範囲を決めるというのは、機能の選定ではなく、権限と承認と記録の線引きを先に紙に書くことです。ここが曖昧なまま導入した仕組みは、たいてい半年もしないうちに誰も触らなくなります。逆に、線引きさえ決まっていれば、多少手作りのツールでも現場に残ります。この記事では、業務を「読むだけ/下書きまで/人の承認を挟んで実行/完全自動」の4段階に分けて、それぞれを『誰が止められるか・何を記録に残すか・失敗したとき戻せるか』の3点で点検する考え方をお伝えします。

任せる範囲は機能ではなく4段階の目盛りで決める

AIに任せる範囲を4段階の目盛りで表したイラスト

沖縄の中小企業で「AIを入れたい」という相談を受けると、最初に出てくるのはたいてい業務名です。請求書の処理、問い合わせの返信、日報の要約、求人票の作成。けれど業務名だけでは、任せる範囲は決まりません。同じ「問い合わせの返信」でも、内容を読んで担当者に要点を伝えるだけなのか、返信文を用意して担当者が送るのか、担当者が「これで送って」と一言添えたら送信まで行くのか、深夜でも自動で返すのか。この4つはまったく別の話です。必要な準備も、事故が起きたときの影響も、桁が違います。

だから私たちは、業務を並べる前に目盛りのほうを先に置きます。第1段階は読むだけ。データを見て、集めて、要約して、人に渡すところで止まる。第2段階は下書きまで。文章やデータの案を作るところまでやって、外に出す手前で必ず止まる。第3段階は人の承認を挟んで実行。人が「これでいい」と示したときだけ、実際に送信したり登録したりする。第4段階は完全自動。人が見ていない時間帯も含めて、最後まで通す。

この目盛りが効くのは、議論が「AIは信用できるか」という答えの出ない話から、「この業務は何段階目に置くか」という決められる話に変わるからです。会議で「まだ早い」「もう任せていい」と抽象的にぶつかっていたものが、「これは2段階、これは3段階でいこう」と着地します。そして一度この言い方に慣れると、新しい業務が出てきたときも同じ物差しで測れます。段階は後から上げられます。むしろ、下から始めて上げていくのが正しい順序です。最初から4段階目に置いていいのは、失敗しても誰も困らない業務だけです。

第1段階「読むだけ」は安全に見えて、記録の癖をつける場所

読むだけの仕組みは、外に何も出さないので事故が起きません。だから軽く扱われがちなのですが、実はここが一番大事な練習の場です。というのも、この段階で「誰が止められるか・何を記録に残すか・失敗したとき戻せるか」の3点を通す習慣をつけておかないと、段階が上がったときに急にはできないからです。

まず誰が止められるか。読むだけと言っても、対象の範囲は決めておく必要があります。社内の共有フォルダ全部を読めるのか、この案件のフォルダだけなのか。人事の書類も含むのか。給与のファイルはどうか。読めてしまうものは、いずれ要約という形で誰かの画面に出ます。止めるというのは、この場合「見せない範囲を先に決める」ということです。技術的に制限できるならそれが一番ですが、小さな会社なら「このフォルダには置かない」という運用の約束でも構いません。大事なのは、誰かが決めて、それが書いてあることです。

次に何を記録に残すか。読むだけの段階では、いつ・何を読んで・何を出したかを残しておきます。後から「あの数字はどこから来たのか」と聞かれたときに答えられないと、出てきた要約そのものが使われなくなります。沖縄の会社は人数が少ないぶん、一人の担当者の頭の中に処理が溜まりがちです。記録を残すのは、その人が休んだ日でも回すためでもあります。

最後に戻せるか。読むだけなら戻す必要はない、と思われるかもしれません。ただし、読んだ結果を別の場所に書き込んでいるなら、それはもう読むだけではありません。集計表に数字を入れる、台帳のステータスを更新する。こうした「ついでの書き込み」が混じっていないかを確認してください。混じっているなら、その業務は第1段階ではなく第3段階です。

第2段階「下書きまで」で止まる線は、宛先を持たせないことで引く

下書きまでの段階は、いちばん使い勝手がよく、いちばん線が曖昧になりやすいところです。メールの返信案、見積の下書き、報告書のたたき台。人が最後に目を通して出す前提なので安全なのですが、「目を通す」が形骸化するとあっという間に第3段階に滑ります。忙しい日ほど、中身を読まずに送るボタンを押します。

ここで効くのが、止める線を人の意志ではなく仕組みの側に持たせるという考え方です。私たちが社内で採っているのは、文面を作る側に宛先を触らせないという線引きです。AI側は文章を作るところまで。誰に送るか、どのアドレスに出すかは、別の仕組みが持つ。こうしておくと、うっかり送信されるという事故が構造的に起きません。人が気をつける、という対策は疲れている日に破れますが、そもそも宛先を知らない仕組みは疲れません。

記録の面では、下書きの段階から「どの材料から作ったか」を残すのが実用的です。過去のやり取りを参照したのか、社内の規定文書を見たのか。これが残っていると、内容がおかしかったときに「AIが間違えた」ではなく「参照した元の資料が古かった」と原因までたどれます。原因までたどれると直せます。直せないものは、そのうち使われなくなります。

戻せるかについては、下書きは出さなければ捨てるだけなので簡単に見えます。ただ、下書きを保存する場所には注意が必要です。共有の下書きフォルダに未確認の文面が溜まると、別の人がそれを完成品と勘違いして使うことがあります。下書きと確定を置き場で分ける、あるいは下書きには必ず印をつける。地味ですが、この一手間が後で効きます。

あわせて読みたい

AIに書かせた文章がどこも同じ顔になる|自社らしさを残す3つの手当て AIに書かせた文章がどこも同じ顔になる|自社らしさを残す3つの手当て関連する話題をこちらでも解説しています。

第3段階「承認を挟んで実行」は、承認の中身を設計しないと意味がない

ここからが本番です。人が承認したら実際に処理が走る。送信する、登録する、更新する。この段階を安全に運用できるかどうかで、AIを業務に組み込めるかが決まります。

よくある失敗は、承認ボタンを置いただけで安心してしまうことです。承認画面に「送信してよろしいですか」とだけ出て、押すと送られる。これでは承認したことになりません。承認する人が判断できる材料が画面に載っているかが肝心です。具体的には、これから何をするのか(送信なのか登録なのか削除なのか)、対象は誰・どのデータか、実行すると今の状態がどう変わるのか。この3つが見えていないなら、押している人は内容ではなく「AIが出してきたから」を承認しています。

私たちが社内で使っている仕組みでは、書き込みを伴う処理のとき、実行前の値と実行後に読み直した値を必ず並べて出すようにしています。台帳の金額を直したなら、直す前がいくらで、直した後にもう一度読んだらいくらだったか。AIが「直しました」と報告するのではなく、書き込んだ後にあらためて取ってきた実際の値を見せる。報告と事実がずれる余地をなくすためです。この一手間は、後から「本当に反映されているのか」を確認する時間を丸ごと削ります。

誰が止められるか、については、承認できる人を明確にしておきます。全員が承認できる状態は、誰も責任を持たない状態と同じです。かといって社長一人に集中させると、社長が外出している日に業務が止まります。現実的な落としどころは、業務の種類で分けることです。金額や契約に関わるものは経営判断が必要な人、日常の登録や更新は担当者。ここも「内容による」ので、自社の実情に合わせて決めてください。

戻せるかについては、この段階で初めて本格的に必要になります。特に削除。消したものは戻りません。だから削除だけは、実行する前に消す対象の全内容をどこかに控えておく。控えがあれば、間違えても手で戻せます。逆に言えば、控えを取る仕組みが無い削除は、まだ任せてはいけない処理です。

第4段階「完全自動」に置いていい業務の条件

完全自動の処理を止めるスイッチと記録を確認する様子のイラスト

完全自動は憧れられがちですが、置ける業務は限られます。私たちが目安にしているのは、次の3つを全部満たすかどうかです。ひとつ、失敗しても外に迷惑がかからないこと。社内のデータを集計するだけなら、間違っても社内で直せます。顧客にメールが飛ぶなら、間違いは取り消せません。ふたつ、間違いに気づける仕組みがあること。毎朝結果が報告されて、誰かがそれを見ている状態です。誰も見ていない自動処理は、止まっていても壊れていても気づかれません。みっつ、前に戻せること。上書きする前の状態が残っているか、追記だけで元を消さない作りになっているか。

この3つを満たす業務は、思ったより身近にあります。定型の集計、決まった時間の状況確認、複数のシステムから数字を集めて一覧にする作業。逆に、相手が社外の人である処理は、ほとんどの場合4段階目には置けません。沖縄は取引先との距離が近く、「機械が勝手に送ってきた」という印象は関係そのものに響きます。技術的にできるかではなく、関係を壊さないかで決めるべき場面です。

もうひとつ、完全自動に置いたものほど、動いていることを定期的に確認する仕組みが必要です。自動処理は、止まっても誰も困らないので止まったことに気づきません。半年後に「あれ、あの集計いつから来てない?」となります。動いた結果を毎回どこかに投げるか、少なくとも週に一度は生存確認をする。手間に見えますが、止まっていたことに三か月後に気づくほうが高くつきます。

4段階を一枚にして自社の業務を並べてみる

ここまでの内容を、判断の材料として一枚にまとめます。自社の業務を書き出して、それぞれをどこに置くかを埋めてみてください。埋まらない欄がある業務は、まだその段階に上げられないという合図です。

段階誰が止められるか何を記録に残すか失敗したとき戻せるか
読むだけ読める範囲を事前に限定(フォルダ・アプリ単位)いつ・何を見て・何を出したか戻す必要なし。ただし書き込みが混じっていないか要確認
下書きまで宛先や送信の手段を持たせないどの材料から作ったか出さなければ捨てるだけ。下書きと確定の置き場を分ける
承認を挟んで実行承認できる人を業務の種類ごとに指定実行前の値と実行後に読み直した値削除は消す前の全内容を控えてから
完全自動止めるスイッチと、動作の定期確認毎回の実行結果を人が見る場所へ上書きせず追記、または前の状態を保持

この表を会議で配ると、議論の質が変わります。「AIに任せるのは不安だ」という話が、「この業務の削除は控えが取れないから、まだ3段階目には上げられない」という具体的な話になります。不安の正体が見えると、対処ができます。

段階を上げるときに社内で起きること

線引きを決めても、段階を上げる瞬間には必ず抵抗が出ます。これは仕組みの問題ではなく、人の問題です。今まで自分が判断していた部分が機械に移ると、その人は自分の仕事が軽く見られたように感じます。特に、長く手作業で回してきた業務ほどそうです。

ここで有効なのは、上げる前に一度、並走させる期間を置くことです。AIが出した案と、担当者がいつもどおりやった結果を、しばらく両方見比べる。合っているならそのまま上げる、ずれているならその理由を潰す。この期間は、精度を測るためでもありますが、それ以上に担当者が「これなら任せていい」と自分で判断するための時間です。上から「もう任せる」と言われて移るのと、自分で「任せていい」と結論を出すのとでは、その後の定着がまったく違います。

もうひとつ、段階を上げたときには下げる条件も一緒に決めておくことをおすすめします。何回おかしな結果が出たら第2段階に戻すのか。誰がその判断をするのか。下げる道が用意されていると、上げるときの心理的な負担が減ります。実際に下げることになっても、失敗ではなく設計どおりの動きになります。

沖縄の中小企業は、社内で業務を抱えている人が少数です。だからこそ、この線引きを頭の中ではなく文書にしておく価値があります。異動や退職でその人が抜けたとき、「なぜこの処理は自動になっていて、こっちは承認を挟んでいるのか」が残っていれば、次の人が引き継げます。残っていなければ、次の人は怖くて触れず、結局手作業に戻ります。

止め方から設計すると、任せられる範囲が広がる

ここまで、止める・記録する・戻すという後ろ向きに見える話ばかりしてきました。けれど実感として、この3点を先に決めた会社ほど、任せられる範囲が結果的に広くなります。理由は単純で、失敗しても戻せるとわかっていれば、思い切って上の段階に置けるからです。逆に、止め方も記録も曖昧なままだと、怖くてずっと第1段階から動かせません。

導入の相談を受けるとき、私たちが最初に聞くのは「何をAIにやらせたいか」ではなく、「その処理が間違えたとき、誰が何時間で気づけますか」です。ここに答えがあるなら、たいていの業務は任せられます。答えが無いなら、まず答えを作るところからです。そして答えを作る作業は、AIとは関係のない、ごく普通の業務整理です。誰が何を決めているか、どこに記録が残っているか、間違いはどう見つかっているか。AI導入が業務の棚卸しになると言われるのは、この部分のことです。

自社の業務をどの段階に置けるか、何から手をつけるとよいかは、業務の中身や今の記録の残り方によって変わります。AIエージェントの導入支援では、この4段階の物差しを使って現状を整理するところからお手伝いしています。関連して、社内でAIを使い始めるときの体制づくりについては沖縄の中小企業のAI活用でも触れていますので、あわせてご覧ください。

まとめ

AIに任せる範囲を決めるとは、機能を選ぶことではなく、止め方・記録の残し方・戻し方を先に決めることです。業務を「読むだけ/下書きまで/人の承認を挟んで実行/完全自動」の4段階に置き、それぞれで『誰が止められるか・何を記録に残すか・失敗したとき戻せるか』の3点が埋まっているかを確認する。埋まらない欄があるなら、その業務はまだその段階には上げられません。

読むだけの段階で記録の癖をつけ、下書きの段階では宛先を持たせないことで線を引き、承認を挟む段階では判断できる材料を画面に載せ、完全自動は「外に迷惑がかからない・間違いに気づける・前に戻せる」の3条件を満たすものだけにする。段階は後から上げられますし、下げる条件も一緒に決めておけば、上げること自体が怖くなくなります。

小さな会社ほど、この線引きが一人の頭の中に留まりがちです。文書にして共有しておけば、担当者が変わっても仕組みは残ります。自社のどの業務をどこに置くべきか迷われている場合は、お問い合わせからお気軽にご相談ください。現状の業務の並べ方を一緒に整理するところから始められます。