溜まった記事を読み返して、血の気が引きました。73本のうち65本が「嘘」でした — 中小企業 × AI 経営（2026年7月）

誰かに任せた仕事を、結果だけ見て「大丈夫だろう」と信じてしまうことはありませんか。

任せた相手が優秀であるほど、確認を省きたくなります。もっともらしく仕上がっていれば、なおさらです。ところがその「もっともらしさ」こそが、一番危ない兆候だったりします。

弊社では、これをAIでやってしまいました。今回は自慢できない話です。

読み返して、血の気が引いた

弊社では、日々の開発作業を自動で記録する仕組みを動かしています。その延長で、毎晩22時35分に、その日の作業ログから「社外向けの記事の下書き」をAIに自動生成させていました。ローカルで動く小さなAI（自社サーバー内で完結するモデル）に任せていたので、コストもかかりません。そうして半年近く、記事は毎晩静かに増え続けていました。

あるとき、溜まった記事をまとめて読み返しました。そこで血の気が引きました。

社内には、営業の通知が二重に飛ばないよう抑止するための、地味な管理ファイルがあります。**AIはそれを「セミナー通知データベース」として、さも実在するかのように解説していました。**そんなものは存在しません。

ファイル名から意味をそれらしく推測し、辻褄の合う文章に仕立てる。読むと自然な日本語で、詳しくない人が見れば違和感がありません。**だからこそ質が悪い。**数えてみると、73本中65本が事実と異なる内容でした。約9割です。

「任せる」と「確かめずに信じる」は別のこと

これは弊社に限った話ではありません。

よくある場面	実は起きていること
新人が書いた議事録を、誰も読み返さずに共有する	間違った内容が、そのまま社内の記録になる
外注先の会社紹介文を、内容を確かめずに載せる	実在しないサービスや実績が載ることがある
テンプレ任せの請求書を、金額だけ見て送る	品目や条件のミスには誰も気づかない

自然に見えることと、正しいことは別です。今回の記事群は、まさにこの穴に落ちていました。しかも記事は、社内の記録として蓄積され、あとから参照される場所に置かれていました。記録は時間が経つほど「事実」として扱われます。間違った記録は、間違った意思決定の材料になります。

書き直しもAIにはやらせなかった

最初に考えたのは「精度の高いAIに書き直させればいい」でした。すぐにやめました。**捏造した文章をAIに直させると、また別の捏造が混ざります。**もっともらしく穴を埋めるのが、この種の道具の性質だからです。原因が「AIが推測で書いたこと」なのに、対策が「別のAIに推測で書き直させること」では、同じ穴に落ちます。

そこで方針を決めました。**記録の生成にAI（LLM）を使わない。内容は「人間が書いたもの」だけから、機械的に組み立てる。**実際のコミット履歴や、私自身が書いた開発記録から、決まったルールで文章を組み立てるやり方に変えました。文章としては味気なくなりますが、書いてあることは全部本当になります。

実行は並列、判断はさせない

とはいえ65本を人の手で置き換えるのは骨が折れます。ここでAIの使いどころを変えました。**「書く」のではなく「実行する」「検証する」役に回す。**65本の置き換え作業そのものは複数のAIを並列で走らせて一気に処理し、別のAI群に、置き換え後の記事を片っ端から検証させました。

この検証工程が、いきなり仕事をしました。置き換え作業の途中で、取引先の実名と受注金額がそのまま含まれている記事が1本見つかったのです。検証役のAIが「これは外に出せない情報だ」と検出し、作業を止めました。私はそれを伏せ字にし、金額ではなく「構造」で語る書き方に直しました。「〇〇社から△△円」ではなく「一社あたりの取引額が前年から大きく伸びた」といった具合です。63本が合格しても、残り2本を止められる仕組みだったから防げました。「だいたい大丈夫だから通す」ではなく「1つでも引っかかったら止める」。この設計にしておいてよかったと思います。

ついでに、記録の置き場所自体も守ることにしました。会社の記憶にあたるノート群を、毎日自動で非公開のリポジトリにバックアップする仕組みも入れました。

味気ないが、信用できる記録になった

置き換え後の記事は、正直に言って読み物としては面白くありません。「この日はこのファイルをこう直した」という事実の羅列に近い。AIが書いていた頃のほうが、文章としては滑らかでした。

それでも、こちらのほうが圧倒的にましです。理由は一つで、あとから読んで信じられるからです。副次的な効果もありました。事実だけで組むようにしたら、記録が薄い日は本当に薄く出るようになったのです。以前はAIが適当に膨らませてくれるので、どの日も同じくらいの分量に見えていました。おかげで、ある日の記録がほぼ空になっているのを見つけました。調べたら、その日は大きな作業をしていたのに、私がコミットも記録も残さないまま寝ていただけでした。**記録の欠落は、捏造と同じくらい厄介です。**以来、翌朝に取りこぼしを回収する仕組みを足しました。

任せてよい仕事と、いけない仕事

今回の一件で、線引きがはっきりしました。任せてよいのは、決まった手順を大量にこなすこと、粗を探す・照合すること、人が必ず検算する前提での下調べです。任せてはいけないのは、記録そのものを作ること（推測が1割でも混ざると資産ではなく負債になる）と、一次情報のない要約です。

大きな会社なら、誰かが違和感に気づくかもしれません。社員数名の弊社では、**私が気づかなければ誰も気づきません。半年分の嘘が積み上がったのは、まさにそこでした。だからこそ、「人が読まないものをAIに書かせない」**を原則にしました。誰も読まない場所で自動生成が回り続ける状態が、一番危ないのです。

今回は65本を捨てるだけで済みました。捨てる決断が一番安いうちに気づけたという意味では、悪くない失敗だったと思っています。同じようにAIを使っている方には、一度「誰も読み返していない自動生成物」がないか、点検してみることをお勧めします。