AI が書いた記事 73 本のうち 65 本が「嘘」だった — 中小企業 × AI 経営（2026年7月）

はじめに：この記事の前提

Koinobori 代表取締役の杉﨑です。 社員数名の会社を経営しながら、社内の仕組みを自分の手で作り、AI を相棒に毎日動かしています。

今回は、自慢できない話をします。私が AI に書かせていた社内記事を点検したら、73 本のうち 65 本が事実と違っていました。 全部捨てました。

AI 活用の記事は「こんなに便利になりました」という話が多いですが、実際に毎日使っていると、任せてはいけない場所に任せてしまうことがあります。今回はその失敗と、どう線を引き直したかの記録です。

1. 課題：気づかないうちに「嘘の記録」が溜まっていた

何をさせていたか

私の会社では、日々の開発作業を自動で記録する仕組みを動かしています。その延長で、毎晩 22 時 35 分に、その日の作業ログから「社外向けの記事の下書き」を AI に自動生成させていました。

発想としては悪くないはずでした。毎日手を動かしている実録があるのだから、それを素材に文章化しておけば、あとで発信に使える。ローカルで動く小さな AI（自社サーバー内で完結するモデル）に任せていたので、コストもかからない。

そうして半年近く、記事は毎晩静かに増え続けていました。

点検したら、大半が創作だった

あるとき、溜まった記事をまとめて読み返しました。そこで血の気が引きました。

たとえばこんな具合です。社内には、営業の通知が二重に飛ばないよう抑止するための、地味な管理ファイルがあります。AI はそれを「セミナー通知データベース」として、さも実在するかのように解説していました。 そんなものは存在しません。

ファイル名から意味をそれらしく推測し、辻褄の合う文章に仕立てる。読むと自然な日本語で、詳しくない人が見れば違和感がない。だからこそ質が悪い。

数えてみると、73 本中 65 本が事実と異なる内容でした。約 9 割です。

なぜ危険か

これが単なる「精度が低い下書き」なら笑い話で済みます。危ないのは、この記事群が社内の記録として蓄積され、あとから参照される場所に置かれていたことでした。

記録は、時間が経つほど「事実」として扱われます。半年後、誰かが（あるいは私自身が）この記事を読んで「そういう仕組みがあったのか」と信じてしまう。間違った記録は、間違った意思決定の材料になります。

しかも今回は社外向けの下書きです。もし気づかず発信していたら、実在しない機能を自社サービスとして語ることになっていました。

2. 取り組み：捨てる。そして「AI に書かせるのをやめる」

2-1. 書き直しも AI にはやらせない

最初に考えたのは「精度の高い AI に書き直させればいい」でした。すぐにやめました。

捏造した文章を AI に直させると、また別の捏造が混ざります。 もっともらしく穴を埋めるのが、この種の道具の性質だからです。原因が「AI が推測で書いたこと」なのに、対策が「別の AI に推測で書き直させること」では、同じ穴に落ちます。

そこで方針をこう決めました。

記録の生成に AI（LLM）を使わない。内容は「人間が書いたもの」だけから、機械的に組み立てる。

具体的には、実際のコミット履歴（何をどう変更したかの記録）や、私自身が書いた開発記録から、決まったルールで文章を組み立てるやり方に変えました。文章としては味気なくなりますが、書いてあることは全部本当になります。

2-2. 作業は並列化、判断はさせない

とはいえ 65 本を人の手で置き換えるのは骨が折れます。ここで AI の使いどころを変えました。

「書く」のではなく「実行する」「検証する」役に回す。

• 65 本の置き換え作業そのものは、複数の AI を並列で走らせて一気に処理
• 別の AI 群に、置き換え後の記事を片っ端から検証させる（元の事実と一致しているか、消し残しがないか、機密が混ざっていないか）

つまり、内容を作る役ではなく、決まった手順を大量にこなす役と、粗を探す役に限定しました。ここは AI が本当に強い領域です。

2-3. 検証が実際に事故を止めた

この検証工程が、いきなり仕事をしました。

置き換え作業の途中で、取引先の実名と受注金額がそのまま含まれている記事が 1 本見つかったのです。検証役の AI が「これは外に出せない情報だ」と検出して、作業を止めました。

私はそれを伏せ字にし、金額ではなく「構造」で語る書き方に直しました。たとえば「〇〇社から△△円」ではなく「一社あたりの取引額が前年から大きく伸びた」といった具合です。

63 本が合格しても、残り 2 本を止められる仕組みだったから防げました。 「だいたい大丈夫だから通す」ではなく「1 つでも引っかかったら止める」。この設計にしておいてよかったと思います。

2-4. 記録そのものをバックアップする

ついでに、記録の置き場所自体も守ることにしました。会社の記憶にあたるノート群を、毎日自動で非公開のリポジトリにバックアップする仕組みを入れました。変更がない日はコミットしない、という地味な作りです。

記録を大事にすると決めたなら、その記録が消えない保証もセットで要る、と考えました。

3. 結果：味気ないが、信用できる記録になった

置き換え後の記事は、正直に言って読み物としては面白くありません。 「この日はこのファイルをこう直した」という事実の羅列に近い。AI が書いていた頃のほうが、文章としては滑らかでした。

それでも、こちらのほうが圧倒的にましです。理由は一つで、あとから読んで信じられるからです。

副次的な効果もありました。事実だけで組むようにしたら、記録が薄い日は本当に薄く出るようになりました。以前は AI が適当に膨らませてくれるので、どの日も同じくらいの分量に見えていたのです。

おかげで、ある日の記録がほぼ空になっているのを見つけました。調べたら、その日は大きな作業をしていたのに、私がコミットも記録も残さないまま寝ていただけでした。作業した事実が、どこにも残っていなかった。

記録の欠落は、捏造と同じくらい厄介です。 「やっていないこと」が書かれるのも問題ですが、「やったこと」が消えるのも同じくらい困る。以来、翌朝に取りこぼしを回収する仕組みを足しました。

4. 学び：AI に任せてよい仕事と、いけない仕事

今回の一件で、社内での線引きがはっきりしました。

任せてよい

• 決まった手順を大量にこなす（65 本の置き換えを並列で処理する、など）
• 粗を探す・照合する（事実と一致しているか、機密が混ざっていないか）
• 下調べ・叩き台づくり（ただし人が必ず検算する前提で）

任せてはいけない

• 記録そのものを作る。記録は「あとから事実として扱われるもの」なので、推測が 1 割でも混ざると資産ではなく負債になります
• 一次情報のない要約。手元に事実がない状態で「それらしくまとめさせる」と、必ず埋め合わせが起きます

この線引きは、経営判断そのものだと思っています。AI は安くて速いので、つい判断や創作まで任せたくなる。けれど、間違っていても気づけない領域に置くと、静かに損失が溜まります。

中小企業だからこそ

大きな会社なら、誰かが違和感に気づくかもしれません。社員数名の会社では、私が気づかなければ誰も気づきません。 半年分の嘘が積み上がったのは、まさにそこでした。

だからこそ、**「人が読まないものを AI に書かせない」**を原則にしました。誰も読まない場所で自動生成が回り続ける状態が、一番危ない。

おわりに

AI 活用というと、どうしても「何を任せられるか」の話になりがちです。実際に毎日使ってみると、「何を任せないと決めるか」のほうが効きます。

今回は 65 本を捨てるだけで済みました。気づくのがもっと遅ければ、間違った記録をもとに判断していたかもしれません。捨てる決断が一番安いうちに気づけた、という意味では、悪くない失敗だったと思っています。

同じように AI を社内で回している方には、一度**「誰も読み返していない自動生成物」がないか**を点検してみることをお勧めします。案外、静かに溜まっているかもしれません。