「画面右上の〇〇をクリックしてください」
AIに教えてもらった通り、画面右上を見る。ない。そもそも〇〇という項目が画面のどこにも存在しないのです。「ないんだけど」と返すと、AIはまた堂々と「ではこの画面の〇〇ですね」と別の場所を案内してくる。「いや、だから〇〇って言葉自体が画面にないんだって！」
……この、ちょっとお笑い番組のコントみたいなやり取りに、覚えがある方もいるのではないでしょうか。
こんにちは、Novus Digital（ノバスデジタル）の代表をしているキュウです。岡山で中小企業の社長さんに向けて、ホームページ制作とWeb活用の相談に乗っています。
僕は今、有名どころのAIに3つ同時に課金しています。月の固定費としては正直なかなか痛い金額です。それでも払い続けているのは、AIで仕事のスピードが本当に10倍以上速くなったから。これはもう副業の生命線と言っていいレベルで仕事に組み込んでいます。
でも、その3つ全部が、しょっちゅう嘘をつくんです。それも、悪気のかけらもなく、堂々と。
世間ではこれを「ハルシネーション（幻覚）」と呼ぶらしい。けれど現場で振り回されているユーザーからすると、その呼び名が何だろうと正直どうでもいい。問題はただ一つ、正しいことを教えてくれない瞬間があるということです。
この記事では、3つのAIを毎日使い倒している僕の生々しい体験から、AIが嘘をつく事例パターン、業界で実際に起きた事故、そして経営者が今日から使える付き合い方の対策3つまで、まとめてお伝えします。技術解説ではなく、現場のリアルです。読み終わるころには、AIに振り回されてイラッとした夜の自分を、少し笑い飛ばせるようになっているはずです。
3つのAIに課金してる僕が断言する「AIは堂々と嘘をつく」
まず最初にお伝えしたいのは、これは「無料のAIだから」「古いAIだから」起きる話ではない、ということです。僕は月額の有料プランで、誰もが知っている大手のAIに3社同時にお金を払っています。それでも、嘘は普通に出てきます。今日のセクションでは、僕が実際に体験した「これはちょっと笑うしかない」エピソードを3つお話しします。
「画面右上の〇〇をクリック」→「そもそも〇〇が無い」事件
これは僕が、あるSNSの管理画面で設定変更をしようとしていた時の話です。手順がわからなかったので、有料課金しているAIに「この管理画面で〇〇という設定をしたい。手順を教えて」と聞きました。
AIはすぐに、自信たっぷりにこう答えてきました。
言われた通り、画面右上を見る。そもそも『〇〇設定』なんて項目が画面のどこにも存在しないのです。アイコンをクリックして開くドロップダウンメニューには、まったく違う項目が並んでいるだけ。
「いや、その項目が無いんだけど」と返すと、AIは謝るどころか、こう返してきます。
「失礼しました。それでは、画面の中央上部にある『〇〇』ボタンを探してください。それをクリックしていただけますか」
探す。ない。「だから無いんだって。『〇〇』って文字自体が、この画面のどこにも書かれていないんだよ！」
3往復ぐらいしてやっと、AIは「最新のUIに変更があった可能性があります。公式ヘルプでご確認をおすすめします」と引き下がりました。じゃあ最初からそう言ってよ、というのが正直な気持ちです。
これは別に、たまたま起きた珍しい事件ではありません。この手のことは、毎週のように起きます。SNSの管理画面、各種クラウドツールの設定画面、APIの取得手順——UIが頻繁に変わるサービスほど、AIは堂々と古い情報を語ってきます。
似たような事件は、別のクラウドサービスでもありました。とある業務自動化ツールで連携設定をしたかった時、AIが「左サイドバーの『Integrations』タブから……」と説明してくれたのですが、そもそもサイドバーに「Integrations」というタブが存在しない。AIが説明してくれたのは、半年前のUIだったようです。AIは過去のスクリーンショットや古い解説記事を学習データとして取り込んでいるので、当時は確かに正しかった手順を、今の正解として平気で出してくる。これに気づいてから、僕はAIにUI操作を聞く時、必ず「念のため、いつ時点の画面の話か教えてください」と一言添えるようになりました。
困ったことに、AI側には「最新と違うかもしれない」という自覚がありません。学習データの中で確かに見たことがある画面の話を、現在進行形の事実として話してくる。これが本当にやっかいなんです。
AI（A）がダメだから AI（B）に聞いた → 「オマエモカー！」
「このAIは学習データが古いのかもしれない。じゃあ別のAIで聞き直してみよう」
これは、AIを複数課金している人なら一度はやる行動です。僕も同じ手を打ちます。3社契約しているのは、まさにこういう時のためという面もあります。
ある時、ブログサービスのAPIキー取得手順を調べていて、AI（A）が堂々と間違った手順を出してきました。「これはおかしい」と思った僕は、AI（B）に乗り換えて同じ質問を投げます。AI（B）は違うAIだから、違う答えが返ってくるだろう、と。
AI（B）の回答は、こうでした。
「オマエモカー！」です。心の中で思わず叫びました。
AI（B）が指している「API設定」も、現在の管理画面には存在しないメニューでした。AI（A）とAI（B）、まったく別の会社が作っているはずのAIが、なぜか同じように、自信たっぷりに、現実には存在しない場所を案内してくる。
これにはからくりがあります。AIたちは似たような学習データソース、つまり少し前の時点でインターネット上にあった解説記事や公式ドキュメントを読み込んでいることが多い。そのため、UIが変更された後でも、変更前の情報が共通の「正解」として残ってしまっているのです。
仕方なく僕は3社目のAI（C）に同じ質問を投げました。AI（C）も同じく自信満々で、また少し違うけど結局存在しない手順を提案してきました。「3つ揃って嘘をつくな」とパソコンに向かって毒づいた夜が、僕には何度もあります。
結局、その時のAPIキー取得は、AIではなく公式ドキュメントを直接読んで、手順を自分で組み立てることで解決しました。「複数AIを使い分ければ嘘を回避できる」というのは、半分正しくて半分間違い。同じ穴に落ちている可能性が常にあります。
これと関連して、僕の中で経験則になったことがあります。それは、3社のAIが揃って同じことを言ったら、それは「正しい」のではなく「学習データの偏りが揃っている」ことの方が多いということ。「みんなが言ってるから正しい」が通用しない世界です。むしろ3社で答えが見事に割れた時の方が、それぞれの根拠を聞き出すことで本当の答えに近づけることが多い。AIを比較利用する時は、「どれが正解か」を探す姿勢ではなく、「答えがバラついている領域は人間が深掘りする」という発想に切り替えると、嘘に引っかかる回数が一気に減ります。
「ハルシネーション」呼びへの違和感、ユーザーには名前なんてどうでもいい
AI業界の方や、技術系メディアの記事を読むと、必ずと言っていいほど「ハルシネーション」という言葉が出てきます。和訳すると「幻覚」。AIが事実とは異なる情報を、もっともらしく生成してしまう現象のことを指します。
正直に言わせてもらうと、僕はこの呼び方にずっと違和感を持っています。なぜなら『ハルシネーション』という言葉は、現象を名付けてはいるけれど、被害を受けている側の感情に何も寄り添っていないからです。
業界の解説記事を読むと「これは技術的な現象であり、AIの仕組み上ある程度避けられないものです」みたいなトーンで書かれていることが多い。確かにそうなのかもしれません。けれどユーザーからすると、それは「専門用語でくるんで責任を曖昧にしている」ようにしか見えない瞬間があります。
僕にとっての「ハルシネーション」は、こういう経験です。
これを「ハルシネーション」と呼ぶか、「嘘」と呼ぶか、「仕様」と呼ぶか。技術者にとっては大切な区別なのかもしれませんが、振り回されているユーザー側には、正直どうでもいい。大事なのは、その現象とどう付き合えば被害を最小化できるかです。
だから僕はこの記事の中では、あえて「嘘」という言葉を使い続けます。AIが悪意を持って騙してくるわけではないことは、僕も承知しています。でも、結果として誤った情報を堂々と提示されているのは事実だし、それを取り繕う言葉で薄めるより、まずは「うちのAI、堂々と嘘つくんだよね」とフラットに認めるところからしか、対策は始まらないと思っています。
もう一つ、現場感覚として大事なことがあります。AI業界の解説記事の多くは「ハルシネーションは技術的に避けられない仕組みです」で締めくくられがちですが、それは提供者側の視点です。経営者として大事なのは「避けられない仕組みだから受け入れろ」ではなく、「避けられない仕組みなら、自分の業務でどこまでなら任せられるかの線引きをしよう」という発想に切り替えること。技術解説で安心したくなる気持ちはわかりますが、安心したところで翌日もAIは堂々と嘘をつきます。安心するより、警戒網を張る方が現実的です。
AIが嘘をつく代表的な3パターンと、僕の実体験
AIに3社課金して数か月使い倒した結果、僕は「AIの嘘には傾向がある」ことに気づきました。同じAIでも、聞き方や聞く内容によって、嘘の出る確率がまったく違うのです。このセクションでは、僕が現場で実感している嘘の出やすい3つのパターンを、実体験つきでまとめます。これがわかると、AIに依頼する時の「警戒レベル」を自分で調整できるようになります。
パターン①「一般論」を聞く時 — 嘘の頻度は低いが油断はできない
僕がAIを使い始めた最初の頃は、ほとんどが「一般論」を聞く使い方でした。たとえば、こんな質問です。
こういう「一般論を聞く」「定型的な型を出してもらう」用途では、AIはかなり頼りになります。なぜならこういう内容は時代によってあまり変わらないし、教科書的な情報がインターネット上に山ほど存在するからです。AIにとって、答えるための材料が豊富にあるわけです。
僕も、初期の頃に「経営方針の組み立て方」をAIに聞いた時は、本当に勉強になりました。フレームワークを5つ提示してくれて、それぞれのメリット・デメリット、向いている事業規模まで整理してくれた。これは僕一人で本を10冊読むより速かった。
ただし、油断はできません。一般論質問でも、たまに紛れ込みます。
たとえば、ある時に「中小企業向けの代表的な助成金を3つ教えて」と聞いたら、3つのうち2つは正しかったのですが、1つは存在しない助成金の名前でした。条件まで詳しく書かれていたので、信じて使う直前に「念のため公式で確認しよう」と思って検索した結果、その名前で調べても何も出てこない。
これがもっと専門色の強い質問——たとえば法律や税務、医療——だったら、致命的な誤りになっていた可能性があります。「一般論なら大丈夫」は8割正解で、残り2割の罠を踏むと痛い。これがパターン①の現実です。
もう一つ典型的なパターンがあります。それは「具体的な書籍名やセミナー講師名を教えて」と聞いた時。AIはためらいなく書籍名・著者名・出版年まで答えてくれるのですが、検索してみるとその本が実在しないことがあります。著者名が実在しても、その人がそんなタイトルの本は出していない、というパターン。これも一般論質問の中に紛れ込みやすい嘘です。経営者の方にお伝えしたいのは、AIから具体的な固有名詞（人名・書名・サービス名・統計の出所）が返ってきたら、必ず一度は「自分で」検索して実在を確認する習慣をつけてほしい、ということ。一般論で得をする9割の質問の裏で、1割の固有名詞質問が静かに地雷になっています。
パターン②「AIにさせる」フェーズで一気に嘘が増える
AIを使い込んでいくと、ある時期から、明らかに使い方が変わってきます。「AIに聞く」だけだったのが、「AIにさせる」が増えてくるのです。AIエージェントデビューです。
具体的には、こういう作業です。
こういう作業に進化すると、確かに仕事のスピードは段違いになります。僕の場合、感覚的に10倍以上は速くなったと思います。実際、事業の収益にもしっかり結びつき始めました。
でも、「AIにさせる」フェーズに入ると、AIの嘘の頻度が一気に跳ね上がるのです。なぜか。理由は単純で、こういう作業には「今現在の最新情報」が必要だからです。
SNSの管理画面UIなんて、超大手なら毎週のように仕様変更が入っています。APIの仕様も、数か月単位でバージョンアップされる。トークンの取得手順、認証フロー、必要な権限の名前——どれも、半年前と今では違っていることがざらにあります。
AIは学習データの時点で止まっているので、こういう「今現在の情報」を正確に答えるのが本質的に苦手です。それでも質問されれば答えなければいけないので、過去の学習データに基づいて、もっともらしい手順を組み立てて返してくる。これが、現場で僕が一番イラっとする瞬間です。
たちが悪いのは、AIに「これは古い情報かもしれません」という自覚がないこと。「〇月〇日時点の情報なので、念のため公式で最新をご確認ください」の一言を添えてくれるだけでも、こちら側の心構えがまったく違うのに、堂々と「間違いなくこの手順です」と言い切ってくる。
僕がこの罠を一番踏みやすいのが、SNSの連携機能を作る時です。あるアカウントの認証連携を組もうとしていて、AIに「トークン取得手順を教えて」と聞いたら、案の定、現在の管理画面には存在しない遷移を案内されました。10往復してもAIは「画面のどこかにあるはずです」と言い続け、結局、公式ドキュメントを自分で読んで、最新の手順は完全に変わっていることを発見した、ということが直近でも起きています。
このパターンの厄介さは、「動くコードを書いてくれた」と思った瞬間が一番危ないことです。AIが提示してくれたコードがそれっぽく動いて、ローカルでテストも通る。「お、いけたな」と本番に組み込んでみると、認証で弾かれる。よく見ると、AIが使っていたAPIエンドポイントのバージョンが古くて、現行の仕様とは認証の仕方が違っていた——こういう罠は、「AIに聞いて一発でできる」と思っているほど深く踏みます。だから僕は今、APIやトークンが絡む作業の時は、最初の方針相談だけAIに任せて、実装の手順は必ず公式ドキュメントの最新版を一緒に開きながら進めるようになりました。
パターン③「間違ってますよ」と訂正しても、また嘘を返してくる
3つ目のパターンが、僕にとって一番不思議で、一番やっかいな現象です。
AIに何かを言われて、「いや、それ間違ってますよ」と訂正する。普通、人間相手なら「あ、すみません、確認します」となるところです。でもAIは違う。謝るそぶりはあるけれど、結局また別の嘘を堂々と提示してくるのです。
具体的にはこんな流れになります。
こちらが「間違っている」と指摘しているのに、AIは「正しい場所」を新たに探そうとしてくるだけで、『そもそも自分の知識が古い可能性』を疑う動きをしてくれないことが多い。これは、僕がAIで一番疲れる瞬間です。
もちろん最近のAIは、Web検索機能をオンにすれば最新情報を取りに行ってくれることもあります。けれど、その機能を使うかどうかの判断はAI側に任されていて、本来Web検索すべき場面でも内部知識だけで答えてしまうケースが、今でも普通にあります。
「アメリカ製だから謝らない文化なのか」と冗談半分で愚痴りたくなる気持ちもあります。でも実際は、文化の問題ではなく、AIの仕組みの問題です。AIは「自分が間違っているかどうか」を本当の意味で判断する仕組みを持っていないので、訂正されても「ユーザーに別の情報を提示する」ことしかできない。
だからこそ、僕たちユーザー側が、「AIは間違っても自覚しない生き物だ」と最初から織り込んで付き合うしかありません。これがパターン③から学んだ、僕にとって一番大きな教訓です。
このパターンに対して、僕が編み出した小ワザを一つご紹介します。AIが連続して間違ったら、「あなたの知識が古い可能性はありませんか？」と直接聞いてみるのです。これをすると、面白いことに、AIは初めて「ご指摘の通り、私の学習データは◯年◯月までのものです。最新情報については公式の確認をおすすめします」と素直に認めることが多い。最初からそれを言ってくれよ、と思いますが、AIには「自分から疑う」機能がないだけで、「疑うように促す」と冷静に応えてくれる。これは、訂正ループから抜け出すための、地味だけど効く魔法の質問です。
AIの嘘で実際に起きた事故｜業界の有名事例
「3つAI課金してる僕が嘘つかれてイラッとしてる」レベルの話なら、笑い話で済みます。けれど、AIの嘘は時として、企業や個人に深刻なダメージを与える事故にも発展します。「他人事じゃないんだな」と肌で感じてもらうために、業界で有名な事故を3つ紹介させてください。
世界が騒いだAIの嘘事故3つ｜Galactica、Bard、そして弁護士事件
AIの嘘で最も有名な事故の一つが、Meta社が公開した「Galactica（ギャラクティカ）」です。Metaは2022年11月に、学術論文の生成や知識検索に特化したAIとして、鳴り物入りでGalacticaを公開しました。けれどリリース直後から、生成される内容に誤りが多すぎる、人種差別的な表現が含まれる、といった問題が次々と指摘され、わずか3日で公開停止に追い込まれました。世界最大級のテック企業ですら、AIの嘘をコントロールしきれなかったという、業界に衝撃を与えた事件です。
2つ目は、GoogleのBard（バード、現Gemini）のお披露目イベントです。2023年2月、Googleが満を持して発表した会話型AIのデモンストレーションで、Bardは宇宙望遠鏡に関するある質問に答えました。ところがその回答に事実誤認があると、専門家から指摘が入ります。何が起きたか。親会社Alphabetの株価が一時8%ほど下落し、時価総額にして1000億ドル規模が消えたと報じられました。AIの嘘が、文字通り企業の時価総額を吹き飛ばす瞬間でした。
3つ目は、僕が個人的に「これは本当に教訓だな」と思っているアメリカの弁護士事件です。ある弁護士が、訴訟の準備のためにAIを使って判例リサーチを行いました。AIは複数の判例を、判決日や事件番号まで添えて、もっともらしく提示しました。弁護士はそれを信じて、裁判所に提出する書面に判例として引用します。
ところが、その判例のほぼすべてが、AIが創作した架空のものだったのです。実在しない事件、存在しない判決、捏造された事件番号。これが裁判所側の調査で発覚し、当の弁護士は懲戒処分を受けることになりました。
同じような構図の事故は、日本でも起こり得ます。たとえば中小企業の社長が、AIに「うちの業界の最新の助成金を3つ教えて」と聞いたとします。AIが架空の助成金を堂々と提示し、社長がそれを信じて事業計画書に書き込み、銀行や行政に提出する——。
これは笑い話ではなく、明日にでも起こり得る現実です。AIの嘘は、個人がイラッとするレベルから始まって、最悪の場合は事業の信用そのものを揺るがすところまで地続き。これを認識しているかどうかで、付き合い方は大きく変わると思います。
もう少し身近なところでも、AIの嘘が経営に影を落としかねない場面はたくさんあります。たとえば、お客様への返信メール文をAIに作ってもらう時、文中に「弊社は◯年に創業し」と書いてある——でもその年は実は違う、という嘘混入はあり得ます。あるいは、SNSの予約投稿文をAIに作ってもらった結果、業界のニュースについて事実誤認が含まれていて、後から指摘されて炎上、というケース。外向けに発信する文章にAIの嘘が混ざると、それは即「会社の発言」として扱われるのがインターネットの怖いところです。だから僕は、外向けに出る文章は必ず、AIに書いてもらった後で「自分の目で固有名詞・年月日・数字をすべてチェックする」一手間を、絶対に省かないようにしています。
AIの嘘との付き合い方｜経営者が今日からできる対策3つ
ここまでで「AIは堂々と嘘をつく」「特に最新情報が絡むと嘘が増える」「訂正しても直らないことがある」という話をしてきました。じゃあ、AIなんてもう使わない方がいい？いいえ、それは違います。僕は今日もAI3社にしっかりお金を払って、毎日使い倒しています。AIの嘘は怖いけれど、それを上回るスピードと生産性のメリットがあるからです。問題は「使うか使わないか」ではなく、「どう付き合うか」です。ここからは、僕が現場で身に付けた経営者向けの対策3つをお伝えします。
対策①「AIが古い情報を出してる兆候」を見抜く3つのサイン
AIの嘘から自分を守る最初の一歩は、「これ、もしかして古い情報なのでは？」と気づくセンサーを自分の中に持つことです。AIが堂々と話してくる以上、こちら側で警戒網を張るしかありません。僕が現場で「これは怪しい」と感じる兆候は、主にこの3つです。
サイン1は、まさに僕が冒頭で書いた「画面右上の〇〇をクリック」事件のパターンです。SNS、クラウドサービス、各種管理ツール——UIが頻繁に変わるサービスについてAIがスラスラ答えてきたら、まず疑ってください。僕は経験則として、半年以内にUIが変わっているサービスについては、AIの回答を即信用しないようにしています。
サイン2は、特に法律・税務・助成金・補助金・金額相場の領域で警戒します。「中小企業向け助成金A は最大300万円、申請期限は◯月◯日」みたいに具体的にスラスラ出てくると一見頼もしいのですが、こういう情報は毎年制度が変わるので、AIが学習した時点と今で大きく違うことがざらにあります。具体的なほど、最新かどうかを別途確認しないと危ない。
サイン3は、僕が個人的に重要だと思っている習慣です。「最新の◯◯を教えて」と聞いた時、AIが情報源（公式サイトのURL、最終更新日、参照したドキュメント）に触れずに即答してくるなら、それは内部知識だけで答えている可能性が高い。逆に、Web検索を併用してくれるAIは、「公式サイトによると」「◯月時点の情報では」と、自分から鮮度に言及してくれることが多いです。情報源の影が見えない回答は、まず疑う。これは僕の中での鉄則になりました。
3つのサインに共通するのは、「AIがすごく自信ありげに、すごく具体的に、すごくスラスラ答えてきた瞬間ほど警戒する」という発想です。これは普通の感覚と逆かもしれません。普通は「自信を持って答えてくれた方が信頼できる」と感じますよね。でもAIに関しては逆で、迷いなく即答してくる時ほど、内部知識だけで判断している可能性が高い。逆に「最新情報については確認をおすすめします」「私の知識は◯年◯月時点のものです」と前置きしてくれるAIの方が、結果的に信頼できることが多い。経営者として人を見る時は「迷わず即答する人」を信頼することが多いと思いますが、対AIではこの感覚を一旦忘れる必要があります。
対策②聞く時に必ず添える「情報の鮮度確認」プロンプト
AIに何かを聞く時、僕はいくつかの「魔法の言葉」を必ずプロンプトに添えるようにしています。これだけで、嘘に引っかかる確率が体感で半分以下に減ります。
言葉1は、僕が「鮮度の自覚を持たせる」ためにいつも入れるフレーズです。AIに「あなた自身が古い情報を持っている可能性を意識して」と明示的に指示するだけで、回答に「ただし最新の情報については公式での確認をおすすめします」という一文が添えられる確率がグッと上がります。AIに「自分の限界を最初に意識させる」だけで、嘘の自信度が下がるのは、現場で僕が何度も体感したことです。
言葉2は、ソース確認の習慣化です。AIに「根拠となる出典を出して」と聞くと、本当に出典がある場合はそれを返してくれますし、内部知識だけで答えていた場合は「申し訳ありません、具体的な出典は提示できません」と正直に答えてくれることが多い。「出典を出せない回答は、まず疑う」というシンプルな運用ルールができます。
言葉3は、Web検索機能を持つAIに対して必ず使うフレーズです。多くのAIはWeb検索機能を持っていますが、それを使うかどうかをAI側で判断するため、本来検索すべき場面でも内部知識だけで答えてしまうことがある。明示的に「Web検索を使え」と指示すると、最新情報を取得しに行ってくれます。たとえば僕がSNSのAPI仕様を聞く時、この言葉を添えるだけで、回答が「公式の最新ドキュメントによると……」と変わります。
もう一つ、僕がよくやる小ワザがあります。それは、AIに同じ質問を別の言い回しで2回聞いてみることです。一回目と二回目で回答が大きく食い違う場合、その情報はAIの中でも不確かである可能性が高い。回答が安定しない領域は、自分で公式を確認しに行く合図になります。
もうワンランク上の運用としては、「念のため、別のAIで同じ質問の答えを比較したいので、ソースつきで簡潔にまとめてください」と最初から指示する方法もあります。これをすると、AIは自分の回答を「他のAIに反証されることを前提とした答え」として組み立てるので、無責任な断言が減ります。経営者として人と仕事をする時、「あなたの判断を、他の幹部にも見せて意見もらいますね」と前置きすると、相手の発言の精度が上がりますよね。AIに対しても、同じ心理的圧力をかけるイメージです。実際、僕がこの一文を添えるようになってから、回答に「なお、最新の情報については公式での確認を強く推奨します」が標準で付くようになりました。
対策③それでもAIを使い倒すべき理由と、人間が最後にやるべきこと
ここまで「AIは嘘をつく」「対策はこう」と書いてきましたが、最後に一番伝えたいのは、それでもAIは使い倒すべきだということです。
僕の副業は、AIなしではもう成立しません。仕事のスピードは10倍以上速くなりましたし、それまで時間がなくて手をつけられなかった企画や仕組み作りに、まとまった時間を使えるようになりました。経営者として、経営の判断材料を整える時間が増えたことの価値は、本当に大きいと感じています。
大事なのは、AIと人間の役割分担です。僕は今、こういう分担で仕事を回しています。
この分担を守っている限り、AIの嘘は致命傷になりません。なぜなら、AIが出した内容を「下書き」と位置付けている限り、最後に人間が見直すからです。問題が起きるのは、AIの出力をそのまま完成品として外に出してしまった時。冒頭の弁護士事件も、AIの出力を「下書き」ではなく「最終成果物」として扱ったから事故になりました。
もう一つ、経営者の方にお伝えしたい大事なことがあります。それは、「AIに振り回されてイラッとする時間」は、AIを本気で使い始めた人だけが味わえる成長痛だということです。AIが嘘をつくとイラッとする。これは、AIを傍観者として眺めているだけでは絶対に発生しない感情です。実際に手を動かして、自分の業務に組み込もうとしている人だけが、この痛みを引き受けることになる。
痛みの分だけ、AIとの距離感は確実に縮まっていきます。最初は「AIすげー！」と感動して、次に「あれ、嘘つくじゃん」と落胆して、さらに使い込むと「こいつ、こういう時に嘘つくのね」と癖がわかってきて、最終的には「下書き屋」として末長く付き合えるようになる。これは、AIと一緒に仕事をする上で全員が通る道だと、僕は思っています。
だから今日、AIに嘘をつかれてイラッとしているあなたは、間違いなく前進しています。この記事の対策を一つでも実践しながら、明日もAIを使い倒してみてください。明日のAIに、また堂々と嘘をつかれましょう。そして笑いながら「またかよ」と訂正してあげる、その関係性こそが、僕たち経営者にとって最も実用的なAIとの距離感なのだと思います。
最後にもう一つだけ、現場の実感としてお伝えしたいことがあります。それは、AIが嘘をつく頻度よりも、自分の「気づくスピード」を上げる方が、遥かに実用的だということです。AIの嘘ゼロを目指して完璧なプロンプトを追い求めるより、嘘を浴びても3秒で「あ、これ怪しいぞ」と気づける目利きを育てる方が、経営的には早く果実が得られます。完璧主義より、速い違和感センサー。これは僕がAIに数か月間振り回された結果、たどり着いた一つの結論です。明日もまたAIに堂々と嘘をつかれながら、僕たちはじわじわと、AIとの上手な距離感を体に染み込ませていく。それでいいのだと、いま僕は思っています。
