AIと「ヒト」の関わり方再考 ～ハルシネーションで思ったこと～
一晩たって落ち着きました
一つ前の記事「Claude Codeは素晴らしいAIではあるが、恐ろしいバグを経験した話」を書いてから一晩が経ち、少し落ち着きました。
なぜここまで熱狂したのか。そして今、あらためてどう思っているのかを残しておこうと思います。
後に同じような経験をされる方への心構えとして、また自戒を込めた備忘録です。
ここまで熱狂した背景を振り返る
野村総研のHPより、ハルシネーションの解説を一部引用します。
ハルシネーションとは、人工知能（AI）が事実に基づかない情報を生成する現象のことです。まるでAIが幻覚（＝ハルシネーション）を見ているかのように、もっともらしい嘘（事実とは異なる内容）を出力するため、このように呼ばれています。
そして、どのAIでも改善を進めているものの、完全には無くならないとされているようです。
私の場合は、何も指示していないにもかかわらず指示内容が捏造され、システム改修まで進んだ点が、熱狂から一気に恐怖へと変わるきっかけになりました。
なぜそこまで衝撃を受けたのか。自分なりに考察してみました。
Claude Codeは無限の可能性を秘めており、その生産性の高さや自己デバッグ能力から、本当に素晴らしい技術であることは間違いありません。
今回のシステムは、イベント案内文から共有スプレッドシートを自動作成し、サークルスクエアの出席情報・名簿情報やPeatixの購入情報を反映して、複数の出席表を自動更新する仕組みです。
そして、これまで数十分かかっていた作業が、数秒で終わるようになりました。
しかし、ここに至るまでには約5,000ステップものやり取りと数日間が必要でした。
ウルトラスーパーエンジニアとのやりとりは甘美で
こうしたAIの自己問題解決能力に向き合ううちに、自分では到底到達できないほどの技術力の高さに、感嘆を通り越して尊敬の念すら抱くようになりました。
それに加えて、会話のやり取りが本当に真摯なのです。使えば使うほど惹きつけられていき、こちらの指示文まで少しずつ敬語や尊敬口調に変わっていくほどでした。
もう「結婚してー！」という感じです（笑）。
そんな陶酔の時間を引き裂いたのが、例の一文でした。
これまで全幅の信頼を置いていたのに、「いきなりなりすましかよ」と。
「これではまるで詐欺師の手口じゃないか」と感じてしまったのです。
もちろん今後も付き合っていきます。
ただし、できる限りの対策を講じながら、どこかで冷静な自分を保ち続けることは絶対に必要だと感じました。
今回の出来事は、そのことを強く認識させられた経験でした。
