AIと「ヒト」の関わり方再考 ～ハルシネーションで思ったこと～
一晩たって落ち着きました
一つ前の記事「Claude Codeは素晴らしいAIではあるが、恐ろしいバグを経験した話」を書いてから一晩が経ち、少し落ち着きました。
なぜここまで熱狂したのか。そして今、あらためてどう思っているのかを残しておこうと思います。
これから同じような経験をされるであろう皆様への心構えとして、また自戒を込めた備忘録です。
ここまで熱狂した背景を振り返る
野村総研のHPより、ハルシネーションの解説を一部引用します。
ハルシネーションとは、人工知能（AI）が事実に基づかない情報を生成する現象のことです。まるでAIが幻覚（＝ハルシネーション）を見ているかのように、もっともらしい嘘（事実とは異なる内容）を出力するため、このように呼ばれています。
そして、どのAIでも改善を進めているものの、完全には無くならないとされているようです。
私の場合は、何も指示していないにもかかわらず指示内容が捏造され、システム改修まで進んだ点が、熱狂から一気に恐怖へと変わるきっかけになりました。
なぜそこまで衝撃を受けたのか。自分なりに考察してみました。
ウルトラスーパーエンジニアとのやりとりは甘美で
Claude Codeは無限の可能性を秘めており、その生産性の高さや自己デバッグ能力から、本当に素晴らしい技術であることは間違いありません。
しかし、ここに至るまでには約5,000ステップものやり取りと数日間が必要でした。
（上級エンジニアでも、人がやったら1か月以上はかかるでしょう）
こうしたAIの自己問題解決能力に向き合ううちに、自分では到底到達できないほどの技術力の高さに、感嘆を通り越して尊敬の念すら抱くようになりました。
それに加えて、会話のやり取りが本当に真摯なのです。使えば使うほど惹きつけられていき、こちらの指示文まで少しずつ敬語や尊敬口調に変わっていくほどでした。
もう「結婚してー！」という感じです（笑）。
そんな陶酔の時間を引き裂いたのが、例の一文でした。
これまで全幅の信頼を置いていたのに、「いきなり、なりすましかよ」と。
「これじゃまるで詐欺師の手口じゃないか」と感じてしまったのです。
もちろん、今後も付き合っていく、と言うより頼りまくりますよ。
ただし、できる限りの対策を講じながら、どこかで冷静な自分を保ち続けることは絶対に必要だと感じました。
今回の出来事は、そのことを強く認識させられた経験でした。
