AIは間違えます。しかも困ったことに、間違えているときも自信満々です。「できました」「成功しました」と言われると、つい信じてしまいます。
シリーズ「AIと作るための技術」の今回は、このブログを Claude Code で作る中で実際に起きた間違いを紹介します。どれも、その場で確かめたから気づけたものです。AIの間違いには「よくある形」があるので、形を知っておくと見抜きやすくなります。
1. 「成功しました」なのに、動いていない
ブログのURLを ?p=123 の形から /記事名/ の形に変えたときのことです。WordPressを操作するコマンドを実行すると、こう表示されました。
Success: Rewrite structure set.
Success: Rewrite rules flushed.2行とも「Success」です。ところが、念のためいくつかのURLを開いてみると、トップページは表示されるのに、フィード（/feed/）などは 404 Not Found になっていました。
原因は、URLの書き換えルールを書いておく .htaccess というファイルが作られていなかったことでした。コマンドは「設定を変えた」ことには成功していましたが、このサーバーではファイルの書き出しまではしていなかったのです。ファイルを手で作って解決しました。
教訓：成功メッセージではなく、結果を確かめる。「設定しました」と言われたら、その設定で実際にページが開けるかを見ます。
2. 自分の描いた絵を、ちゃんと見ていない
ロゴやアイキャッチ画像も、AIにコードで描いてもらいました。コードとしては正しく、エラーも出ません。でも、画像にして見てみると問題だらけでした。
- ドットで描いたフラスコが、アルファベットの「T」や木のように見える
- ドットで描いた稲妻が、旗や「F」の字に見える
- 配線で描いた「P」が、枝分かれのせいで「R」に見える
- アイキャッチの見出しが「シリアル入／力を」と変なところで折り返され、右のイラストと重なる
AIは、座標や色を数字で考えて描いています。人が見たときに「何に見えるか」は、描き終えた画像を見ないとわかりません。このブログでは、毎回画像に書き出してAIにも見てもらい、おかしいところを直してから使うようにしました。
教訓：見た目に関わるものは、必ず画像や実際の画面で確かめる。
3. いつもは動くが、特定の入力で壊れる
記事の投稿やアイキャッチの設定を毎回同じ手順でできるよう、AIに小さなスクリプトを作ってもらいました。普通に使う分には問題なく動きます。ところが、あとで見直すと2つの不具合がありました。
- タイトルに
'（アポストロフィ）が入っていると、コマンドが途中で壊れる - 同じ名前の画像がすでにあると、WordPressが自動で名前の後ろに
-1を付けて保存する。それなのに、スクリプトは元の名前のURLを表示していた
しかも1つ目は、最初の修正ではまだ直っていませんでした。it's "テスト" $HOME のような意地悪な文字列で実際に試したところで、まだ壊れていることに気づきました。やり方を変えて直し、同じ文字列で正しく通ることを確かめています。
教訓：普通の入力だけでなく、記号・重複・空っぽなど「意地悪な入力」で試す。
4. パソコンでは動くのに、スマホで落ちる
これはブログではなく、写真から文字を読み取るツールを作ったときの話です。パソコンでは問題なく動いていたのに、Androidのスマホで写真を撮ると、ブラウザのタブごと落ちてしまいました。
原因は、スマホのカメラで撮った大きな写真（1200万画素クラス）を、そのまま文字認識に渡していたことでした。メモリが足りなくなっていたのです。写真を縮小してから渡すようにしましたが、今度は小さくしすぎると文字を読み落とします。長辺1600pxでは読み落としが出て、2000pxでようやく全部読めました。
AIはコードを書く段階では、あなたのスマホのメモリの大きさも、カメラの画素数も知りません。
教訓：実際に使う機器と、実際のデータで試す。
5. AI自身が「やめておきます」と止まることもある
間違いとは少し違いますが、サーバーに新しいソフトを入れようとしたとき、Claude Code の安全確認でその操作が止められたことがありました。サーバーの状態を変える操作は影響が大きいため、自動では通さない仕組みになっています。
このときAIは、別の方法で無理に通そうとはせず、「このコマンドを自分で実行してください」と、何をするコマンドなのかの説明付きで返してきました。内容を読んで、自分で実行して解決しています。
教訓：影響の大きい操作は、人が内容を理解したうえで実行する。止められたときは、仕組みを回避するのではなく、何をしようとしているのかを確かめる機会にします。
AIの間違いを見抜くチェックリスト
- 「成功しました」と言われたら、結果（ページ、ファイル、画面）を自分の目で見たか
- 見た目に関わるものは、画像や実際の画面で確かめたか
- 記号・重複・空っぽ・大きすぎるデータなど、意地悪な入力で試したか
- パソコンだけでなく、実際に使う機器で試したか
- 「直しました」と言われたら、直る前に失敗していた方法でもう一度試したか
- サーバーやデータを変える操作は、何をするのか理解してから実行したか
まとめ
今回紹介した間違いは、どれもAIの能力不足というより、AIが「見ていない」「知らない」ところで起きています。画面を見ていない、サーバーの癖を知らない、スマホのメモリを知らない。逆に言えば、そこを人が確かめれば、ほとんどの間違いは防げます。
AIに作ってもらうほど、人の仕事は「書くこと」から「確かめること」に移っていきます。確かめ方については、シリーズの後半でもう少し詳しく扱う予定です。
コメント