AIがうまく動かないときの、つまずき集

AIは会話をまたいで覚えていません。しゃべるたびに、それまでのやりとりを最初から読み直しています。会話を閉じると、その紙は渡されなくなります。

詳しくは AIが毎回忘れるのを、やめさせる方法。

会話が長くなって、最初に渡した前提が押し出されています。一度に渡せる量には上限があり、古いほうから順に抜けていきます。「さっき言ったのに」の正体はこれです。

これがいちばん怖い症状です。失敗すると音が鳴りますが、実行されなかった場合は何も起きません。エラーも通知も出ないまま、ただ何日も止まっています。

毎日決まった時刻に情報を集める仕組みが、3日間まったく動いていなかったことがありました。エラーは1件も出ていません。気づいたのは、集まっているはずの件数が増えていないのを見たときでした。原因は、同じ時間帯に処理を並べすぎたこと。一度に走れる本数には限りがあり、後ろに並んだものが順番待ちのまま流れていました。

自動化そのものより、止まったときに気づける形にしておくことのほうが大事です。

自分の文章を見せていないからです。「自然に」「親しみやすく」と形容詞で頼んでも、相手にはどこを目指せばいいのか分かりません。整ってはいるけれど自分では書かない言い回しになります。

注意した場所が会話の中だからです。その会話が終われば、注意も一緒に消えています。「それは言わないで」と伝えてそのときは直る、翌日また同じことをする、の繰り返しになります。

出力の形を決めていないからです。字数、箇条書きか文章か、表にするか。決めていなければ毎回変わります。

AIの答えがおかしいのではなく、こちらの手が広がりすぎている状態です。頼めばすぐ動くので、つい一度に三つも四つも走らせてしまいます。作る速さに、置き場所を決める速さが追いついていません。

私の場合、しばらく経つとこうなっていました。フォルダを作った記憶はあるのに、どこに作ったか思い出せない。動いているはずのものが、いくつあるのかすら数えられない。どれも七割くらいで止まっていて、最後まで終わっているものが一つもない。楽をするために始めたのに、探しものが増えていました。

③がいちばん効きます。数えられない状態がいちばん重いので、まず数えられるようにしてください。

AIは空欄を嫌います。分からないところを「分かりません」と残すより、それらしいものを置いて埋めようとします。悪気はなく、文章として成立させようとした結果です。怖いのは、それが自分の名前で外に出ていくことです。

私の場合はこうでした。AIに書かせた記事を土台にして、別の投稿を作らせた。出てきた文章に「正直に言うと、数字は得意ではありません」と書いてあった。私は数字は得意です。ほかにも、なかったはずの「最初の一週間でやめかけた」という時期と理由が入っていた。三件まとめて指摘して、ようやく気づきました。

一段目の下書きにあった作り話を、二段目の材料にしていたわけです。回を重ねるほど、それは自分の経歴のように見えてきます。

間違いそのものより、それが自分の口から出た話として外に出ることのほうが痛いです。チラシに載ってからでは戻せません。

AIは、自分が動いているサービスの最新の値段や条件を見ていません。以前に読んだ情報のまま答えます。しかも言い方が堂々としているので、こちらは確かめずに信じてしまいます。

私は、あるAIの料金の仕組みを勘違いしたまま二週間、それを前提に全部の設定を組んでいました。公式の案内を読んで、初めて違うと分かりました。

値段の話は、間違えると設計ごとやり直しになります。