第6回から第8回まで、三回続けて失敗の話を書きました。いちばん複雑に作った記憶の仕組みが二週間で三行しか動かなかったこと、七つ作った出口のうち自分に届いていたのは一つだけだったこと、秘書が自分の入力経路を塞いでしまったこと。
並べてみると、どれも別々の不具合に見えます。ただ、しばらく眺めているうちに、全部が一本の線の上に乗っているように思えてきました。間違っていたのは個々の実装ではなく、もっと手前の前提のほうでした。
AIには二種類あった
自分が相手にしているAIには、実は二種類あります。
一つは、ファイルを直接読めるAIです。会話しながら、こちらの保管庫（ファイルを置いてある場所）の中を自分で開いて読めます。どのファイルが要るかもその場で判断して、必要なときに必要なぶんだけ読みます。
もう一つは、ファイルを読めないモデルです。こちらが事前に材料を消化して、会話の中に流し込んでおかないと、何も知らないまま話し始めます。
区別としては当たり前のことのようですが、自分が一年近くかけて作ってきた仕組みは、後者だけを想定していました。
そうなった理由ははっきりしていて、最初に触ったのがチャットの画面だったからです。文字を打ち込むと返事が返ってくる箱があって、その箱は自分のファイルを何も知りません。だったらこちらが知らせるしかない、というところから設計が始まっています。後から手元でファイルを読めるAIを使うようになっても、設計の土台はそのまま残っていました。
三本の工程が、そのために存在していた
読めないモデルに文脈を持たせるには、渡す仕組みが要ります。記憶をファイルに書き、それを消化して、チャット環境の知識として押し込みます。そのための工程が、いま三本あります。
人格を送るもの、確定した記憶を送るもの、そして抽出済みのノートを送るもの。前の二つは数秒で終わります。問題は三本目でした。毎朝、向こう側にあるものを全部消してから、全部送り直しています。 今朝の記録では対象が5,511件、実際に送れたのが3,630件。六時三十分に始まって、終わったのは八時二十九分でした。二時間です。
第5回で書いた記憶確定の規律も、突き詰めれば同じ目的の層でした。何を確定記憶とするかをあれだけ丁寧に決めていたのは、読めないモデルに「この人はこういう人だ」と持たせるためです。
読めるAIと作業した日
あるとき、ファイルを読めるAIと一日作業しました。人格ファイルの食い違いを直し、別の保管庫の実装がどこまで進んでいるかを調べ、システム全体の実測値を出しました。
そのどれにも、事前の流し込みは要りませんでした。必要なファイルをその場で開いて読んだだけです。
毎朝二時間かけて押し込んでいたものが、このAIにとっては丸ごと不要でした。AIが賢かったという話ではなく、読める相手に向けて、渡す仕組みを作っていたという、それだけのことです。
承認の場は、すでにあった
同じ軸で見直すと、第5回の宿題も解けました。
記憶が確定するには人間の承認が要る、という規律を作りました。承認待ちの一覧を毎日作って、チェックを付けて反映します。その一覧は、一度も作られていません。ディレクトリごと存在していませんでした。
ところが、ファイルの差分（変更前と変更後の違い）なら、自分は毎日見ています。 読めるAIがファイルを書き換えれば、その差分が目の前に出てきます。そこで「これは違う」と言えば、それが承認です。
承認の場を新しく作る必要はありませんでした。すでにある場所を使えばよかっただけです。第7回で、届く経路が無いから読まれないのだと書きましたが、この件に関しては経路のほうが先にあって、こちらがそれを承認の場だと見ていなかった、ということになります。
入口の役割が入れ替わる
そうすると、チャット環境の位置づけも変わります。
いままでは「脳を読ませる先」でした。こちらが持っている記憶を、なんとかして押し込む相手。これからは「脳に入力する口」になります。会話を受け取って、脳のほうへ流し込む役です。
この先、手のひらサイズの小型デバイスから話しかけられる入口を作りたいと思っているのですが、こう捉え直すと、その延長線上に無理なく置けます。入口は喋る場所であって、覚えている必要はありません。
それでも残る仕事
ただし、読めるAIにも弱いところがあります。呼ばないと動かないことです。
毎朝六時半に勝手に起きて、前日のノートからアドバイスを組み立てます。過去のノートを引き直して問いを立てます。この二つは、決まった時間に決まった変換をするだけの仕事なので、呼び出せるモデルに任せたままにします。
読めないモデルが不要になったわけではありません。役割が変わるだけで、消えるわけではない、という整理になりました。
—
一年近く、「AIをどう賢くするか」を考えているつもりでいました。何を覚えさせるか、どう判定させるか、どの順で渡すか。そのあたりを細かく詰めていたつもりです。
実際に疑うべきだったのは、その一段手前でした。AIに何をどう渡すか、という前提のほうです。相手が自分で読めるのなら、渡す工程そのものが要りません。毎朝二時間かけて動かしていたものは、機能というより、前提の産物でした。
丁寧に作ったものほど前提を疑いにくくなる、というのが、今回いちばん身にしみたところです。
コメント