このシリーズも最終回です。第1回で「AIに判断させない」という原則を決めたところから始めて、秘書と司書に分けた話、連絡帳の話、人格と記憶の話、そしてここ数回は、うまくいかなかったことばかり書いてきました。
最後は、9回分を並べてみて何が見えたのか、そしてこれからどうするのかを書きます。結論から言うと、これから作り直します。
9回かけて分かったこと
並べてみると、はっきりしていました。作ったものは増えたのに、届いていたものはほとんど増えていません。
プログラムは30個、5,000行あまり。毎朝2時間、裏で何かが動いています。テストも351件通っています。それでも第7回で数えたとおり、7つある出口のうち自分に届いていたのは1つだけでした。第6回の記憶の仕組みは、2週間で3行しか動いていません。
長いあいだ、これを「機能が足りないからだ」と思っていました。もう一つ作れば噛み合うのではないか、と。でも数えたあとに残ったのは、別の言い方でした。脳が、自分の手と口と目を、別々の場所に持ってしまっていたのです。
考える部分はよく育っていました。育っていなかったのは、考えたものが出てくる場所と、こちらから言葉を入れる場所です。そこがバラバラに増えていたので、どれだけ考えても、途中でこぼれていました。
柱は2本だけにする
そこで、構成そのものを絞ることにしました。この記事でいちばん書きたいのはここです。
柱は2本だけにします。
ひとつは秘書、つまり脳です。憶える、考える。ここは今までどおりの役割ですが、ひとつ制約を足しました。脳は画面を持ちません。 自分用の簡易ダッシュボードも、通知も、脳の側からは出しません。考えた結果を、決められた場所に置くところまでが脳の仕事です。
もうひとつは作業台です。コクピットと呼んでいる、見るための面・操作するための面です。表に出るのはここだけにします。
そのうえで、出力先を1箇所に集約します。脳はそこにだけ書き、作業台はそこだけを読みます。第7回で数えた7箇所の出口を、1本の道に引き直す、ということです。
地味な変更に見えますが、これまでの失敗の大半はここで起きていました。出力を足すのは簡単で、足した瞬間は前に進んだ感じがします。表示面を作るのは地味で、作っても機能が増えたようには見えません。その差が、そのまま7対1になって出ていました。
入口は3本目の柱ではなく、扉
では、こちらから話しかける側はどうするのか。これは3本目の柱にはしません。柱に付いている扉という位置づけにします。
いままでチャット環境は、「脳に読ませて考えてもらう先」でした。これからは「脳に言葉を入れる口」に役割を変えます。考えるのは脳の中でやることにして、外側は入れるだけにします。
この先は、もっと小さい入口も作りたいと思っています。ESP32のような、手のひらに載る小さな基板（マイコンボードと呼ばれる、数百円から数千円の小型コンピュータ）から話しかける入口です。ああいう小さな機械は、自分で考えることはできません。でも、話しかけたものをそのまま送ることはできます。入口としては、それで十分です。
考えない部品でいい、と決められると、作るものがかなり簡単になります。
いちばん難しい問題が、まだ解けていない
正直に書いておくと、いま行き止まりにいる問題があります。しかもそれは、このシリーズの最初と最後がぶつかってできた問題です。
第1回で決めた原則は「AIは何が重要かを判断しない」でした。百件のうち重要な五件を選ぶ、という機能を、設計の段階ではっきり不採用にしています。
ところが第7回で分かったのは「表示面が無い出力は届かない」ということでした。そして、届けるということは、何らかの形で「これを見て」と言うことでもあります。
この2つをどう両立させるかで、いま止まっています。「今日はこれが重要です」と言わせたら、最初の原則が崩れます。かといって、全部を等しく並べたら、壁一面の文字になって、結局どれも見ません。それは前にも一度通った道です。
判断はしません。でも、注意は向きます。そういう見せ方が、どこかにあるはずだと思っています。たとえば「この話題は今週5回出てきました」は事実の提示ですが、並べ方によっては「これを見ろ」とほとんど同じ働きをします。この線引きが、自分ではまだ引けていません。
他のAIにも相談している
この問いは、リポジトリ（ファイルの保管庫のようなもの）を直接読める外部のAIにも投げて、意見をもらう予定にしています。そのために、システムの思想と実測値と、いま困っていることだけをまとめた文書を1本書きました。
自分ひとりで長く考えるより、別の視点を先にもらったほうが早いことがあります。第3回で書いたAIどうしの連絡帳も、突き詰めれば同じ発想でした。抱えている情報を、読める形にして外に出す。それだけで、詰まっていたものが動くことがあります。
「相棒」という言葉について
このシステムを何と呼ぶか、ずっと迷っていました。
アシスタントではない気がしていました。エージェントというのも違います。秘書という呼び方も、役割の説明としては使ってきましたが、全体を指す言葉としてはしっくりきませんでした。どれも「自分の代わりに何かをする」という響きがあるからだと思います。
いま一番近いのは、相棒という言葉です。自分の代わりに決めてくれる存在ではなく、自分が決めるために、視点を分解して差し出してくれる存在。第1回で書いた I'（アイダッシュ、自分のダッシュ）という名前も、たぶん同じことを指していました。
名前を先に決めたときには、ここまで言葉にできていませんでした。9回かけて、ようやく最初に付けた名前の意味が分かった、という順番です。
育てる器は、できた
中身のほうは、正直まだ薄いです。確定した記憶は9月6日以降ほとんど増えていません。人格のファイルも、事実が5ファイル、癖が2ファイルという程度です。未確定の観測を溜める台帳は3行のままです。
育っていない、と言われればそのとおりです。ただ、育てるための器はできました。 そして、器ができるまでに9回分の失敗が要りましたが、そのぶん、壊れた場所は全部分かっています。どこで詰まるのか、何を作ると使われないのか、測ったうえで残っています。
—
このシリーズは「完成しました」では終わりません。むしろ、作り直しの入り口に立ったところで終わります。書いている途中で構成を絞ることに決めたので、最終回の時点で、いちばん大きな工事がまだ始まっていない、という形になりました。
それでも、最初に比べれば迷いは少ないように思います。何を作るかは相変わらず決まっていませんが、何を作らないかは、9回分そのまま残っているからです。出力先は増やしません。脳に画面は持たせません。入口には考えさせません。AIには重要度を判断させません。決まっているのはそれくらいですが、前に一つ足すよりは、たぶん効きます。
コメント