自分専用のAIを作りはじめた：最初に決めたのは「何をさせないか」だった

Obsidian（ノートをためておくアプリ）に、9,623のノートがたまっています。日々の記録、考えたこと、読みかけのまま止まった断片。何年もかけて書き足してきたものです。

これを活かすAIを作りたい、と思いました。ただ、最初に決めたのは「何を作るか」ではありませんでした。先に決めたのは「何をさせないか」のほうです。

動かせない一行

設計を始める前に、一行だけ書いて固定しました。

> 考える行為・意思決定・価値判断は、すべて人間が行う。AIに思考や判断の主導権を渡さない。

以後、この一行が全部の設計を縛っています。機能を思いつくたびに、ここに戻って「これは判断を渡していないか」を確かめる、というやり方です。

その結果、AIにやらせることは3つだけになりました。散らかった思考メモから論点と骨子を取り出すこと（構造化）。抽象的な概念に言い換えたうえで過去のノートを探しに行き、昔の自分との共通点や変化を並べること（対比）。そして、視点を分解して返すこと。この3つ目については、あとでもう一度書きます。

「代理人モデル」を採らなかった

作り始めたころ、別のAIと設計の相談をしていて、「AIが判断して実行する分身を作る」という方向を提案されました。メールの下書きを書き、タスクを仕分け、人間は最後に承認だけします。よくある形です。

これは採用しませんでした。そして、採用しない理由を表にして残してあります。

決め手になったのは、いちばん下の行でした。同じノートの山を、自動化の燃料として燃やすのか、自分の考え方を映す土台として置いておくのか。この二つは、便利さの差ではなく、数年後に自分がどうなっているかの差だと思いました。

便利そうな考え方を、ひとつ捨てた

原則を決めても、実際に何かを作る段になると必ず揺れます。

人間の優秀な秘書（エグゼクティブ・アシスタントや参謀役と呼ばれる仕事）が実際に何をしているのかを調べたとき、「100件のうち、本当に重要な5件を選んで渡す」という考え方が出てきました。とても有効そうに見えました。実際、そういう機能があれば毎朝の情報量は一気に減ります。

それでも、採用しませんでした。「何が重要か」を判断させた時点で、さっきの一行と正面からぶつかるからです。

かわりに採ったのは、「誰かが自分に負っている約束を、閉じるまで追い続ける」という機能でした。これは重要度を判断していません。返事待ちのまま開いているものを、開いていると言い続けるだけです。

判断は渡しません。でも、追跡はさせます。この線引きが、このあとの設計でずっと効いてきます。

名前を決めるのに時間がかかった

システムの名前は「idash（アイダッシュ）」にしました。I' — 数学で使うダッシュ、プライムのことです。

「A」ではなく「I」から始めたかったのです。AIの「A」ではなく、自分の「I」。分身でも代理人でもなく、自分から導かれた、でも自分そのものではない、変換された像という意味です。

名前を決めるのに、かなり時間を使いました。ただ、決まってからは設計の迷いが減りました。新しい機能を思いついたときに「それは I’ か、それとも A か」で切れるようになったからです。

鏡ではなく、プリズム

最初、このシステムのことを「鏡」と呼んでいました。自分のノートを映し返すもの、という意味です。

しばらくして、矛盾に気づきました。「判断しない（鏡）」と「矛盾を指摘する（評価）」は両立しません。そのまま映し返すだけなら気づきは生まれませんが、「ここが矛盾している」と言った瞬間、それは価値判断です。

そこで、鏡ではなく「プリズム（屈折鏡）」と呼び直しました。光をそのまま返すのではなく、分解して返すというのが、このシステムの基本の動きです。「これは矛盾だ」と評価するのではなく、「視点Aから視点Bへ変わったとき、その前提になっていたものは何か」を、問いの形にして渡します。答えを出すのは、あくまで自分です。

呼び名を変えただけに見えますが、これで出力の形が決まりました。断定文ではなく、疑問文で返す、ということです。

これから書くこと

このシリーズは全10回の予定です。一人のAIに全部やらせるのをやめて役割を分けた話、自分の人格をファイルに書き出した話、AIに「これは確定した記憶だ」と言わせないための仕組みなどを、順に書いていきます。

ひとつだけ先に言っておくと、うまくいかなかったことも書きます。いちばん複雑に作った仕組みが2週間で3行しか動かなかったこと、出力先を7つ用意して実際に自分に届いたのは1つだけだったこと、秘書が自分の入力経路を塞いでしまった日のこと。第6回から第8回は、ほぼその記録になる予定です。

—

振り返ると、この第1回で書いたことは、ほとんど一行の原則とその言い換えでしかありません。実装の話は一行も出てきていません。

それでも、この順番でよかったと思っています。「何をさせないか」を先に決めておかないと、便利そうな機能が出てきたときに毎回ぐらつきます。実際、「重要な5件」の話はかなり魅力的に見えましたし、あの原則がなければ採用していたはずです。

作りながら何度も立ち返ることになる一行を、最初に置けたこと。今のところ、それがいちばん効いているように思います。