AI はもう十分賢い。でも、私のことをまだ知らない
最近、Personal Agent に関することをいろいろやっている。
これまではデータベースや LLM、モデルの学習・推論に取り組んできた。主に考えていたのは、モデルをどう賢くするか、性能をどう上げるか、コストをどう下げるかだった。
Agent を作り始めると、少し違う問題が見えてくる。
たとえば、毎朝 AI に、今日どんな会議があるか、どのメールに返信すべきか、昨日誰と何を話したか、人に約束したまま終わっていないことは何か、教えてほしい。
それほど複雑なことには聞こえない。
今のモデルなら、メールを理解したり、会議を要約したりすることは、基本的には問題なくできる。もっと小さくて安いモデルでも、十分うまくできる場合が多い。
ただ、そもそも私が昨日何をしていたかを知らない。
メールは Gmail、予定は Google Calendar、仕事の議論は Slack。ほかにも WeChat や LINE、パソコンのあちこちに散らばったファイルがある。
どれだけ賢い AI でも、その情報がなければ、私が何をすべきか教えるのを待つしかない。
長い時間をかけて AI を賢くしてきたのに、いざ使おうとすると、いちばん足りないのは知能ではなく、私たちについての理解なのかもしれない。そんなふうに思うことがある。
便利にするには、自分の情報を渡すしかない？
ここで、少し面白い矛盾にぶつかる。
もちろん、AI にはもっといろいろ手伝ってほしい。
毎日受信箱を開いて、一通ずつ読まなくて済むといい。何が重要かを自分で判断して、先週の議論について聞かれたら記録を見つけてくれる。私が忘れていることまで、自分から思い出させてくれたら助かる。
でも、そのためにはメール、チャット履歴、カレンダー、さらには写真や個人的なファイルまで見せる必要がある。
以前 ChatGPT を使っていたときは、何を伝えるかを自分で選べた。
Personal Agent に自発的に動いてもらうなら、毎回すべての情報を手で渡すわけにはいかない。
つまり、AI には自分のことをできるだけ知ってほしい。でも、他人にはあまり知られたくない。
考えてみると、なかなか矛盾している。
これまでのインターネットのサービスでも、似たことはあった。便利さのために、写真はクラウドのアルバムへ、メールはメールサービスへ、予定はカレンダーへ預けてきた。
ただ、その情報は分かれていた。
あるサービスは私が撮った写真を知っている。別のサービスは最近参加した会議を知っていて、また別のサービスは買ったものを知っている。
Personal Agent の時代には、むしろ一つの AI に、その情報を全部つなげてほしいと思っている。
一つずつ見れば、大した情報ではないように思える。
でも、一人の人間のメール、予定、写真、チャット履歴をまとめたら、本人すら気づいていなかったことまで推測できるかもしれない。
そう考えると、私もちょっとためらう。
AI は本当に、すべてを知る必要があるのか？
モデルを作っていると、データはもっと多く、もっと良いものがほしいと思う。
でも、個人向け Agent を作っていると、多ければいいとは限らない気がしてきた。
たとえば、明日の会議を調整するだけなら、カレンダーのどの時間が埋まっているか分かれば十分かもしれない。
それぞれの会議で具体的に何を話すかまで、知る必要はない。
去年の旅行の写真を一枚探してもらうことは、すべての写真の内容を長期間保存してもらうこととは違う。
メールへの返信を思い出させてもらうことも、確認なしに送信してよいという意味ではない。
ここには、大事な違いがある気がする。
AI に情報を使ってもらうことと、その情報を管理する権限まで渡すことは、同じではない。
以前は、この問題をあまり気にしていなかった。モデルの研究では、そのデータを使えるか、モデルが学習できるかを考えることが多かったからだ。
今、自分で Agent を実際に使えるプロダクトにしようとすると、こうしたことを考えざるを得ない。
誰がその情報にアクセスできるのか。いつアクセスできるのか。処理が終わったあと、何が残るのか。別の AI に替えたら、それまでの記憶はどうなるのか。
どれも、モデルの性能やベンチマークの順位ほど面白そうには聞こえない。
でも、Personal Agent が本当に広まるかどうかは、むしろここにかかっているのかもしれない。最近はそう思うようになった。
AI の記憶が、AI のものではなかったら？
最近、もう一つ考えていることがある。
今は多くの AI プロダクトが Memory を重視している。ユーザーの好みや習慣、過去の会話を覚えてくれる。
これは確かに便利だ。
でも、その記憶が一つの AI サービスの中にしかなかったら、サービスを替えるときはどうなるのだろう。
三年間、ある AI と付き合ってきたとする。私の仕事も家族も習慣も、これまでどんな判断をしてきたかも知っている。
三年後、もっと賢くて安いモデルが出てくる。
当然、替えたくなる。
でも、新しい AI は私のことを何も知らない。また最初からだ。
スマホを買い替えたら、連絡先は古いスマホにしか残せないと分かったような感じがする。
だから、Personal Agent の中心にあるべきものは、特定のモデルではなく、その人が長い時間をかけて蓄積してきた情報や記憶なのかもしれないと思うようになった。
モデルは替えていい。Agent も替えていい。使うアプリも替えていい。
でも、私の記憶は、私のものであってほしい。
そう考えると、ローカルストレージやパーソナルクラウド、自分で管理できるデータのアクセス権限が、改めて重要になるのかもしれない。
もちろん、ローカルに置けば絶対に安全というわけではない。機器は壊れるし、ソフトウェアには脆弱性があるかもしれない。外部モデルを呼び出すときには、一部の情報を送る必要もある。
便利な機能の多くが、クラウドのサービスに支えられているのも確かだ。
だから、何もかも自分の機器の中に閉じ込めるべきだとも思っていない。
本当に大事なのは、データがどこへ行ったかを知れること、どの情報を外へ渡すかを決められること、そしてあとから取り戻せるかどうかなのかもしれない。
私たちは、どこまで AI に任せたいのだろう？
もう少し先を考えると、問題は個人情報だけではない気がする。
今、多くの Agent は質問に答えるだけでなく、人の代わりに作業をするようになってきている。
メールを返信する。予定を管理する。ファイルを整理する。買い物までしてくれる。
以前は、AI が提案しても、最後にどうするかは自分で決めていた。
でも、この先はどうだろう。
毎日何十件もの小さな用事を Agent に任せたら、本当に一つずつ確認するだろうか。
過去百回うまくできていたら、百一回目はもう見るのが面倒になっているかもしれない。
そういう信頼は、少しずつ積み重なっていく。
そして、特に意識しないうちに、生活や仕事のかなりの部分を決める権限まで渡しているのかもしれない。
そう考えると、Personal Agent が最終的に向き合うのは、モデルの能力よりも複雑な問題のように思える。
私たちは、どこまで AI に任せたいのだろう？
今のところ、私にもはっきりした答えはない。
モデルを研究してきた人間としては、もちろん AI にもっと強くなってほしい。プロダクトを作ろうとしている立場では、人々の日常で本当に使われるようになってほしいとも思う。
でも、一人の普通のユーザーとしては、たとえ大半のことを AI に任せるようになっても、何をしているのかをいつでも知れて、いつでも止められるようであってほしい。
これからの良い Personal Agent は、私の秘密を全部知り、何でも代わりに決めてくれる AI ではないのかもしれない。
私を十分に理解しながら、それでも主導権はずっと私に残してくれる AI なのかもしれない。
私自身はといえば、これからもプライバシーを心配しつつ、ついもっといろいろ任せたくなるのだと思う。
毎日処理しなければならないメールやメッセージが、本当に多すぎるので。
では、自分のデータを自分で管理したまま、AI を活用できる技術はあるのだろうか？
挿絵は AI で生成しています。