AI 已经很聪明了，但还是不够了解我
最近在做一些 Personal Agent 相关的东西。
以前我一直做数据库、LLM，包括模型训练和推理。关注的问题大多是怎么让模型更聪明、性能更好、成本更低。
现在开始做 Agent，感觉问题有点不一样了。
比如，我希望 AI 每天早上告诉我，今天有哪些会议，有什么邮件需要回复，昨天跟谁聊过什么事情，还有哪些答应别人的事情没做。
听上去并不复杂。
现在的模型，理解一封邮件、总结一场会议，基本没什么问题。即使换一个更便宜、更小的模型，很多时候也能做得不错。
但问题是，它根本不知道我昨天干了什么。
我的邮件在 Gmail，日程在 Google Calendar，工作上的讨论在 Slack，还有微信、LINE，以及散落在电脑里的各种文件。
AI 再聪明，如果没有这些信息，也只能等我告诉它要做什么。
有时我会觉得，我们花了这么多年让 AI 变聪明，结果到了真正要用它的时候，才发现最缺的可能不是智力，而是它对我们的了解。
想要方便，就得交出自己的信息？
这就碰到了一个挺有意思的矛盾。
我当然希望 AI 能帮我做更多事情。
最好不用每天打开邮箱，一封一封看。它自己就知道什么重要，什么不重要。有人问我上周讨论的事情，它能直接找到记录。甚至我忘记了什么，它还能主动提醒我。
但要做到这些，就必须让 AI 看到我的邮件、聊天记录、日历，甚至照片和私人文件。
以前用 ChatGPT，我还可以自己选择告诉它什么。
现在如果要让 Personal Agent 主动工作，就不能每件事都靠我手动提供信息。
换句话说，我们希望 AI 越了解自己越好，却又不希望别人太了解自己。
这其实挺矛盾的。
以前互联网产品也是这样。为了方便，我们把照片交给云相册，把邮件交给邮箱服务，把行程交给日历。
但这些信息原本是分散的。
一个服务可能知道我拍过什么照片，另一个知道我最近开了什么会，还有一个知道我买过什么东西。
到了 Personal Agent 时代，我们反而希望有一个 AI，把这些信息全部连接起来。
单独看每条信息，好像没什么。
但如果把一个人的邮件、日程、照片、聊天记录放在一起，可能连他自己都没意识到的一些事情，也能被推断出来。
想到这里，我还真有点犹豫。
AI 真的需要知道所有事情吗？
做模型的时候，我们总希望有更多、更好的数据。
但做个人 Agent，我开始觉得，数据越多未必就越好。
比如，让 AI 帮我安排明天的会议，它可能只需要知道日历里有哪些时间已经被占用了。
并不一定需要知道每场会议具体谈了什么。
让它帮我找一张去年旅游的照片，也不意味着它需要长期保存我所有照片的内容。
让它提醒我回复邮件，也不等于应该允许它未经确认就把邮件发出去。
这里可能有一个很重要的区别：
让 AI 使用我的信息，不代表我要把这些信息的控制权也交给它。
以前我不太关注这个问题。毕竟，研究模型时，更多考虑的是数据能不能用、模型能不能学会。
现在自己尝试把 Agent 做成一个真正能用的产品，就不得不想这些事情。
谁能访问这些信息？什么时候可以访问？处理完之后还会保留什么？如果换一个 AI，原来的记忆怎么办？
这些问题听上去都不如模型性能、Benchmark 排名那么有意思。
但我越来越觉得，它们可能才是 Personal Agent 能不能真正普及的关键。
如果 AI 的记忆不属于 AI 呢？
我最近还有个想法。
现在很多 AI 产品都会强调 Memory，能够记住用户的喜好、习惯和过去的对话。
这确实很方便。
但如果这些记忆都存在某一个 AI 服务里面，那换一个服务怎么办？
假设我跟一个 AI 相处了三年。它知道我的工作、家庭、习惯，也知道我做过哪些决定。
三年后，出现了一个更聪明、更便宜的模型。
我当然想换。
但新的 AI 对我一无所知，又要重新开始。
想想还有点像换手机时发现，通讯录只能留在旧手机里。
所以我开始觉得，Personal Agent 的核心可能不应该是某一个模型，而是个人长期积累下来的信息和记忆。
模型可以换，Agent 可以换，甚至使用的应用也可以换。
但属于我的记忆，应该还是我的。
从这个角度看，本地存储、个人云，以及可以自己管理的数据权限，可能会重新变得重要。
当然，把东西放在本地也不代表绝对安全。设备会坏，软件可能有漏洞，Agent 调用外部模型时，也可能需要传输部分信息。
而且很多便利的功能，确实离不开云端服务。
所以我也不觉得一定要把所有东西都关在自己的设备里。
真正重要的，也许是我们能不能知道数据去了哪里，能不能决定哪些信息可以交出去，以及以后还能不能收回来。
我们到底愿意把多少事情交给 AI？
想得再远一点，问题好像也不只是个人信息。
现在很多 Agent 已经不满足于回答问题，而是开始替人执行任务。
帮你回复邮件，管理日程，整理文件，甚至购买东西。
以前，AI 只是给我们建议，最后怎么做还是自己决定。
但以后呢？
如果一个 Agent 每天替我处理几十件小事，我真的会逐一检查吗？
如果它过去一百次都做对了，第一百零一次，我可能也懒得看了。
这种信任是慢慢建立起来的。
而在某个时刻，我可能已经把相当一部分生活和工作的决定权交给了它，却没有特别意识到。
这让我觉得，Personal Agent 最终要解决的，可能是一个比模型能力更复杂的问题：
我们到底愿意把多少事情交给 AI？
我现在也没有特别确定的答案。
作为一个研究模型的人，我当然希望 AI 能力越来越强。作为一个正在尝试做产品的人，我又希望它能真正进入人们的日常生活。
但作为一个普通用户，我还是希望，哪怕以后 AI 帮我做了大部分事情，我也随时能够知道它在做什么，随时能够让它停下来。
也许未来好的 Personal Agent，不是那个知道我所有秘密、能替我决定一切的 AI。
而是那个足够了解我，却始终让我自己掌握控制权的 AI。
至于我自己，可能还是会一边担心隐私，一边忍不住想把更多事情交给 AI。
毕竟，每天要处理的邮件和消息，实在太多了。
那么，有没有一种技术，让我们既能用上 AI，又能保留对自己数据的控制？
本文配图由 AI 生成。