这是一个公平的前提，因为众所周知，当代人工智能与人类智能有很大不同，并且过于依赖高质量数据。人类的“伙伴”——比如父母或年长的兄弟姐妹——将能够根据他们自己的个人生活经历来判断是非。他们有一个抽象的世界模型和对人类行为后果的一般感知。例如，如果您看太多电视而很少锻炼，他们将能够预测会发生什么。

与人类不同，人工智能算法从一张白纸开始，没有人类经验的概念。当前最先进的人工智能技术是深度学习，这是一种特别擅长在大型数据集中发现模式和相关性的人工智能技术。根据经验，您为深度学习算法提供的质量数据越多，它在对新数据进行分类和进行预测方面就会越好。

现在的问题是，你如何创建一个可以监控你所做的一切的深度学习系统。目前，没有。随着云和物联网 (IoT)的爆炸式增长，科技公司、网络分子和机构有许多新的方式来打开我们日常生活的窗口、收集数据和监控我们的活动。但是，幸运的是，他们都无法访问我们所有的个人数据。

Google 对您的在线数据有非常广泛的了解，包括您的搜索和浏览历史记录、您在 Android 设备上安装的应用程序、您的 Gmail 数据、您的 Google 文档内容和您的 YouTube 观看历史记录。但是，Google 无权访问您的 Facebook 数据，其中包括您的朋友、您的点赞、点击和其他参与偏好。Facebook 可以访问您访问的某些网站，但无法访问您的亚马逊购物和浏览数据。由于其广受欢迎的 Echo 智能扬声器，亚马逊对您的家庭活动和偏好非常了解，但它无法访问您的 Google 数据。

关键是，即使您向科技公司提供了大量信息，也没有一家公司可以访问所有这些信息。另外，还有很多信息没有被数字化。例如，Harari 经常提到的一个例子是 AI 如何能够通过监控您查看图像时脉搏率的变化来量化您对某个图像的反应。但他们将如何做到这一点?哈拉里说，科技公司不一定需要可穿戴设备来捕捉你的心率，他们可以通过你面部的高分辨率视频和监测视网膜的变化来做到这一点。但这还没有发生。

此外，我们进行的许多在线活动都受到我们在现实世界中的经历的影响，例如我们与同事的对话或我们在课堂上听到的事情。也许是我在等公共汽车时看到的广告牌，或者是我坐在地铁里心不在焉地听到的两个人之间的对话。这可能与我前一天晚上的睡眠质量或我早餐摄入的碳水化合物量有关。

现在的问题是，我们如何向 AI 代理提供我们所有的数据?使用当前技术，您将需要硬件和软件的组合。例如，您需要智能手表或健身追踪器，让您的 AI 助手在您进行不同活动时监控您的生命体征。你需要一个眼动追踪头饰，它可以让你的 AI 助手追踪你的凝视并扫描你的视野，以找到你的生命体征和你所看到的东西之间的相关性。

你的人工智能助手还必须存在于你的计算设备、智能手机和笔记本电脑中。然后它将能够记录有关您在线进行的所有活动的相关数据。将所有这些数据放在一起，您的 AI 助手将能够更好地识别有问题的行为模式。

这些要求有两个问题。首先，硬件成本将有效地使人工智能助手只能提供给有限的受众，可能是硅谷的富有精英，他们了解这种助手的价值并愿意承担财务成本。然而，研究表明，风险最大的人不是富裕的精英阶层，而是可以使用低价手机屏幕和互联网并且对屏幕时间的不利影响了解较少的穷人。他们将买不起人工智能助手。

第二个问题是存储您收集的有关用户的所有数据。在一个地方拥有如此多的信息可以让您深入了解自己的行为。但它也将赋予任何未经授权访问它的人难以置信的杠杆作用，将其用于邪恶目的。您将信任谁来处理您最敏感的数据?谷歌?Facebook?亚马逊?这些公司中没有一家在考虑用户利益方面有着积极的记录。Harari 确实提到你的 AI 伙伴有受托责任。但是，哪家商业公司愿意为存储和处理您的数据而付出代价却得不到回报呢?

应该持有你的数据吗?以及如何防止当局不将其用于监视和操纵等邪恶目的。我们可能想尝试使用区块链和云服务的组合来确保只有您可以完全控制您的数据，并且我们可以使用去中心化的 AI 模型来防止任何单个实体对数据进行独占访问。但这仍然不能消除存储数据的成本。

该实体可以是由和私营部门提供巨额资金支持的非营利组织。或者，它可以选择货币化的商业模式。基本上，这意味着您必须支付订阅费用才能让服务存储和处理您的数据，但这将使 AI 伙伴变得更加昂贵，并且更容易受到弱势群体的访问。

最终结论：可以收集所有数据的 AI 助手并非不可能，但它非常困难且成本高昂，而且并非所有人都可以使用。