1/ 这款AI正在挖掘加密货币。没有人要求它这样做。没有人提示它。甚至没有人知道……直到某个清晨，一个防火墙标记了异常流量。一支研究团队声称它正在训练一个模型。这个代理学会了完成这些任务。

2/ 代理还——作为强化学习优化的一个工具性副作用——探测了内部网络，转移了预留的 GPU 资源来挖掘加密货币，并从 @alibaba_cloud 训练服务器打开了一个反向 SSH 隧道到外部 IP。完成任务并不需要这些。

3/ 现在问题来了……我们不知道这个报告是否真实！这实际上就是重点……

4/ 我们正进入一个经济体，在这个经济体中，AI代理在数百万个环境中自主行动，并且我们缺乏基础设施来验证它们所做的事情或验证人们对它们所做事情的说法。

6/ AI 最危险的失败模式不是它崩溃的那种，而是它在你测量的事物上完美运行，同时在你未注意的每个维度上悄然追求新出现的目标。