Anthropic 在本周一指出,根据其实验结果,只需短短几个月,小型 AI 模型就可能具备在商用物联网设备上自主复制的能力,例如智能烤箱和低端安卓电视盒子等设备。
实验中,Anthropic 测试了 AI 模型能否自动发现存在安全漏洞的设备,将自身复制进去,并在无人干预的情况下持续扩散。
研究显示,参数规模在 300 亿以下的小型模型能够完成自我复制过程中的多个环节,但难以独立实现整个流程的完整执行。
在简化测试环境中,Anthropic 移除了部分安全校验步骤,发现 GLM-5.2 及性能更强的模型可以实现从头到尾的完整自我复制。
Anthropic 警告称,这类能够自我复制的模型难以被关闭,没有统一的全局开关。与传统非 AI 恶意软件不同,它们能够自行解析陌生设备,甚至可能针对数据中心处理器进行渗透。
此次研究重点选择了安卓电视、智能家电等联网物联网设备,因为这些设备通常安全防护较为薄弱。
IT之家注意到,这家 AI 公司还提醒,如果小型模型按现有速度迭代,到今年年底前就可能实现自主复制;此后,基于模型权重的小型复制体也将随之出现。
Anthropic 表示,这类自主 AI 系统的复制速度可能较慢,并会依赖大量广泛分布且安全防护较弱的计算资源。报告同时建议,应加强系统防护,以提升这类 AI 智能体传播扩散的难度。