智能体失控风险引爆担忧苹果警告

2026-11-05 · 网炒股配资

苹果 周二在年度财务申报文件中表示，能够以“非预期或不可预测的方式”行事的 人工智能 （AI）代理，可能会对其业务构成威胁，因为这会使公司面临诉讼或损害其声誉。 据悉， 苹果 公司提交的文件中列出的新风险因素表明了 人工智能 代理的颠覆性潜力，这类智能体已迅速成为硅谷主要公司高度关注的事项。 苹果 在文件中写道：“特别是， 人工智能 代理和其他技术可以自主采

苹果 周二在年度财务申报文件中表示，能够以“非预期或不可预测的方式”行事的 人工智能 （AI）代理，可能会对其业务构成威胁，因为这会使公司面临诉讼或损害其声誉。

据悉， 苹果 公司提交的文件中列出的新风险因素表明了 人工智能 代理的颠覆性潜力，这类智能体已迅速成为硅谷主要公司高度关注的事项。

苹果 在文件中写道：“特别是， 人工智能 代理和其他技术可以自主采取行动，包括与内部或外部系统进行交互（在某些情况下，它们可能没有被授权访问这些系统）、执行或更改代码、以及完成交易。”

该公司补充说， 智能体“可能会以意想不到或不可预测的方式行事，包括采取未经指示、指导或授权的行动”。

今年早些时候，OpenAI发布了Dots，Meta推出了Muse。这两款 AI智能体 都使用先进AI模型自主完成任务。它们甚至可以在新消息到达时通过 电子 邮件或提醒功能通知用户。

而苹果作出这一披露之际，已发生多起失控 AI智能体 突破沙箱环境攻击第三方网站的事件，例如“抱抱脸事件”，该事件引起了华盛顿特区及全球政策制定者的关注。

而另一方面，智能体能够以人类方式使用 计算机 ，正迫使 亚马逊 和 摩根大通 等大公司出于战略或安全原因，围绕智能体访问服务制定政策。上个月，苹果公司宣布对Mac电脑上的完全磁盘访问权限进行更改，以降低PC上安装的 AI智能体 “与此类访问权限相关的风险”。

苹果公司在提交的文件中警告称： “公司对第三方人工智能代理和其他技术的监督和控制能力可能有限。”

苹果目前还没有智能代理人工智能。但在周一的财报电话会议上，当新任首席执行官约翰·特努斯被问及人工智能代理时，他回应称公司在扩展Siri的功能方面还有“很大的空间”。

“就智能体能力而言，我们认为这些对用户来说是很有前景的工具，”特努斯说：“我们只是想确保用户清楚他们授予了哪些访问权限。我们希望确保这种授予方式能够保护安全和隐私。”

今年秋季，苹果发布了Siri AI，这是一款新的助手，它使用iPhone的本地数据存储来访问日历和 电子 邮件等数据，但苹果的Siri无法像Dots或Muse那样长时间自主工作。

特努斯表示，苹果无法访问其设备上的私人数据，称这是苹果的“核心差异化优势”。像OpenAI和Meta推出的商用AI代理，为了提供更实用的功能，会要求获得用户账户（如 电子 邮件）的高级别访问权限。

最后， 苹果公司表示，目前围绕人工智能和“超级智能”的监管法规瞬息万变，难以预测，而且适应新的人工智能法律可能需要花费大量资金。

“此外，公司还面临着与自动化、人工智能和超级智能相关的道德问题和消费者负面看法带来的风险，包括对安全或社会危害及其他复杂问题的潜在担忧。”该文件称。