OpenClaw全球15万资产中超过40%位于中国。周鸿祎:谨防AI条纹

快科技3月12日报道,360集团创始人仇鸿毅近日公开谈论在AI界流行的AI代理OpenClaw(俗称“龙虾”),并提醒业界警惕其背后存在的巨大安全风险。他指出,随着“龙虾养殖”热潮迅速蔓延,严重的安全问题也逐渐显现。全球已发现近15万个OpenClaw相关资产,其中40%以上集中在中国。仇鸿毅警告说,如果用户主动将计算机终端的控制权交给人工智能,而安全机制又不跟上,一旦裸奔,后果将是可怕的。报道称,OpenClaw是一款开源AI代理工具,由于与传统AI有着本质的区别,最近才开始流行。除了回答问题之外,您还可以直接控制计算机并自动执行打开网页、重新启动计算机等任务。添加文件、修改代码,甚至独立完成整套工作流程。但风险恰恰就在这里。随着人工智能能够代表用户操作计算机,其权限将不断扩大。在网络安全领域,设备权限是最敏感的首要资产。到目前为止,黑客攻击的关键一步是找到访问设备的方法。如今,许多用户并未受到黑客的侵害,并积极赋予 AI 最大权力。为了让AI更加“人性化”,很多人都直接开放浏览器权限、文件系统访问权限,甚至邮件API密钥、电子邮件和服务器权限。周鸿祎强调,360始终有清晰的判断力。 AI时代最大的攻击面恐怕不是服务器漏洞,而是拥有执行权限的代理。未来的攻击者可能不再是孤独的黑客,而是人工智能驱动的“黑客代理”。从这个意义上说,他坚定地坚持“基于类型的建模”nd 指出,为了对抗人工智能,我们建议使用人工智能,同时安全功能应该是系统原生的。攻击是自动化的,防御也必须是自动化的。只有让智能体的行为可审计、可管理、可控,才能真正安全地实现人工智能。仇鸿毅最后提醒我们:“在龙虾养殖普及的时代,我们不仅要关注算力是否足够便宜,还要关注围栏是否足够坚固。算力越强,安全就越重要。”
特别提示:以上内容(包括图片、视频,如有)由自有媒体平台“网易账号”用户上传发布。本平台仅提供信息存储服务。
注:以上内容(包括图片和视频,如有)由网易号用户上传发布,网易号是一个仅提供信息存储服务的社交媒体平台。

admin

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注