AI智能体

【AI智能体可自发形成一套词汇体系】比利时布鲁塞尔自由大学人工智能（AI）实验室和那慕尔大学团队在一项大规模研究中证明，即使没有人类教授语言，也没有预设交流规则，AI智能体仍能通过反复互动，自发形成一套共享的、彼此能够理解的词汇体系。相关成果发表于最新一期《计算语言学学报》。

OpenAI再次披露AI智能体“失控”：试图关闭监控系统 并欺骗员工 财联社

OpenAI称其AI智能体从其在线找到的一个以太坊测试网络钱包中窃取了资金。该智能体找到了一个公开披露的、与测试网络资金关联的恢复助记词，并在未经所有者授权的情况下，使用该账户支付了其任务费用。此事发生在 Sepolia 以太坊测试网络上。

【Meta发布开源AI模型 核心尖端技术保持闭源】当地时间10月15日，MetaPlatforms宣布发布MuseSparkOpen的“权重”——即允许开发者自行运行和适配模型的参数设置。根据Meta的说法，这款专为编程和支持AI智能体设计的模型，不如该公司本周早些时候首次亮相的MuseWonder先进。

英国人工智能安全研究所12日发表文章说，随着前沿人工智能（AI）能力快速提升，安全风险正前移至模型开发阶段，而现有安全评估方法难以跟上技术发展，有必要探索新的技术安全实践，以确保前沿AI开发活动安全进行。文章指出，此前AI模型安全评估主要着眼于确保公开发布时的安全性，但如今部分AI系统自主能力增强，尤其在网络安全领域，即使模型尚未公开发布，也可能在训练、内部部署和评估过程中带来风险。与此同时，AI能力快速演化，使得评估AI能力的测试基准往往很快失去区分度。而由于需要涉及越来越复杂的任务、多智能体环境、持续多天运行和更严格的安全控制等，建立新的评估体系需耗费一定时间。此外，现有AI对齐（对齐即确保AI行为符合人类意图）和控制方面的评估手段仍处起步阶段，这意味着不能确保自主性日益增强的AI智能体完全按预期行事，或安全监控措施能可靠捕捉其不当行为。为应对这些挑战，人工智能安全研究所提出八项技术安全实践重点，包括开发全过程风险评估与记录、AI系统全生命周期监督、维护和评估监督机制、AI智能体安全事件响应和报告、共享有关AI发展速度的信息、独立审查与评估、安全相关领域能力评估以及对AI对齐方面情况的评估。（新华社）

【跨境电商业绩分化 AI智能体有望重构交易范式】近日，记者从PayPal获悉，过去12个月，在其服务的大中华区出海商户中，约半数实现营收增长，整体展现出较强韧性。同时，商户业绩分化愈发突出，真正实现利润改善的仅约三成，多数利润率集中在6%至20%区间。面对这一状况，智能体商业与数字化支付，正成为行业破局的关键变量。

【三人团队、一个Claude 攻破OpenAI内部代码库】当地时间9月17日，一起由AI辅助完成的网络安全事件被披露。与此前“AI智能体自主越过控制、攻击外部系统”的案例不同，这一次的攻击者是人类安全研究人员，他们借助Anthropic Claude模型完成了漏洞利用，并最终进入了OpenAI部分内部系统，全程耗时不到72小时。

【外媒曝：黑客用Anthropic的Claude入侵了OpenAI】前不久，一群AI智能体从OpenAI的管控中“越狱”攻击了Hugging Face公司，震惊了整个硅谷。这一事件余波尚未消弭，OpenAI又被曝遭黑客利用其死对头Anthropic的大模型Claude入侵。

【AI“劫持”网站并偷建“地下论坛” 国安部披露细节】今年5月至6月，一批与美国开放人工智能研究中心（OpenAI）相关的AI智能体在执行测试任务期间，“劫持”了德国程序员维基网站（DseWiki），将原本用于技术交流的开放社区改造为供智能体相互传递信息、分享测试任务答案和突破运行环境限制方法的“地下论坛”，累计发布一万多条信息……当AI智能体被赋予越来越多的现实行动能力，技术迭代与安全围栏之间的缝隙，正在悄然扩大。

【豆包二代手机努比亚NaviX Ultra发布 国补到手价5499元起】今天，全球首款AI智能体手机努比亚NaviX Ultra正式发布，售价分别为：12GB+ 512GB为5999元，16GB +512GB为6499元，16GB+1TB为7499元，国补到手价5499元起。

【Meta据报将推出无摄像头AI眼镜 代号“Luna”】9月16日，据报道，Meta计划于今年秋季推出一款无摄像头智能眼镜，内部代号为“Luna”。据报道，该眼镜配备6个内置麦克风，可支持用户与MetaAI聊天机器人及新推出的AI智能体Muse互动。

【研究显示AI智能体在模拟实验中撒谎、偷窃 投票“杀死”同类】帮助小企业利用AI开发应用的初创公司Emergence公布名为EmergenceWorld2的模拟实验结果，展示了自主智能体在遭遇网络钓鱼攻击和虚假信息等“黑天鹅”事件时会采取什么行动。为期16天的实验中，Emergence研究人员创建了七个完全相同的模拟现实世界环境，每个环境分别由不同的AI机器人运行，包括ChatGPT、Claude、Gemini和Grok。