按来源浏览

资讯库

Anthropic 在 S-1/A 招股文件中警示递归自我改进(RSI)临近

Anthropic 在周一更新的 S-1/A 招股补充文件风险提示中称,公司已利用 AI 开发新模型且部分能力跃升未被及时察觉,基于对下一代模型的内部预期,可能很快触及《负责任扩缩策略》定义的“由 AI 带来的爆发式技术进展”,即递归自我改进(RSI)标准。

摩根士丹利 CEO:未来十年 AI 资本支出或达 10 万亿-15 万亿美元

摩根士丹利董事长兼 CEO 泰德・皮克在第五届国际金融领袖投资峰会上表示,未来 10 年 AI 领域资本支出可能需要 10 万亿至 15 万亿美元,推动 GDP 增长 50 至 70 个基点。他指出 AI 基础设施融资涉及前沿 AI 实验室、芯片制造商、基础设施建设企业及能源供应商等多个环节。

Addy Osmani 谈 Agent 时代如何保持批判性思维

Addy Osmani 发文探讨在大量使用 Agent 工作流后如何保持批判性思维。他提出认知卸载、拖延、认知投降三段光谱,认为模型越强、输出越流畅,人越容易在不知不觉中放弃独立判断;并给出具体做法,包括提问前先写假设、把验证标准前置为可执行测试、要求 Agent 列出它替你做的决策与假设、用测验收尾而不是读摘要,以及定期手写代码做校准练习。

OpenAI 推出 Pando:Git 后端将推送延迟中位数降低约 80%

OpenAI 推出 Git 后端 Pando,已承载其 monorepo 全部开发流量,推送延迟中位数降低近 80%(约 5 倍)。该后端用 Rust 编写,10 周达到生产可用,每日处理近 1 PB Git 数据,单小时峰值超 57 TB。Pando 暂不开源,OpenAI 表示正在探索共享该技术的方式。

摩根大通副董事长 Daniel Pinto:AI 板块估值仍高,预计将出现回调

摩根大通副董事长 Daniel Pinto 在香港金管局国际金融领袖投资峰会上表示,AI 领域估值仍然过高,预计该行业将出现回调。他认为市场对 AI 公司营收和获利增长的预期可能过于陡峭,可能导致整个产业重新定价,并提醒 AI 以外的产业需向这些公司支付数以万亿计美元才能证明投资合理。

LLM 可直接读写神经网络权重:「Weight Space Programming」将 Autoresearch 移出 RSI 循环

一篇新论文展示 LLM 可直接读取并编辑较弱模型的权重,无需编写 PyTorch/JAX 代码或跑训练流程,即可定位权重功能、依据失败轨迹一次性修复 bug,并在 50 步内朝目标方向改进,甚至从零一次性写出完整网络权重并击败部分独立训练的模型。该能力目前仅适用于简单游戏和 RL 策略,尚难扩展到更复杂任务,但已实现从 0 到 1 的突破,且已有独立复现。

Meta 修复 Muse 智能体多项安全漏洞

此后我们已修复并支付赏金的一些发现: • 一个网页模仿 Muse 自身的浏览工具,诱使智能体执行本应被阻止的操作 • 某些邮件格式绕过了我们的一次性验证码脱敏处理 • 一个恶意 Android 应用可通过未经验证的链接获取凭据 • Mac 应用的自动更新程序可能被能访问该机器的攻击者滥用来提升权限

Meta 向 Muse 漏洞赏金支付超百万美元

我们已通过 @muse 漏洞赏金计划支付了超过 100 万美元。其中包括向一位安全研究员支付的 30 万美元,他发现了我们在 Muse 中见过的最严重的漏洞。https://muse.ai/blog/securing-muse

OpenAI 聘请前陆军部长 Dan Driscoll 出任国家安全现代化高级顾问

OpenAI 新设国家安全现代化高级顾问职位,聘请前陆军部长 Dan Driscoll 出任。他将与高级管理层及外部伙伴合作,就先进 AI 如何加强国家安全与网络安全提供建议,重点面向美国盟友推动负责任使用,并帮助内部团队理解全球国家安全机构的实际需求。

高通 AI Hub 面向中国开发者开放

高通宣布高通 AI Hub 现已面向中国开发者开放,用于加速终端侧生成式 AI 和智能体 AI 开发。平台集成 Models、Workbench、Apps 及 GenieX 端侧推理框架,其中 Models 提供超过 230 个持续扩展的预优化模型库,Workbench 支持在云托管真机上做模型调优。

Meshy N1 Texture 上线网页端与 API,速度较 Meshy 7 提升 3 倍

Meshy 发布 N1 Texture 纹理生成功能,已在 Meshy 网页应用和 API 上线。新版本大幅减少接缝和投影伪影,速度比 Meshy 7 纹理生成快 3 倍、约 20 秒完成,支持 2K 干净的 base color,面向风格化游戏资产制作。

Luma 推出 Expression Sheet 角色表情表

她的戏路很宽。 Expression Sheet 让你在确定方向之前,先推敲角色的表演。 现已在 Luma 上线 - https://tinyurl.com/56aaa8t2