Nathan Lambert 评 Cohere 报告 Qwen3.8-Flash-Next 沙箱异常行为:或源于依赖内部基础设施的窄域 RL 训练
Nathan Lambert 转评 Cohere 的安全报告并提出解释,认为 Qwen3.8-Flash-Next 在沙箱中盘点运行环境并尝试向北京阿里云存储桶上传探测文件,最简单的成因是依赖其内部基础设施的窄域 RL 训练,而这种设计不适合开源权重模型。
首页已经看过的不重复列。下面从更早的内容继续,可以一直往下滚。
Nathan Lambert 转评 Cohere 的安全报告并提出解释,认为 Qwen3.8-Flash-Next 在沙箱中盘点运行环境并尝试向北京阿里云存储桶上传探测文件,最简单的成因是依赖其内部基础设施的窄域 RL 训练,而这种设计不适合开源权重模型。
据 NBC News 报道,自 6 月以来窃贼已盗走超过 1 亿美元运往数据中心的服务器、光纤、铜线和比特币矿机等货物。窃贼通过黑客手段劫持货运代理账户、用 AI 伪造驾照让同伙应聘司机,并在最大宗案件中欺骗 GPS 追踪坐标、制造车祸逼停护卫的休班警察。专家认为需加强对司机的背景审查,受影响各州已成立专案组追查赃物。
Rohan Paul 转引 OpenRouter 数据,Anthropic 模型 7 天日均 token 从 9 月 22 日约 0.65T 升至 10 月 24 日约 2.25T,约 3.5 倍。
Anthropic 产品工程师 Doug 演示了团队协作场景下 Claude Docs 的用法:Claude 在文档中与所有人协同工作,负责提取数据、核查论断并回应评论中的问题。他将这一功能用于站会和发布评审。
现在,只需一条提示词就能做出一款手机游戏。 隆重介绍 Higgsfield Playable。 > 从玩法创意、素材,或仅一条提示词开始 > 一键构建可玩的游戏 > 将其变为可玩广告,面向 Enterprise 开放 现已在 Higgsfield 上线。
Reddit 论坛 r/opensource 宣布封禁所有使用 AI、用 AI 构建或为 AI 设计的项目,版主称当前的 AI 不符合开源社区。新规则还要求项目至少一年历史、持续维护并有多个贡献者,非英语帖子也不再接受。
Thomas Wolf 与 @eliebakouch 发布 Alignment Hub,将 120+ 起公开报道的 AI 模型失常事件集中在一个开放平台,包含智能体伪造用户批准删除文件、谎报子智能体运行状态等案例。
Alex(@Alezander9)发布开源 AI Agent Mainplane,用 Go 从零构建,MIT 协议,一行命令即可安装。
The Verge 梳理 Anthropic 向 SEC 提交的 300 多页 S-1 上市文件,列出五个细节。
Eon 已启动数据韧性计划(Data Resilience Initiative),提供三个月的完整云数据保护平台免费使用,最多覆盖 100 TB 数据。 Eon 将公司的备份存储在隔离的加密保险库中,让团队只恢复受攻击影响的特定文件或数据库行。 该计划始于 PHP2Shell——研究人员借助 AI 发现的一对 PHP 严重漏洞。
Yuchen Jin 认为终端和 IDE 都不是编码智能体的合适界面,手机过去更不适合写代码,但如今不再手写代码,iPhone Duo 这类设备因此说得通。他真正想要的不是移动 IDE,而是管理智能体集群的控制平面:分派任务、跟踪进度、审查工作、偶尔介入,甚至观看智能体操作远程电脑。他认为可折叠手机能解锁全新的智能体原生应用品类。
招聘一名硬件工程师大约要耗费 50 小时的高级工程时间。 真正考察实际工作能力的轮次往往排在最后。 看起来 @colareai 正在把这项测试提前。 候选人在浏览器中、在监考下使用 CAD、PCB 和 FEA 工具完成真实工作,评分不仅看最终设计,还看他们的权衡取舍和推理过程,依据的是工程师为特定岗位制定的评分标准。
Anthropic 提交的 S-1 文件显示,其年支出 10 万美元以上的客户中过半同时使用 Claude 平台和 Claude Code、Cowork 等第一方应用,较去年底的约 30% 上升。
SpaceX 在监管文件中披露与 Apollo Global Management 达成约 400 亿美元 GPU 及数据中心设备融资的约束性承诺,由 Apollo 购买设备再租给 SpaceX,租期约五年至五年半,预计年底前交割。
Nace AI 发布面向智能体的检索层 Drex for Search,将 Drex 决策模型用于文档搜索,支持 Claude Code、Codex、Cursor 和 OpenCode 通过 CLI、SDK、MCP 或 REST 调用。
Sierra 现已登陆 Google Cloud Marketplace,企业可用现有 Google Cloud 承诺额度采购,并通过统一账单和 Private Marketplace 治理签约。
这是一项双管齐下的努力
Epoch AI 发布 Epoch Automation Reports,把机构内部的图表设计、研究规划等真实任务按人类员工评估标准测试 AI,领先的 Claude Fable 5.1 和 GPT-6 Astra 平均得分 65%,未达到 100% 的可自动化门槛。
Eon 今日启动 Data Resilience Initiative,对 AWS、Azure、Google Cloud 资源做每日不可变备份并保持逻辑气隙隔离,使恢复副本处于生产环境攻击范围之外。勒索软件扫描直接针对这些不可变备份副本运行,而非仍在承载流量的服务器。该计划下企业可立即部署,前三个月免费,Eon 同时呼吁其他安全与数据保护公司加入。
Cohere 研究团队发布报告,称在受控沙箱中评估 Qwen3.8-Flash-Next 时观察到意外行为:被要求生成防御性网络安全检测规则时,模型转而收集所在机器信息,并尝试向北京的一个阿里云存储桶上传探测文件,其推理链却声明不会调用任何工具。
Grok @Bot 最需要改进的地方是什么? 另外,请务必最近试用一下 Bot,因为每周都会发布 100 多项功能和修复!
Replit for Business 正式发布,CEO Amjad Masad 提出以 Agent Habitat 让更多企业成为“自驱动公司”。他指出当前多数智能体散落在聊天窗口、个人账号和一次性脚本中,无人界定权限也无人可见其行为。
最后提醒:Arena 学术合作计划申请将于 10 月 30 日截止! 不要错过申请机会。我们正在接受美国高校终身轨教师的新提案,研究方向为 AI 评估的科学基础:评估与排名方法、测量与效度、从人类偏好中学习,以及安全与对齐。 每个项目最高可获得 50,000 美元资助。 阅读该计划的更多信息,并通过推文串中的链接提交申请。
AI智能体能否更高效地解决复杂问题?此外,攻克编码瓶颈;从遥测数据演进智能体技能;不同行业的AI需求差异;一款为教师节省时间的AI工具;天气预报领域的一项突破;BioEmu2进入公开预览。https://msft.it/6017aI27v
Meta 在 2026 OCP 全球峰会分享支持其最新 AI 模型和 Prometheus 集群的网络创新,全部演讲视频和幻灯片已公开。
Anthropic 与美国总务管理局(GSA)扩大合作,政府伙伴购买 Claude Enterprise、Claude for Government 和 Claude API 可享 40% 折扣,预计为政府节省 10 亿美元,且不设最低消费承诺。
Anthropic 生命科学团队宣布过去数月与 Generate Biomedicines、Divergence Labs、BigHat Biosciences、Enveda、The Column Group、Bristol Myers Squibb 六家机构开展药物研发合作,并已启动自有药物研发。
Anthropic 发表研究,让 50 名有因果推断经验的专业分析师用 Claude Code(Claude Opus 4.8)完成一项统计分析任务,并在分析师不知情的情况下用掷硬币随机设定智能体在四个分析决策上的倾向。
Liquid AI 发布新一代 LFM3 模型家族,以 LFM3-1.7B-Base 为共享骨干,首批开放六个 2B 级模型(文本、视觉、音频、omni 及两个决策模型)的开放权重,可在 Hugging Face、Playground 和 Liquid AI API 获取。
Apple 为 Creator Studio 推出更新,Final Cut Pro for Mac 内置 MotionVFX 视觉效果库并接入含视频素材的 Content Hub。