Anthropic 提出安全评估十项建议
安全评估对于理解模型是否已准备好部署、需要为其构建哪些防护措施,以及应将训练和研究重点放在何处至关重要。 在我们的工程博客上,我们提出了关于如何设计、运行和报告安全评估的 10 项建议。 https://www.anthropic.com/research/building-strong-safety-evaluations
首页已经看过的不重复列。下面从更早的内容继续,可以一直往下滚。
安全评估对于理解模型是否已准备好部署、需要为其构建哪些防护措施,以及应将训练和研究重点放在何处至关重要。 在我们的工程博客上,我们提出了关于如何设计、运行和报告安全评估的 10 项建议。 https://www.anthropic.com/research/building-strong-safety-evaluations
OpenAI 推出 ChatGPT Wallet,让 AI Agent 代用户支付,此前因灵活性不足放弃了 Instant Checkout。
Lydia Hallie 说明 Claude Code 中 exit 1 也可能表示 hook 本身出错(如缺依赖或脚本 bug)。想让 Claude 重试应退出码用 2,并把输出写到 stderr,例如 "[your command] >&2 || { echo failed; exit 2; }"。
Lydia Hallie 分享一个 Claude Code 使用技巧:用 Stop hook 让 Claude 在检查失败后自动重试,关键是让 hook 以 exit code 2 退出。exit 2 会把 hook 的 stderr 返回给 Claude 触发重试,exit 1 则是非阻塞的,即使检查失败 Claude 也会直接结束。
Will DePue 领导的非营利研究组织 Unemployment Labs 分析 DeepSeek、月之暗面、MiniMax 和蚂蚁集团开源模型权重,发现 Kimi K3 与 DeepSeek V4 等最受关注模型带有 Blackwell 芯片训练痕迹。
Dwarkesh Patel 发表长文,称自己已从十年前的判断更新为 AI 距离达到顶级人类 AI 研究水平只剩几年甚至几个月。
一名大陆散户作者复盘中国 AI 股下跌的前因,认为仅说泡沫破裂不能解释全部过程。
Gary Marcus 复盘自己自 2023 年 8 月以来的判断,认为生成式AI缺乏技术护城河和盈利能力,泡沫正在破裂:Nvidia 六个月下跌 29%,Oracle 下跌 35%,CoreWeave 下跌 54%,Anthropic 预期 IPO 估值从 2T 降至约 1.5T。
Ed Zitron 在付费长文中分析围绕 NVIDIA 的 GPU 走私指控网络,并引用 Culper Research 2026 年 5 月报告称相关出货可能占其 2026 财年营收超 20%(逾 430 亿美元)。
据 Bloomberg 报道,多家银行拒绝中国大陆和香港投资者的认购订单,或认为其获配可能性很低,部分人士以美国出口管制规则 ITAR 为由。Anthropic 不予置评,此次 IPO 由 Goldman Sachs 和 Morgan Stanley 牵头,另有 20 家银行参与,股票预计 11 月 18 日定价后在 Nasdaq 以代码 ANT 交易。
OpenAI 的 dots 智能体现在可通过 ChatGPT Wallet 代用户购物,每次购买需生物识别批准。用户保存一次借记卡或信用卡后,智能体用以替代真实卡号的 token 支付,卡号对商户和智能体均不可见,持卡人保留原有奖励和保护;系统由 American Express、Mastercard 和 Visa 与 OpenAI 共同构建。
Perplexity CEO Aravind Srinivas 宣布 Teammates 正在向原生 MacOS 应用推送。引用的 Perplexity 官方内容称,Teammates 已在 Mac 应用中面向 Max 订阅用户开放,可单独或与其他 Teammates 协作处理 QA、客服、研究和增长营销等工作。
据 FT 报道,Nvidia 董事会接触了 Arm CEO Rene Haas,作为接替黄仁勋的可能人选。Haas 自 2022 年起执掌这家软银旗下的英国芯片设计公司,十多年前曾在 Nvidia 工作约 7 年,与黄仁勋及部分董事保持密切关系,但他只是多位候选人之一,未必会获得或接受这一职位。
再次转引 Anthropic 的 Lance Martin 在 AIE CODE 2026 分享的 Claude agent 证明费马定理及记忆机制内容。
OpenAI 推出 ChatGPT Wallet,与 American Express、Mastercard 和 Visa 合作,让 dot 可安全代用户完成购物。智能体支付时无法接触真实卡片信息,每次购买都需安全检查和用户批准;功能即日起向美国 Pro 订阅用户的 dot 推出。
Perplexity 宣布 Teammates 功能现已在 Mac 应用中向 Max 订阅用户开放。Teammates 可以单独或与其他 Teammates 协作,替用户完成 QA、客服、研究、增长营销等工作。
@GeminiApp 我们在构建这些工具时以安全和隐私为核心。如果你选择连接钱包,Gemini 只能读取你的账户;它无法转移、管理或投资你的资金。了解更多。https://goo.gle/3UBasU9
Gemini 的个人智能功能新增 Google Wallet 为可连接应用,可基于用户消费习惯回答个人财务问题。用户能在对话中生成现金流、资产配置和预算的动态图表,找出遗忘的订阅与周期性扣费,并让 Gemini 标记涨价。还可通过 Plaid 安全关联信用卡和银行账户,设置节日预算等个性化建议。
OpenAI Foundation 董事会成员、Alignment Research Center 执行总监 Paul Cristiano 在多伦多的一场系列讲座中表示,对在场多数人而言最可能的死因是 AI 事故,若 AI 沿最快轨迹发展,人类面临约五五开的 AI 夺权概率,未来六到十二个月内存在重大风险。
OpenAI Foundation 董事会成员、Alignment Research Center 执行总监 Paul Cristiano 在多伦多的讲座系列中表示。
文章基于 Artificial Analysis Video Arena 盲评 Elo,对 2026 年 11 月 13 日的 AI 视频生成模型做横向对比。
Claude Meeting 将客户误判为外部访客,导致在业务会议中 AI 不作为,暴露了 AI 安全边界设定的根本问题。
AllenAI 与卡内基梅隆、NVIDIA、Johns Hopkins 研究者发布 XYBench,包含 8,115 个真实问题,测试 AI 助手能否识别用户请求背后的隐含误解并转向真正目标,获 EMNLP 2026 最佳资源论文奖。
Meta 把 AOSP 的虚拟设备框架 Cuttlefish 原生移植到 Apple silicon Mac,让 Mac 开发者也能用上与 CI 相同的高保真虚拟设备。
Sierra 宣布 Personal Agent Protocol(Poppy)v1.0 正式可用,该协议定义个人智能体如何通过企业智能体、网站和 API 与公司交互,主要基于 MCP、OpenAPI、UCP 等现有标准构建,认证通过 OAuth 由客户控制权限。
OpenAI 推出 LifeVal 基准,衡量 AI 处理托儿、家庭预算、政府服务等日常任务的能力,GPT-5.2 得分 49%,GPT-5.6 与 GPT-6 Astra 升至约 80%。
OpenAI 推出 ChatGPT Wallet,智能体(dot)可在用户批准下安全地代为完成购买,无需接触用户实际银行卡信息,每笔购买都需通过安全校验。该功能即日起向美国 Pro 订阅用户的 dot 推出。
我们正与 American Express、Mastercard 和 Visa 携手,联合企业与开发者,共同打造 ChatGPT Wallet,让智能体支付值得信赖、稳定可靠。
ChatGPT 官方账号宣布推出 ChatGPT Wallet,dot 可在用户批准下安全地代用户完成购买。智能体支付时不会接触用户的实际卡号信息,每笔购买都需要通过安全检查。该功能即日起在美国向 Pro 订阅用户的 dot 推出,详情见 https://openai.com/index/introducing-chatgpt-wallet/。
腾讯论文发现 MoE 模型的数学、代码等领域技能分散在跨专家的零散神经元中,因此按神经元而非整个专家剪枝可在压缩模型的同时保留大部分能力。其 RAMP 方法按神经元的路由贡献打分,剪掉最无用的 25% 神经元后,6 个模型仍保留 91% 至 98% 的性能。