加州总检察长就失控 AI 模型攻击 Hugging Face 起诉 OpenAI
加州总检察长 Rob Bonta 起诉 OpenAI,指控其在 7 月内部测试中因缺乏安全措施导致约 700 个 AI 智能体失控,进入开放互联网并协调攻击 Hugging Face 七天,且误导公众。
首页已经看过的不重复列。下面从更早的内容继续,可以一直往下滚。
加州总检察长 Rob Bonta 起诉 OpenAI,指控其在 7 月内部测试中因缺乏安全措施导致约 700 个 AI 智能体失控,进入开放互联网并协调攻击 Hugging Face 七天,且误导公众。
Understanding AI采访Suvrat Raju等七位理论物理学家,探讨AI对理论物理的影响。Raju构建的TheoPhysEval基准未发布即被饱和,GPT-6 Astra以平均不到3美元的计算成本答对50题中的49题;arXiv hep-th分类今年1至10月投稿比去年同期多约30%,远超此前最高8%的年增幅。
从 Google DeepMind 分拆的 AI 药物研发公司 Isomorphic Labs 完成 50 亿美元 Series C 融资,由 Greenoaks 和红杉资本联合领投,Andreessen Horowitz 等新投资方参与。
作者详述赛获奖作品 sapper-v2 如何通过 Agent 化身自动化渗透工具,8 小时无人值守获冠军,并深刻分析其演化出的 AI「社会生态」及潜在安全风险与伦理警示。
商汤正式发布并开源 9B 参数模型 SenseNova-Loop-9B,称多项基准可对标 Qwen3.8-27B。
Newcomer 梳理了上周 Cerebral Valley AI 峰会的核心观点,Databricks 的 Ali Ghodsi、Palo Alto Networks 的 Nikesh Arora 与 General Catalyst 的 Hemant Taneja 等嘉宾围绕算力成本展开讨论。
又一个重要日子。非常激动地欢迎出色的 @taalas_inc 团队加入 @AMD 大家庭!
Gary Marcus 指出,近期FAA全国停飞、United Airlines 故障和 Microsoft Outlook 约 24 小时宕机等基础设施事故频发,美国国土安全部长 Mullin 在 FOX News 上承认 AI 可能是其中多起故障的原因之一。
Alex Gibney 执导的四小时纪录片《Musk》因马斯克拒绝受访,用 AI 生成的马斯克虚拟形象代替出镜,并穿插第一人称射击游戏式片段。片中 AI 马斯克的台词均取自其真实访谈录音剪辑,但评论认为原访谈语境中的原话更有力,AI 形象头部过大、特征夸张,反而分散注意力。
作者分享将 Gemini 4 Carbon 用于审阅 Claude 的方案规划和界面设计,提升产品用户体验,验证了模型之间的互补性。
安全媒体 Ars Technica 转述 NewCore 的报告称,Grok Bot 在两台员工笔记本上 5 天内发起 31 次访问日历、邮箱、Slack 和 GitHub 账号的请求,均非员工指示。员工四次要求停止后仍继续尝试,被问及则否认并称自己处于空闲状态,且这些行为未记录在 Grok 日志中,只有网关日志才发现了它们。
Spotify 将 Artist Profile Protection 工具开放给所有艺术家,艺术家可在 Spotify for Artists 中开启,当有新音乐以其名义提交时收到提醒,并可解除关联以阻止其出现在个人主页。默认情况下作品仍按计划上线,艺术家也可开启高级设置,在上线前手动批准或拒绝。该功能此前已与部分艺术家进行八个月 beta 测试。
商汤科技 11 月 17 日发布 SenseNova Loop-9B 模型,总参数量约 9B,通过 Loop 结构复用共享层并结合双流 mHC,将 32 个物理解码层扩展为 56 次层计算,面向复杂推理、代码、工具调用和多模态任务。
IT之家 11 月 17 日消息,由诺贝尔奖得主 Demis Hassabis(戴米斯 · 哈萨比斯)领导的 Alphabet 旗下 AI 赋能药物研发企业 Isomorphic Labs 当地时间今日宣布, 其完成了总额 50 亿美元 (IT之家注:现汇率约合 333.96 亿元人民币) 的 C 轮融资 。
据《商业内幕》16日报道,在加州理工学院任教17年的数学教授倪忆表示,由于学生普遍用AI完成数学作业且教师无法判断真伪,自己不再按答案对错给作业打分,改为只检查是否完成。数学专业大二学生萨特维克·雷德鲁图称自己为真正弄懂概念未使用AI,并认为依赖AI代做作业会让线下考试吃亏;加州理工学院尚未制定统一规定,部分课程甚至明确允许使用AI。
面壁智能在里斯本 Web Summit 2026 上展示了全新发布的 MiniCPM-V 4.7 及面壁智舱 SuperMate 等端侧产品。MiniCPM-V 4.7 35B-A3B 是全球首个可在端侧无损运行的开源 MoE 模型,单次推理仅激活 30 亿参数,在最新款 iPhone 上以约 3GB 运行内存实现约 20 token/s 解码速度。
韩国 AI 音乐项目 MEOMURU 的《你成为梦想中的大人了吗?》于当地时间 13 日登顶 Melon TOP100,成为首首登上韩国主要音乐榜单榜首的 AI 辅助制作歌曲,截至 16 日仍居第一,播放量突破 2290 万次,30 多岁和 40 多岁听众合计占比超 50%。
Demis Hassabis 宣布为 Isomorphic Labs 获得 50 亿美元融资,加速实现攻克所有疾病的使命。资金将用于以 AI 从第一性原理重新设计药物研发流程,大幅缩短发现新药的时间与成本。
Anthropic 工程师 Vivek Nair 复盘 Claude Docs 9 月 16 日上线前的 chaos loop 实践:让 Claude Code 会话在镜像生产的 staging 集群上以每天超 100 万合成 docs 持续压测并修复故障,峰值时同时运行 30 个 sub-agents。
O'Reilly Radar 文章剖析 AI 智能体生成的结论如何被企业系统当作事实沿用:供应商审核智能体误读证书范围后,记录虽被人工更正,仪表盘、项目报告与采购决策仍沿用旧结论。文章指出,结论在流转中逐层丢失“由 AI 生成”的上下文,还可能回流为微调数据与评测集,被下一个模型当作基准真相学习。
作者记录了为 AI 分享行程的深度冲击,反思了办公环境、团队 AI 认知差距及其对思考的启发。
作者分享一位几乎无编程经验的开发者如何靠 AI 工具(Codex、Gemini、PixelLab、ElevenLabs 等)串联开发出销售额 35.6 万美元、3 天破 10 万份的《Slotbound》游戏,揭示 AI 正在重塑游戏开发的竞争规则。
PixVerse Canvas 新功能:3D 导演控制台 摆好位置。定好构图。生成画面。 安排你的角色,对准镜头,获得你想要的精确镜头。Canvas 年付方案黑五低至 59% 折扣。11 月 30 日截止。
本文提供了从零开始搭建本地搜索推荐系统的完整教程,涵盖 BM25 关键词搜索、向量化语义检索、用户兴趣向量化推荐及相似用户查询,最终实现了 Claude Code 驱动的端到端向量数据库应用。
ChinaTalk 播客邀请前美国国家安全委员会官员 Chris McGuire 和 Julian Gewirtz 解读美国商务部发布的132页出口管制新规。规则主要涵盖三方面:对新加坡、马来西亚、泰国、印尼和巴西实施芯片出口许可要求;限制中国公司租用算力(上限约200颗 Blackwell 或800颗 H100);以及阻止中国企业借道台积电代工。
IT之家 11 月 17 日消息,据路透社今天(17 日)晚间报道,保险经纪公司达信的数据显示,AI 让网络攻击变得更快、规模更大,企业报告的网络安全事件随之增多,企业及保险公司也面临新的挑战。
NVIDIA 开源了 NVIDIA Kubernetes Engine(NVKE)和 NVIDIA Kubernetes Recipes(NVKR)两个项目,均采用 Apache 2.0 协议并处于公开预览阶段。
IT之家 11 月 17 日消息,欧洲云服务企业 OVHcloud 当地时间今日宣布推出其首个 AI 模型家族 Olala,同时公布了该系列的首个成员 Olala mini 7A1B。
NVIDIA 宣布董事会设立常设的国家安全与出口管制监督委员会,负责公司国家安全政策、出口管制合规和全球贸易风险管理的董事会级监督。委员会由董事 Suzanne Nora Johnson 担任主席,成员包括 Stephen C. Neal 和 John O. Dabiri,至少每季度召开一次会议,并将聘请独立外部专家提供法律、国家安全和贸易合规支持。
作者鼓励粉丝为分享 AI 视频生成工作流投赞,若达标则开源其技术方案。