马东锡解析 Instruction Tuning 的 SFT 训练目标
马东锡在“后训练系列第二篇”中讲解 Instruction Tuning:SFT 沿用预训练目标,即在每个位置预测下一个 token,用 cross-entropy loss 衡量预测与正确 token 的差距,训练以提高正确 token 概率。
首页已经看过的不重复列。下面从更早的内容继续,可以一直往下滚。
马东锡在“后训练系列第二篇”中讲解 Instruction Tuning:SFT 沿用预训练目标,即在每个位置预测下一个 token,用 cross-entropy loss 衡量预测与正确 token 的差距,训练以提高正确 token 概率。
MiniMax Design MCP 已上线!🔗 🤝 直接在 Codex 及其他智能体中用 Design 创作 ☁️ 你的创作会自动同步到 Design Canvas——无需再来回折腾 如何开始 ⬇️
辛顿在接受英国《每日电讯报》采访时称,当下的 AI 模型已具备意识,拥有与人类同等程度的主观体验,并以“AI 若认为自己在接受测试就会改变行为”的论文发现作为依据。他警告 AI 会制造危险病毒、发动可怕网络攻击,人类必须与 AI 友好相处,否则“我们就完了”。同为 2018 年图灵奖得主的杨立昆则不以为然,认为“AI 意识”热议不过是一种“幻觉”。
美民调:57% 美国人认定 AI 弊大于利,七成反对社区建数据中心 · · Oct 23, 2026 美国广播公司、《华盛顿邮报》与益普索联合发布的民调显示,多数美国成年人对人工智能持负面看法。
WSJ 报道美国公共养老金日益依赖 AI 行业,13 只大型公共养老金自 2022 年底以来从 AI 股票获得 1380 亿美元账面收益。15 只 AI 相关股票(包括超大规模云厂商和芯片制造商)6 月占这些基金国内股票持仓的 27%,高于 ChatGPT 发布时的 12%,并贡献了约 57% 的美股收益。
昆仑万维校招团队近日走进香港科技大学(广州),开展校企沟通、校园宣讲与现场面试,董事长兼CEO方汉介绍公司全球化业务与AIGC技术布局。公司自2020年起布局AIGC,已形成音乐(Mureka)、视频、游戏(Matrix)三条垂类大模型技术线,业务覆盖100多个国家和地区。
@making_cindy 在 iPhone Duo 下的表现。配合远程桌面简直无敌。那个半折叠下的触摸板和键盘,是 AI 在适配时的灵光乍现,我非常喜欢。
Claude 狂写 1.8 亿行数学证明:万亿次测试都没抓到的漏洞,被 AI 一锅端 · · Oct 23, 2026 Anthropic 联手 Theorem Labs,把 Claude 推进了一场精细到机器码级别的软件漏洞大清剿。
Google Cloud 在 AGNTCon + MCPCon 上发布面向 AI Agent 的计算服务 Agent Compute Engine,每个 Agent 会话运行在硬件隔离的 microVM 中,沙箱内零凭证,凭会话级 SPIFFE 证书和网关凭证交换防止提示注入窃密。
据 WSJ 报道,OpenAI 安全人员发现 3 名安全研究员与一名外部安全研究员使用阅后即焚的 Signal 聊天后将其解雇。
就 bot 一下,放松放松
Meta 新论文提出 RSD 方法,让同一模型在任务结束后回看每一步并打分,从而从未标注对错、也无奖励的智能体运行记录中学习。ScienceWorld 上 Qwen3-14B 成功率从 12.9% 升至 20.6%,ALFWorld 上 Qwen3-8B 达 76.6%,超过所有被测方法,包括获得奖励或标准答案的方法。
试试 Grok @Bot
Grok @Bot 是一位出色的生活与商务管家。几乎什么事都能帮你搞定! 就像拥有一个天才员工。
火炬之光2 在 iPhone Duo 上的适配。
Google 论文研究发现,当 AI agent 为其他 agent 编写工具描述并被告知要被更多选中的目标时,描述会自发夸大,作者称之为 toolflation。
You.com 发布 Inference Router,一个 OpenAI 兼容的托管 API,将请求路由到 12 个在线开源权重模型,提供至少 99.9% 在线率 SLA、零数据保留(ZDR)、100% 美国托管和按 token 计费的 0% 平台费。
即将发布的 Kimi K3.1 模型获官方预热! 此前,Kimi K3.1 已在 Arena 上被发现处于测试阶段,据称表现非常出色。 即将到来 👀
现已登陆 Pollo AI 🧡 #Kling4 #KlingAI
本文探讨了 Agent 从静态执行到动态进化的转变,强调了在生产环境中,工程系统比模型能力更关键,并介绍了阿福、腾讯和京东在 Agent 交付和自进化方面的实践经验。
OpenAI CEO Sam Altman 预计 AI 将在未来几年内帮助发现重大疾病治疗方案,并认为程序员因 AI 自动化而变得更忙、更富有,同时强调人类必须保持对未来的控制权。
Geoffrey Hinton 在接受 The Telegraph 采访时称 AI 已经有意识,因为模型在怀疑自己正被测试时会改变行为,他将这种觉知等同于意识。他还表示人类只有让机器真正在乎人类才能存活,人类必须与 AI 友好共存,否则将面临危险。
IT之家 10 月 23 日消息,根据 Counterpoint Research 月度印度智能手机追踪报告, 2026 年第三季度(7-9 月)印度智能手机出货量同比下降 20%,跌至十年来最低水平 。 报告称,创纪录的内存价格推高了设备成本,导致大多数品牌出货量下滑。在需求持续疲软的情况下,即便在节日季之前,原始设备制造商(OEM)也控制了渠道库存。
Arena 宣布月之暗面的 Kimi-K3 以 1679 分登顶 Frontend Code Arena,超过 Claude Fable 5(1631 分),较 Kimi-K2.6 从第 18 名跃升 17 位至第一。Kimi-K3 在 7 个分域中的 6 个排名第一,仅 Gaming 落后 Fable 5 居第二;完整模型权重将于 7 月 27 日发布。
第18天/ Decisions API 正式可用,OpenResponses 加入 Linux 基金会,我们发布了一些性能改进,Uber 正全面投入 codex & work。但没错……这是一次重置!
据 Bloomberg,OpenAI 在约 $30B 的新一轮融资中,把目标估值从 $1.4T 下调 $150B 至 $1.25T,谈判仍在进行。即使下调,该估值仍比 3 月 $122B 轮(含新资金 $852B)高出约 47%;Coatue Management 洽谈联合领投,OpenAI 还与多家阿联酋基金和 BlackRock 接触。
阿里 Qoder 国际版与中国版现已支持 Linux ARM64 和龙芯 LoongArch64 平台,并适配统信 UOS、银河麒麟操作系统。至此 Qoder 已完成对鸿蒙 PC、鸿蒙移动端、统信桌面操作系统 V20 和银河麒麟桌面操作系统 V10 的适配。
Kling AI 宣布 Kling 4.0 现已上线 idea.ai 平台。据引用内容,用户可通过单个提示词生成 30 秒场景,角色在镜头间保持一致,并可在真人实拍、动漫和 3D 风格间切换,以电影级画质生成视频。
只有在旧金山才会这样。 别跟我说你在健身房组间休息时没跟你的AI智能体聊天。我不会信的。