LoRA 与 QLoRA 如何用一块 GPU 微调大模型
作者以模式(列向量乘行向量)为核心概念,讲解低秩近似、LoRA 与 4 位量化的原理:LoRA 冻结原有权重只训练新增的 r 个模式,量化用 NF4 分块缩放压缩存储。
第 112 页
作者以模式(列向量乘行向量)为核心概念,讲解低秩近似、LoRA 与 4 位量化的原理:LoRA 冻结原有权重只训练新增的 r 个模式,量化用 NF4 分块缩放压缩存储。
美光下一代存储芯片 G11 在相同硅片上可容纳约两倍于当前 G9 的数据,堆叠层数从 276 层提升至 400 层以上,传输速度最高提升 1.5 倍,每 bit 搬运能耗降低超 25%。该芯片面向 AI 数据中心大量采购的大容量 SSD,预计 2027 年下半年量产,搭载 G11 的硬盘会更晚上市,美光未透露每 GB 成本降幅。
Rohan Paul 引用 NYU 教授 Aswath Damodaran 的观点:AI 若只是工具市场规模会小得多,$10-$15T 的最佳情形只有在 AI 替代人时才会实现。他认为这一叙事意味着约一半白领可能失业,并质疑届时谁来提供购买产品和服务的收入,以及社会如何应对失去收入与生活意义的问题。
月之暗面发布 Kimi K3.1 Pro,2.8T 参数 MoE 模型(104B 激活)、1M 上下文,已在 Kimi 网页、移动端和 API 上线,开放权重定于 11 月 4 日。
本文指出,个人 AI 代理(Personal agent)在推广至中国县城时面临一个根本性问题:由于县城居民的收入水平和生活成本较低,他们能够从 AI 节省的时间中获得的经济价值不足以覆盖使用 AI 的成本,导致订阅模式难以成立。
IT之家 10 月 24 日消息,当地时间 23 日,据瑞典国家公共广播公司 Sveriges Radio 报道,瑞典政府办公厅将从下周一起禁止工作人员 通过办公电脑直接访问 ChatGPT 和 Claude ,要求员工改用微软 Copilot 等获得批准的 AI 服务。 内部资料显示,该国政府办公厅还对 Copilot 进行了审查,并进一步加强了安全防护。
特赞科技在上海举办的 AI 论坛指出,企业级 AI 转型不能仅靠购买通用 Copilot,而必须构建基于企业上下文的智能体(Agent),以理解组织规则、参与复杂决策并推进长周期任务,从而实现真正的业务价值。
🤣👏🤣 (引用推文大意:@trq212 问 @lydiahallie:“等等,是我一个人觉得 Opus 5.5 变笨了吗?”)
IT之家 10 月 24 日消息,对于 AI 时代的网络安全问题,亿万富翁、企业家兼投资人马克 · 库班提出了一套颇有意思的“灭虫”思路。 据《商业内幕》今天(24 日)报道,库班将大量 AI 智能体发动的网络攻击比作蟑螂入侵:即使房屋刚刚喷过杀虫剂,蟑螂仍能找到钻进去的办法。
Dimension Capital 通过访华交流重新审视中美 AI 竞争格局,指出出口管制催生中国全栈效率文化、中国开源模型已进入西方生产技术栈、两国各自面临电力与芯片的稀缺约束,且收入差距接近两个数量级。
精英大学的学生们正在放弃传统的高薪实习,转而投身于充满不确定性的 AI 创业,希望在技术革命的窗口期抓住机会,定义未来的科技格局。
极客邦科技在 QCon 上海 2026 上宣布使命升级,模力工场升级为企业 AI 落地服务平台,核心解决 AI 落地中信任与信息不对称的供需匹配问题。
长沙通过将现有制造能力(如钨丝、3D 打印、精密加工)平移到具身智能领域,并利用丰富的工业场景进行验证,成功吸引了多家机器人企业,形成了从零部件到整机再到应用的完整产业链。
IT之家 10 月 24 日消息,澳大利亚悉尼一名男子戴维 · 兰 · 萨克雷向 Anthropic 的聊天机器人 Claude 透露,自己想杀害住所附近一家托儿所的儿童,随后被警方逮捕。 据《悉尼先驱晨报》报道,29 岁的萨克雷与 Claude 的对话 引起了国际刑警组织注意 ,随后于当地时间 18 日被警方拘留。
能用 vaults 的话,谁还需要 1password 呢 👀
西安交通大学、上海交大、浙大研究表明,在长期对话中,简单的 RAW-RAG(仅稠密检索+重排序)在 6 个基准中排名第一,准确率最高达 93.70%,且摄入成本仅为最慢系统的 1/83,证明复杂记忆管理并非必需。
英国国防大臣建议大家“准备好一些日常必需品……每人每天三升水、罐头食品……够维持几天” 以应对这个动荡而危险的网络攻击时代 大家最担心的是我们的支付系统被攻陷
月之暗面发布旗舰模型 Kimi K3.1 Pro,参数 2.8T,支持 100 万 Token 上下文,完整模型权重预计 11 月 4 日前开放。API 输入每百万 Token 13 元、输出 68 元,相比 K3 基本砍半,并同步推出输出速度约 2 到 3 倍、价格翻倍的 Highspeed 版本。
Kimi 发布 K3.1 Pro 旗舰模型,参数规模 2.8T、支持 100 万 Token 上下文,在 3D 能力和视频动效上已能与 GPT-6 Astra 正面竞争,API 价格仅为海外竞品的五分之一,是国产模型在旗舰层面的真正突破。
IT之家 10 月 24 日消息,亚马逊 CEO 安迪 · 贾西认为,AI 推理成本仍然太高, 要让 AI 广泛应用于企业软件,成本还需要降至目前的约十分之一 ,而亚马逊自研芯片有望帮助降低成本。 贾西在风险投资机构 a16z 当地时间 23 日发布的采访中透露:“在我看来,要让 AI 得到尽可能广泛的应用,推理成本仍然高了一个数量级。
作者转引 Tibo 的方法:按买家分段设计 3–4 个有固定脸的 AI 创作者,用 Agent 每日搜爆款、改写成角色口吻、同脸渲染并提前 24 小时排期,产品只占视频一拍。流程共 9 步、12 条提示词,接 Revid MCP 建角色库,账号 bio 标明 AI、禁假评测与健康收入宣称,只排期不直发留人工复核,三周数据平则改人设。
arXiv 论文(2610.30755)显示,仅对原始对话历史做稠密检索加重排的 RAW-RAG,在 LoCoMo、LongMemEval、MEME、MemoryAgentBench 的 7 组基准×模型中有 6 组排名第一,比最强 agentic memory 系统高 0.13–5.53 分。
让我的 @bot 去查了一下外卖盒怎么折叠,用于我的 og:video。结果发现这项专利是 1908 年的 🤯
据 axios 报道,Meta 已收购 AI 数据分析平台 Sundial,其两位联合创始人均为 Meta 旧部:CEO Julie Zhuo 曾任 Meta 产品设计副总裁,Chandra Narayanan 曾任 Instagram 及红杉资本数据分析主管。
月之暗面发布 Kimi K3.1 系列首个模型 Kimi K3.1 Pro,为 3T 级开放权重模型,上下文窗口 100 万 token,并同步推出速度快 2-3 倍的 Kimi K3.1 Pro Highspeed。
Claude Code v2.1.310 新增 Monitor 工具和插件监控,覆盖 Bedrock、Vertex 与 Foundry,并在禁用遥测或非必要流量时同样生效。
OpenAI 当地时间 23 日宣布,今后将用缓存的网页内容和模拟互联网环境训练模型,不再让模型直接接入真实互联网,理由是模型行为难以预测、联网训练存在安全隐患。
作者通过实测 Kimi K3.1 Pro,认为其整体能力仅次于 GPT-6-Astra 和 Claude Opus 5.5,在审美和 3D 方面表现突出,标志着国产模型进入可替代阶段。
第 19 天/一些小更新。dots 的通话连接快多了,在 codex 中更改推理以及在对话中途继续工作不再使缓存失效,我们还更新了 codex cli。