Baseten 智能体推理优化:引擎提速 50-90%
Baseten称,其LLM生成的推理引擎在Qwen-3.6-35B-A3B上单流解码最高比vLLM 0.25.1快90%。该测试以NVFP4精度运行于单块B200,TTFT快2.33倍,使该模型此前并不实用的超低延迟场景成为可能。方法受MetaInfer启发,无需模型后训练即可从零构建专用推理引擎。
Baseten称,其LLM生成的推理引擎在Qwen-3.6-35B-A3B上单流解码最高比vLLM 0.25.1快90%。该测试以NVFP4精度运行于单块B200,TTFT快2.33倍,使该模型此前并不实用的超低延迟场景成为可能。方法受MetaInfer启发,无需模型后训练即可从零构建专用推理引擎。
Anthropic宣布推出Claude Frontier Academy,计划投入1亿美元,在2027年底前培养1万名前沿部署工程师。首批学员来自埃森哲、贝恩、凯捷、德勤、麦肯锡、摩根士丹利、诺和诺德和澳大利亚联邦银行,先参加数天由Anthropic工程师授课的线下培训,覆盖应用场景选择、安全审查和项目移交,通过考核后回本机构负责一个真实Claude项目并驻训12周,预计2027年初取得认证。
三星官网显示,国行 Galaxy S26 系列建议零售价上调 800-1800 元,7799 元起。鸿蒙智行宣布问界 M6 推出限时 3 年 0 息购车,首付 6.98 万元起。知情人士称 Anthropic 最早可能于 11 月 9 日当周启动 IPO 推介、争取感恩节前挂牌,古尔曼认为苹果最快本月发布触控 OLED 屏 MacBook Pro,配 M5 Pro / Max。
据 Anthropic 发布的案例介绍,巴克莱扩大与其合作,将 Claude 用于员工知识查询、邮件处理和软件开发。该行计划到 2026 年底让 50% 的开发人员采用 Claude Code,2027 年覆盖多数软件工程师。Anthropic 称,其知识助手已有超过 16,000 名员工使用、处理逾 100 万次检索;全球市场业务相关平台每日处理约 120,000 封邮件。这是海外银行案例,不代表中资银行已部署或相关效果已在国内复现。
丘成桐参与的最新论文在致谢中感谢GPT 6 Astra和Claude Pro,称它们在部分证明策略的探索和计算中提供了帮助。该论文宣称已证明七维空间全部28种球面都能配上截面曲率严格为正的度量,这一问题由丘成桐于1982年列入其问题清单。