资讯栏目 · CHANNEL

大模型

追踪大模型前沿:新模型与版本发布、能力与成本评测、训练与推理技术进展。

已收录 363 篇 · 持续更新
置顶文章 · 大模型

一篇读懂 PD 分离:Prefill 与 Decode 为什么不再挤在一个 GPU 里

同一块 GPU 上,prefill 是计算受限的短跑冲刺,decode 是带宽受限的长跑——挤在一起互相拖累,一个长 prefill 能把解码速度拖慢最多 30 倍。本文讲透 2026 年成为默认架构的 PD 分离:干扰从哪来、KV cache 怎么搬、DistServe 与 Mooncake 交出的成绩单,以及什么时候该拆、什么时候千万别拆。
来源:原创2026-10-24阅读 63·访客 55
阅读全文 →

全部文章

ARCHIVE 共 363 条
大模型能力提升路线图:从"堆参数"到训练全栈 + 外层程序
把 2026 年可核查的公开证据整理成一张六层能力路线图——预训练、后训练 RL、推理时计算、上下文与记忆、智能体与 Harness、世界模型。含 Meta ScaleRL 40 万 GPU 小时实验结论、RL 预算占比 10%–30% 口径、Chinchilla 对比、Meta-Harness 6x 差距等数据锚点,并给出优先级表与算法工程师/产品经理的行动建议。
大模型 精选 · 本站原创 · 9-10 阅读 439·访客 415
DeepSeek-R1最大的贡献是什么?
解读 R1 在强化学习范式下的推理能力涌现,及其对开源生态的影响
大模型 精选 · 原创博客 · 3-2 阅读 118·访客 111
大模型工作原理全解析
Tokenizer 的工作机制:BPE 分词、上下文窗口与计费逻辑
大模型 精选 · 原创博客 · 2025-02-26 阅读 125·访客 125
LLM周边一览
大语言模型的基本原理、发展脉络与能力边界总览
大模型 精选 · 原创博客 · 2024-05-25 阅读 124·访客 122
ollama 和 langchain 实现的知识库问答
用 LangChain 搭建 RAG 应用的组件拆解与代码实践
大模型 精选 · 原创博客 · 2024-05-08 阅读 362·访客 362
GPT-2模型微调
从零微调 GPT-2 的完整流程:数据准备、训练与效果评估
大模型 精选 · 原创博客 · 2024-04-26 阅读 511·访客 509
大模型搜索增强生成技术
检索增强生成的核心流程:向量化、检索、重排与生成
大模型 精选 · 原创博客 · 2024-04-09 阅读 169·访客 168
Google 发布 Gemini 4 Carbon:登顶 Artificial Analysis 智能指数,主打编码与网络安全
Google 发布前沿模型 Gemini 4 Carbon,以 59 分登顶 Artificial Analysis Intelligence Index v5.0,在编码、智能体与网络安全上显著提升,并率先向网络防御者开放。
大模型 The Verge · 今天 阅读 1·访客 1
DeepSeek 与月之暗面被曝用 OpenAI GPT-6 Astra 蒸馏训练最新模型
The Information 报道称 DeepSeek 与月之暗面在训练最新模型时大量依赖 OpenAI GPT-6 Astra 的输出进行蒸馏,引发业界对模型蒸馏边界的关注。
大模型 Reuters · 今天 阅读 2·访客 2
微软发布新一代图像生成模型 MAI Image 2.7,第三方评测仅次于 OpenAI 图像模型
微软发布新一代图像模型 MAI Image 2.7,第三方评测中排名仅次于 OpenAI 的 GPT Image 2.5 Sunburst。
大模型 英为财情 Investing.com · 2天前 阅读 6·访客 6
谷歌发布世界模型 Genie 4:实时生成交互式虚拟环境,首次支持同步音频
谷歌发布新一代世界模型 Genie 4,可根据文字指令实时生成可交互虚拟环境,支持实时音频与用户动态修改场景。
大模型 凤凰网科技 · 2天前 阅读 7·访客 7
Kimi 就会员使用 K3.1 Pro 出现限流等问题致歉,为所有订阅会员进行重置
IT之家 10 月 26 日消息,Kimi 智能助手今日凌晨发文,就近期 K3.1 Pro 使用体验问题进行致歉,并公布了相关补偿。IT之家附官方原文如下: 致用户:关于近期使用体验问题的致歉与补偿 致 Kimi 用户 对于近期 Kimi …
大模型 IT之家 · 4天前 阅读 27·访客 27
← 上一页 第 4 / 31 页 · 共 363 条 下一页 →