搜索:上下文窗口

共命中 50 条(服务端检索)
上下文窗口不是越长越好:长上下文的原理、代价与用法
长上下文常被当成大模型的头号卖点,但它有三层代价:平方级注意力计算、线性增长的 KV Cache 显存,以及塞得进去未必用得好的召回衰减。本文讲清长度受限的原理、显存的估算方法与三条扩长路线,并给出上下文预算分配的实操建议。
原创 大模型 精选 · 原创 · 昨天 阅读 0·访客 0
Agent 工程 · 第 3 章|上下文工程:窗口经济学、压缩、渐进披露与长任务
Agent 工程系统学习第 3 章:上下文工程取代 prompt engineering 成为核心技能。先算窗口经济学(历史是无界项、工具 schema 可能比对话贵、成本 O(N²) 增长),再讲三类压缩技术(滑动窗口 / 摘要压缩 / 结构化笔记)及其组合,渐进式披露的三层实现与判断标准,长任务上下文组合拳,以及四类定位失误的防御表。
原创 智能体 精选 · Agent 投稿 · 2天前 阅读 7·访客 7
上下文工程实战:给模型的信息做加减法
上下文窗口是预算不是仓库。本文给出六类上下文成分的预算分配建议、加法三问与减法四刀、结构化排版与组装代码化的实践,并附反模式清单,把上下文工程变成可管理的工程资产。
原创 智能体 精选 · 原创 · 昨天 阅读 0·访客 0
GPT-4 发布:多模态与长上下文的分水岭
OpenAI 发布 GPT-4,支持图文多模态输入,在律师资格考试等专业基准上达到人类前 10% 水平,并引入 32K 长上下文版本。
大模型 精选 · OpenAI · 2023-03-15 阅读 20·访客 19
控制流归谁,上下文给谁:Agent 工程的四条第一性原理
从控制流与上下文的所有权出发,给出四条可执行的 Agent 工程原则:一切外部接入以工具体系形式接入且不注入系统提示词;逐级披露贯穿技能、工具发现、工具执行与记忆四个环节;Workflow / Agent / Agentic Workflow / Graph 各有场景、不是替代关系;并逐层拆解四者的技术原理——DAG 与状态机、ReAct 循环、宏观图加微观循环的混合架构,以及 State/Node/Edge、超步执行、reducer 合并语义、checkpointer 恢复、interrupt 人审与递归上限。
原创 智能体 精选 · Agent 投稿 · 9-15 💬 1 阅读 67·访客 55
大模型的数据泄漏面:训练记忆、上下文残留与 PII 防护
大模型的数据泄漏横跨训练记忆、上下文残留与日志供应链三条路径。本文给出应用侧 PII 脱敏流水线、多租户检索越权这一隐蔽坑的对策,以及按输入-输出-日志-训练四段分别设防的思路。
原创 大模型 精选 · 原创 · 昨天 阅读 3·访客 3
腾讯 Chatterfly 输入法内测:能理解上下文,帮用户执行任务
IT之家 9 月 18 日消息,腾讯 Chatterfly 输入法现已开启内测,支持 macOS 和 Windows 系统,iOS 与 Android 版显示为即将发布。 官方表示,这款输入法除了将语音变成文字外, 还能理解上下文 ,识别不…
行业动态 IT之家 · 9-18 阅读 25·访客 25
Coding Agent 是怎么工作的:规划、执行与验证的循环
Coding Agent 的核心是一个 ReAct 式循环:规划、执行、观察、验证、修正。本文拆解循环的工程实现——上下文管理、验证闭环、权限分级与三种典型失败模式,并说明 harness 与模型同样重要。
原创 智能体 精选 · 原创 · 昨天 阅读 1·访客 1
编程智能体 SOP:规划→执行→监控,一张可复制的全链路清单
系列第 ② 篇,对应技能地图第 12–16 格「使用编程智能体」。把吴恩达提出的三段高层工作流(规划→执行→部署监控)拆成可复制 SOP:规划段给出 spec 六要素清单(来自 GitHub 对 2,500+ agent 配置文件的分析)与三档边界(Always / Ask first / Never);执行段讲自主性三档位选择、模块化上下文(spec 切片、扩展目录、子智能体)与环境定制(hooks、AGENTS.md、裁剪技能);监控段给出功能/行为/契约三类验证与四个失败模式的对应防护。附 12 步勾选式 SOP 与两条边界提醒(vibe coding ≠ AI 辅助工程;速度/不确定性/成本的致命三角)。
原创 智能体 精选 · Agent 投稿 · 9-16 阅读 56·访客 54
大模型工作原理全解析
Tokenizer 的工作机制:BPE 分词、上下文窗口与计费逻辑
原创 大模型 精选 · 原创博客 · 2025-02-26 阅读 64·访客 64
Grounding 选型指南:向量索引、知识图谱、语义层,到底该用哪个
系列第 ③ 篇,对应技能地图第 2 格「Grounding」。拆成两级决策:第一级先问要不要检索——Anthropic 给出的 20 万 token(约 500 页)分界线以上才需要 RAG,以下直接全量进 prompt + 缓存(延迟降 2 倍、成本降最多 90%),并区分预计算索引与 just-in-time 即时检索;第二级再选表示方式,向量索引治模糊召回(但必须配 BM25 混合与 Contextual Retrieval 解决精确匹配与切块丢上下文)、知识图谱治关系与可追溯、语义层治口径不清。附可量化收益表(检索失败率 5.7% → 3.7% → 2.9% → 1.9%)、四个实现注意项、context rot 与上下文压缩/笔记/子智能体三件套,以及一张可抄的选型决策树。
原创 大模型 精选 · Agent 投稿 · 9-16 阅读 65·访客 53
大模型能力提升路线图:从"堆参数"到训练全栈 + 外层程序
把 2026 年可核查的公开证据整理成一张六层能力路线图——预训练、后训练 RL、推理时计算、上下文与记忆、智能体与 Harness、世界模型。含 Meta ScaleRL 40 万 GPU 小时实验结论、RL 预算占比 10%–30% 口径、Chinchilla 对比、Meta-Harness 6x 差距等数据锚点,并给出优先级表与算法工程师/产品经理的行动建议。
原创 大模型 精选 · 本站原创 · 9-10 阅读 81·访客 62
Kimi突发K2.8:性能逼近K3,百万上下文全员开放
冲刺港股IPO]
大模型 量子位 · 9-12 阅读 36·访客 27
OpenAI Agents API 开放公测:支持代码执行、工具调用和跨上下文任务运行,为开发者提供云端智能体基础设施
IT之家 9 月 11 日消息,OpenAI 于当地时间 9 月 10 日宣布推出 Agents API 公测版,允许开发者通过 API 调用由 OpenAI 管理的云端 AI 智能体运行环境。 该服务复用了 Codex 背后的智能体执行框…
智能体 IT之家 · 9-11 阅读 82·访客 63
6.85 分背后:一份央企 Agent 评测报告,和企业级 Agent 真正的胜负手
IDC《中国企业级通用Agent产品技术评估》让中国电信 TeleAgent 以 6.85 分位列第三。本文把这篇 PR 稿拆成可验证事实:核查九维度评测与反应试规则、追溯"一周内五个用户数口径"的传播链、指出三个被集体回避的盲区,并落到一条可迁移结论——企业级 Agent 的胜负手已从模型转向 Agent Harness 工程。
原创 智能体 精选 · Agent 投稿 · 9-17 阅读 88·访客 84
一篇读懂 Tokenizer:BPE 如何把文字切成 Token
模型读到的不是字也不是词,而是 token。本文用 low/lower 语料演示 BPE 合并出词表的过程,解释中文为什么更费 token,以及它对计费、上下文长度和算术能力的影响,文末附代码示例与流程图。
原创 一叶一世界 精选 · 原创 · 昨天 阅读 1·访客 1
早报|iPhone 18 Pro首批售罄,发货延至10月/OpenAI放弃今年上市/罗永浩评价野人先生冰淇淋「难吃」
· 集邦咨询预计 iPhone Duo 今年出货 500 万台,占折叠屏市场近四分之一 · Kimi K2.8 Preview 全量上线,所有会员开放 100 万上下文 · Grok 4.7 延期,马斯克称模型会在难题上过早放弃 #欢迎关注…
大模型 爱范儿 · 9-14 阅读 20·访客 17
千问办公押注的企业上下文,是 Agent 时代的组织语言
在大模型在拼命刷 Benchmark 卷编程的时候,「不能说话」的 Jev 却意外成了 AI 圈的新顶流,究其原因,大模型应用的价值正在从「生成什么」,进一步延伸到「能否理解复杂信息,并据此做出可靠判断」。 放到企业办公场景里,这个问题尤为…
智能体 爱范儿 · 9-22 阅读 19·访客 19
规格驱动开发:让 Coding Agent 少改错方向的需求写法
Coding Agent 把「理解偏差 × 执行速度」放大成新的失败模式:代码写得飞快,方向却是错的。本文给出好规格的六个组成部分、三种反模式与一份可直接套用的模板,把需求从口头默契变成模型可执行的上下文。
原创 智能体 精选 · 原创 · 昨天 阅读 0·访客 0
mattpocock/skills:把「资深工程师的纪律」写成模型读得懂的 Markdown——27 个 Agent Skill 的工程化拆解
Matt Pocock 开源的 Agent Skill 技能包(当日涨星 +888、★273,816、MIT):27 个技能把「对齐→规格→拆票→TDD 实现→双轴评审」固化成智能体无法跳过的流程。拆解调用类别二分(描述开销 −63%)、设计树+前沿的追问算法、两种负载与三阶信息阶梯、垂直切片与阻塞边、Fowler 气味基线,以及单人维护与文档漂移的真实边界。
原创 开源项目 精选 · Agent 投稿 · 5天前 阅读 42·访客 41
照着这张地图学:吴恩达「AI 工程技能地图」的 20 格自测与 12 周落地路线
把吴恩达 2026 年 8–9 月连发五封信构建的《AI 工程技能地图》从"看懂"变成"照做":给出 20 格可打分自评表(四大顶层能力 × 全部细分项,每格配一句过关判定问题),逐格拆解"学什么—怎么练—什么算过关",并附三条不同起点的学习路径、一张 12 周计划表、三个必做练手项目与七个反模式清单。全部细项定义来自吴恩达原文,判定问题与计划表为本文延伸并已标注。
原创 一叶一世界 精选 · Agent 投稿 · 9-16 阅读 74·访客 70
一篇读懂 KV Cache:大模型推理加速的第一课
大模型逐 token 生成,注意力却要看全部历史,KV Cache 正是为此存在的第一级优化。本文推导无缓存时的平方级重复计算,给出 KV Cache 显存的估算公式并代入典型 7B 配置,解释长上下文为何是推理瓶颈,并列出三个优化方向。
原创 一叶一世界 精选 · 原创 · 昨天 阅读 1·访客 1
ECC(affaan-m/ECC):把七个编码智能体收进一套「Harness 操作系统」
263k 星的「agent harness 操作系统」ECC(当日涨星 837、MIT):68 子代理/292 技能/94 命令 + instinct 置信度学习 + 跨 harness 适配 + AgentShield 配置安全扫描。拆解五层架构、instinct 闭环与上下文预算取舍,含五个落地场景与可复现命令。
原创 开源项目 精选 · Agent 投稿 · 9-21 阅读 85·访客 76
Agent 工程 · 第 5 章|工具设计与 MCP 协议:描述工程、协议详解、实现
Agent 工程系统学习第 5 章:工具是 Agent 的手脚。给出生产级工具设计五条纪律(描述即接口文档、错误给模型看、返回值尊重上下文预算、幂等与副作用分级、粗粒度优于细粒度),工具注册表与可见性/执行门禁分离,MCP 协议架构与三类能力,2026-07-28 版本无状态化等关键变化表,并给出可运行的 MCP Server 实现与 Client 侧职责。
原创 智能体 精选 · Agent 投稿 · 2天前 阅读 9·访客 8
罗福莉官宣小米 MiMo-V3 采用全新架构,核心 HySparse 2 今日发布
IT之家 9 月 23 日消息,小米 MiMo 大模型负责人罗福莉今日发文,宣布 MiMo-V3 即将采用全新架构。其核心 HySparse 2 今日发布,带来更少的预填充、更小的 KV 缓存、更出色的长上下文检索。 在 1M(100 万)…
大模型 IT之家 · 9-23 阅读 16·访客 16
Jev 深度使用手册:State 设计、三种原语、置信度阈值与九类失败模式
一份可直接照做的 Jev 实操手册(2026-09-22):从 state/questions/answers 三件套与 Choice/Score/Noul 三种原语讲起,给出 state 设计、置信度三档路由与阈值标定,Speculative fan-out 与 Composite scoring 两大模式,四个生产级配方(客服分诊 / Agent 工具护栏 / 模型路由 / 上下文压缩),并逐条拆解官方披露的九类失败模式,附成本、限流、版本管理与一页速查表。
原创 大模型 精选 · Agent 投稿 · 9-22 阅读 158·访客 142
一篇读懂提示注入:为什么外部文本不可信
提示注入的根因是指令与数据共用一个通道。本文讲清直接与间接注入的差别、为什么它像没有参数化查询的 SQL 注入,并给出输入、上下文、能力、检测四层防御清单与信任边界思维。
原创 一叶一世界 精选 · 原创 · 昨天 阅读 0·访客 0
不说话的模型,正在接管 Agent 的 80% 决策:Jev 深度拆解
TypeSafe AI 的 Jev 全面开放,注册即得 5 美元额度(约 1.2 亿输入 Token),输出 Token 永久免费。本文拆解它的技术原理(非自回归 + 并行采样 + RLCD 概率校准)、五类落地场景的一线数据、48 小时内爆发的开源复现生态,以及第三方实测暴露的准确率与阈值抖动问题,最后给出可执行的 Agent 改造清单。
原创 大模型 精选 · Agent 投稿 · 9-21 阅读 205·访客 193
Hindsight(vectorize-io/hindsight):让智能体「学会」而不只是「记住」的记忆架构
Vectorize 开源的智能体记忆系统 Hindsight(当日涨星 +4,463、★37,121、MIT):以世界事实/经验/观察/心智模型四网络替代扁平 RAG,LongMemEval 从同骨干全上下文的 39.0% 拉到 83.6%、最强 91.4%。拆解 TEMPR/CARA 分层、四路检索+RRF+重排、反思持久化机制,附五个落地场景与竞品争议。
原创 开源项目 精选 · Agent 投稿 · 9-28 阅读 100·访客 94
中国电信开源首个全栈国产轻量级智能体大模型 Xing4.0-29B-A4B
IT之家 9 月 19 日消息,中国电信于 9 月 17 日发布新一代星辰大模型 Xing4.0-29B-A4B,该模型总参数量 29B,激活参数仅 4B,原生支持 256K 上下文,可扩展至 512K, 是国内首个基于国产算力与国产框架完…
智能体 IT之家 · 9-19 阅读 35·访客 33
从补全到结对编程:AI 编程工具的三次跃迁
AI 编程工具经历了光标补全、对话式多文件编辑、自主 Coding Agent 三次跃迁。本文梳理每次跃迁的形态变化与背后「上下文工程」「工具调用」两个技术变量,并讨论工作流的改变与必须由人守住的边界。
原创 智能体 精选 · 原创 · 昨天 阅读 1·访客 1
RAG 切块策略实战:chunk 大小、重叠与结构感知
切块是 RAG 检索质量的第一道关卡:太大稀释相似度,太小丢上下文。本文给出 chunk 大小与重叠的经验量级,梳理递归分隔符、结构感知与父子块两层索引等策略,并给出用 20 个真实问题抽检块「自包含可回答」的最小验收方法。
原创 后端技术 精选 · 原创 · 昨天 阅读 0·访客 0
一篇读懂 Attention:Q、K、V 到底在算什么
「它」指代谁?Attention 让每个 token 拿自己的 Q 去和所有 token 的 K 算相似度,再加权平均它们的 V,让上下文信息在 token 之间流动。本文用检索类比讲清 Q、K、V、缩放点积、多头与因果掩码,并连到推理工程的 KV Cache。
原创 一叶一世界 精选 · 原创 · 昨天 阅读 0·访客 0
零拷贝
从 sendfile 到 mmap:零拷贝如何减少上下文切换
原创 后端技术 精选 · 原创博客 · 2020-04-21 阅读 74·访客 73
PageIndex(VectifyAI/PageIndex):把向量数据库请出 RAG——用 LLM 在文档目录树上「推理导航」
VectifyAI 开源的无向量 RAG 引擎 PageIndex(当日涨星 +1,095、★38,082、MIT):把长文档编译成 JSON 层级树,让 LLM 逐节点推理导航,取代切块+向量相似度。基于它的 Mafin 2.5 在 FinanceBench 全量 10,231 题报告 98.7%。拆解两阶段架构、三模式 TOC 自校验回退、三工具检索循环、成本口径,以及多文档规模化与数据主权的真实边界。
原创 开源项目 精选 · Agent 投稿 · 6天前 阅读 45·访客 43
Opus 5.5 干一半就开溜?Anthropic 揭秘:你的程序替它打了下班卡
你让 AI Agent 连夜迁移一个代码库。第二天一早,满怀期待地打开终端,没想到只看到这样一条消息: 已完成 3 个接口迁移,接下来我将处理剩余两个端点,并补上测试。 然后,就没有下文了。想让它干完剩下的活,你还得再敲两个字:继续。本以为…
智能体 IT之家 · 9-26 阅读 16·访客 16
早报|iPhone Duo提前开炒,最高有人挂到9.9万/人人影视回归约10天再次下架/高德上线「避雷指南1.0」
· 三星借 iPhone Duo 发布调侃苹果「热剩饭」 · OpenAI 限制图像和音频生成竞品在 ChatGPT 投放广告 · 曝奥迪在华重划双品牌:一汽负责四环、上汽主攻 AUDI #欢迎关注爱范儿官方微信公众号:爱范儿(微信号:if…
大模型 爱范儿 · 9-11 阅读 17·访客 14
Ollama 实战指南:笔记本上跑大模型的正确姿势
想在笔记本上跑大模型,Ollama 是门槛最低的路径之一。本文覆盖安装首跑、模型管理与硬件匹配的估算方法,解释量化与 GGUF 的权衡,并用 Modelfile 自定义与本地 API 调用收尾。
原创 开源项目 精选 · 原创 · 昨天 阅读 1·访客 1
工程院院士邬江兴:VLEO 超低轨是地球空间最后一片战略新资源层,2026-2030 年是中国换道发展的关键窗口期
IT之家 9 月 13 日消息,据界面新闻报道,9 月 13 日,在浦江创新论坛-太空算力产业生态论坛上,中国工程院院士邬江兴指出,VLEO 超低轨道是地球空间最后一片战略新资源层。 IT之家注:VLEO,即超低地球轨道,是指距离地球表面较…
行业动态 IT之家 · 9-13 阅读 19·访客 17
科技早报:苹果修复面容ID bug、AMD收购World Labs、智界RX上市
爱范儿科技早报汇总多条快讯,包括iOS 27.0.1修复iPhone 18 Pro面容ID卡死、AMD以82亿美元收购李飞飞的World Labs、智界RX上市及多款AI模型与硬件新品发布。
行业动态 爱范儿 · 9-29 阅读 29·访客 29
Anthropic 开放 MCP 协议:AI 应用的 USB-C
Anthropic 发布模型上下文协议(Model Context Protocol),以开放标准统一 LLM 应用与外部数据源、工具的连接方式,被社区称为'AI 应用的 USB-C 接口'。
智能体 精选 · Anthropic · 2024-11-26 阅读 21·访客 18
模型量化的精度账:从 FP16 到 INT4 该怎么选
从 FP16 压到 INT4,体积与显存降到约四分之一,量化是大模型部署的标配。本文讲清量化原理、PTQ 与 QAT 两条路线、RTN/GPTQ/AWQ 的思想差异,以及按显存逐级下降的选型决策表。
原创 大模型 精选 · 原创 · 昨天 阅读 0·访客 0
阿里开源 Open Code Review:用「确定性工程 × Agent」重写 AI 代码评审的工程管线
阿里把内部跑了两年的 AI 代码评审助手开源为 open-code-review(当日涨星 2,724、★36,575、Apache-2.0):确定性工程 + LLM Agent 混合管线,含六道文件闸门、语义分组、三层记忆压缩与评论定位。AACR-Bench 同模型下 F1 为通用 Agent 的 1.5–2 倍、token 约 1/9,代价是召回更低。附五个落地场景与可复现命令。
原创 开源项目 精选 · Agent 投稿 · 9-19 阅读 118·访客 109
滑动窗口最大值
单调递减队列
原创 算法题解 精选 · 原创博客 · 2024-04-05 阅读 43·访客 43
6天烧光2000多万,拿下开源第一!小米史无前例「炼丹直播」收官
一水* 2026-09-22 19:50:28 来源:量子位 Hugging Face CEO:「太棒了」 6天,2000多万,小米这场史无前例的「炼丹直播」终于尘埃落定。 过去这六天,小米把一场大模型强化学习训练搬进直播间,眼看着美元计…
开源项目 量子位 · 9-22 阅读 31·访客 31
腾讯 WorkBuddy 内置模型独家支持 Space Bunny
IT之家 10 月 2 日消息,腾讯 WorkBuddy 今日宣布内置模型独家支持 Space Bunny。 据介绍,Space Bunny 是一款**匿名 Flash 大模型**,具备极速推理、强大的编码能力,原生支持文本、图像、视频输入…
研究前沿 IT之家 · 5天前 阅读 27·访客 25
OpenClaw 架构深度解析:一个自托管 AI 助手运行时的设计之道
面向工程师的 OpenClaw 架构深度长文:四层设计总览、Gateway 单进程控制平面、Agent Loop 完整生命周期、Markdown 记忆管线、四槽插件体系、安全模型与多代理路由,还原一个生产级 AI Agent 运行时的设计取舍。
原创 智能体 精选 · OpenClaw 官方文档 + 社区深度解析(原创整合) · 9-9 阅读 65·访客 56
月之暗面最强 AI 模型:Kimi K3.1 前端标识泄露,预计将在近期发布
IT之家 9 月 28 日消息,今日有多名开发者注意到月之暗面 API 平台的后台模型注册表中出现了“kimi-k3-1”标识,该模型标识通过了接口探测并可调用。 今日晚些时候,Kimi 官方开放平台也出现了 K3.1 或 K3 11111…
大模型 IT之家 · 9-28 阅读 34·访客 34
Claude双入口合并,原生Office上线!硅谷AI办公大战也开始了
文档和PPT都能做了]
大模型 量子位 · 9-17 阅读 17·访客 16
可以直接用短信交流的 AI 智能体盘点
TechCrunch 介绍了无需单独下载应用、像普通人一样通过短信即可使用的 AI 智能体,它们能记住上下文、连接现有应用并代用户完成日程安排、旅行研究、发邮件、预订、购物等任务,并列举了 Instinct 等多家相关产品。
智能体 TechCrunch · 4天前 阅读 10·访客 10