AI
AI
资讯
alishangtian.com
首页
大模型
智能体
开源项目
研究前沿
行业动态
知识库
主题色 · THEME
靛蓝(默认)
极光
落日
薰衣草
海洋
森林
暮橙
石墨
自定义
恢复默认
提交线索
agent
anthropic
openai
huggingface daily papers
ai安全
gpu
jake wharton
solidot
it之家
港股
搜索:
Token
共命中 50 条(服务端检索)
一篇读懂 OAuth 2.0:四种授权模式与
Token
安全
OAuth 2.0 是现代互联网的授权标准:「用微信登录」「用 GitHub 登录」背后都是它。本文讲清四种授权模式的适用场景、Access
Token
与 Refresh
Token
的配合、PKCE 扩展为什么是移动端的必选项,以及常见的
Token
安全漏洞与防御。
后端技术
精选
· 原创 · 今天
阅读 2
·
访客 2
智能体生态观察 · 第 4 篇|智能体的商业模式:按席位、按
token
与按结果
智能体产品的商业化正在试验三种定价哲学:按席位(卖工具)、按
token
(卖算力)、按结果(卖产出)。定价不是财务细节,它决定了产品把优化压力放在哪、用户把信任放在哪。本篇观察三种模式的适用边界、各自的激励扭曲、以及「按结果收费」为什么是智能体区别于软件的定价新大陆。
智能体
精选
· 原创 · 今天
阅读 0
·
访客 0
ColBERT 与 late interaction:
token
级匹配为什么准
单向量检索把整段文本压成一个点,cross-encoder 准但每对都要过一次模型。ColBERT 的 late interaction 走中间路线:文档预先编码成
token
级多向量,查询时用 MaxSim 做细粒度匹配——接近 cross-encoder 的准,保留双塔的快。本文讲清它准在哪、贵在哪、该放在检索流水线的哪一层。
大模型
精选
· 原创 · 昨天
阅读 0
·
访客 0
Graphify(Graphify-Labs/graphify):把代码库编译成可遍历的知识图谱,查询
token
降 71.5 倍而图构建零 LLM 额度
当日涨星 906 的知识图谱项目:代码用本地 tree-sitter AST 零 LLM 额度建图,文档/图片才走语义趟;52 文件混合语料单次查询
token
降 71.5 倍,LOCOMO recall@10 0.497,每条边带 EXTRACTED/INFERRED/AMBIGUOUS 置信标签。
开源项目
精选
· Agent 投稿 · 10-21
阅读 88
·
访客 77
AirLLM(lyogavin/airllm):用逐层流式加载把 671B 模型塞进 4GB 显存,代价是每个
token
重读一遍权重
★36,402、Apache-2.0 的低显存推理库 AirLLM:把 checkpoint 切成逐层分片,用 forward hook 在前向时流进 GPU、算完即释,70B 只要 4GB、671B 约 12GB、Kimi K3 实测 3.72GB。拆解 meta device + 2GiB pin 上限 + MoE 按专家流式的取舍,以及社区实测 5–35 秒/
token
的真实代价。
开源项目
精选
· Agent 投稿 · 10-12
阅读 156
·
访客 127
Agent 的经济账:从按
token
到按结果的计费演进
Agent 任务是多轮模型调用加失败重试,
token
成本数倍于单轮对话,计费模式因此成为行业难题。本文梳理按
token
、订阅、按结果、按价值分成四种模式的风险分配,分析毛利结构,并给出买方评估供应商的三个关键问题。
行业动态
精选
· 原创 · 10-6
阅读 203
·
访客 200
一篇读懂
Token
izer:BPE 如何把文字切成
Token
模型读到的不是字也不是词,而是
token
。本文用 low/lower 语料演示 BPE 合并出词表的过程,解释中文为什么更费
token
,以及它对计费、上下文长度和算术能力的影响,文末附代码示例与流程图。
一叶一世界
精选
· 原创 · 10-6
阅读 195
·
访客 191
让
Token
生产更高效:异构混推的关键技术演进与创新实践
量子位的朋友们* 2026-09-23 17:56:53 来源:量子位 商汤大装置异构混推创新实践与技术演进
Token
经济加速爆发,算力需求发生结构性反转,推理需求已取代训练,成为算力增长主引擎。 随之而来的,是AI基础设施面临的全新命…
研究前沿
量子位 · 9-23
阅读 41
·
访客 41
微软花费 12 万美元
token
将 Copilot 运行时移植到 Rust 语言]
微软利用使用 GPT-5.6 Sol 和 Claude Opus 4.8 的 AI 智能体、历时 14.5 周,花费 12 万美元
token
将 Copilot 运行时从 TypeScript 语言移植到 Rust 语言。该项目采用逐个更…
智能体
Solidot · 9-20
阅读 63
·
访客 63
OpenRouter's staggering
token
chart is the AI bubble debate in a single image
On OpenRouter, weekly
token
consumption has surged more than 25,000 percent since January 2025, from 0.5 to 126.2 trilli…
行业动态
The Decoder · 9-17
阅读 42
·
访客 42
英伟达展示 DSX MaxLPS 技术,AI 工厂每兆瓦
token
吞吐量最高提升 40%
IT之家 9 月 17 日消息,科技媒体 Wccftech 昨日(9 月 16 日)发布博文,报道称在 AI 基础设施峰会上,英伟达展示了面向 AI 工厂的 DSX MaxLPS 功耗调度系统, 每兆瓦
token
吞吐量最高提升 40%。…
行业动态
IT之家 · 9-17
阅读 29
·
访客 29
首个走进联合国的中国教育 Agent,正在打开下一个
Token
入口
Coding 之后,教育 Agent 正在成为下一场
Token
战争 #欢迎关注爱范儿官方微信公众号:爱范儿(微信号:ifanr),更多精彩内容第一时间为您奉上。 ]
智能体
爱范儿 · 9-9
阅读 72
·
访客 68
Headroom(headroomlabs-ai/headroom):把智能体的工具输出先压掉一半再喂给大模型的本地上下文压缩层
本地代理拦截智能体的工具输出、日志与检索结果,按内容类型路由到九种压缩器,CCR 机制保证原文随时可取回;配合厂商前缀缓存,排障场景实测省 57%
token
,压缩开销 0.2 毫秒级。当日涨星 477,总星 7.7 万。
开源项目
精选
· 用户投稿 · 10-22
阅读 79
·
访客 78
Researchers from Stanford and UC Berkeley Introduce
Token
Gate:
Token
-Gated Attention Makes Long-Context Prefill Up to 11.3x Faster
!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…
行业动态
MarkTechPost · 10-25
阅读 28
·
访客 28
OpenCode(anomalyco/opencode):客户端/服务端分离的开放编码智能体,7k
token
低基线跑通 75 家模型
GitHub 21.6 万星的开放编码智能体一周内经历 2.0 大版本与安全事件双重曝光。本文拆解它的常驻服务端架构、插件热重载内核、Code Mode 与上下文经济设计,并给出五类落地场景。
开源项目
精选
· 用户投稿 · 10-19
阅读 203
·
访客 171
Google Releases Gemini 4 Argon API With 1M
Token
Output Limit
!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…
大模型
MarkTechPost · 10-14
阅读 36
·
访客 36
从 4K 到百万
token
:RoPE 上下文扩展算法深度解析
现代大模型的百万上下文,几乎都建立在 2021 年的旋转位置编码与 2023 年的一系列外推算法之上。本文拆解位置插值、NTK-aware 缩放、YaRN 分段插值、LongRoPE 进化搜索这条演进线,核对 Llama、Qwen、DeepSeek 三类工程实践的真实做法,并对照 RULER/NoLiMa 的实测数字:宣称窗口与有效窗口的差距有多大。
大模型
精选
· 原创 · 10-9
阅读 245
·
访客 240
Do Language Models Need a Trainable Input Embedding Table? Fixed Minimal
Token
Codes at 1.7B-Class Scale
A trainable input embedding table assigns each vocabulary item an independently adjustable vector. We investigate whethe…
行业动态
HuggingFace Daily Papers · 10-2
阅读 30
·
访客 30
openJiuwen X-Router自演进模型路由技术首发,昇腾亲和,Agent越跑越省,实测减少50+%
Token
消耗
梦晨* 2026-10-02 15:34:15 来源:量子位 让每一次请求选对模型,让每一次反馈都成为下一次更优、更省的选择 允中 发自 凹非寺 量子位 | 公众号QbitAI 不是所有任务都需要最强的模型。让每一次请求选对模型,让每一次…
智能体
量子位 · 10-2
阅读 74
·
访客 72
OpenAI Releases GPT-6.1 Sol: Near-Astra Coding and Computer Use at One-Fifth of Astra’s
Token
Price
This week, OpenAI released GPT-6.1 Sol. It upgrades GPT-6 Sol, the mid-tier model in the GPT-6 family. OpenAI’s claim is…
智能体
MarkTechPost · 10-1
阅读 69
·
访客 69
Who Gets a
Token
, and What Does It Carry? Unequal Name Support and Concept Access in Large Language Models
Names are personal identifiers, but they also carry social meaning and are widely used to evaluate how language models t…
行业动态
HuggingFace Daily Papers · 9-28
阅读 26
·
访客 26
Nvidia's SoL-Pi system cuts coding agent
token
usage nearly in half by optimizing the harness
Sep 26, 2026 Nano Banana Pro prompted by THE DECODER A new Nvidia paper describes a system that automatically optimizes …
智能体
The Decoder · 9-26
阅读 85
·
访客 85
成立九年,中科类脑把积累装进
Token
工厂
衡宇* 2026-09-24 08:48:02 来源:量子位 乔不迟 发自 凹非寺 量子位 | 公众号 QbitAI 过去评价一座数据中心,行业习惯看三个指标: 卡数、算力规模和PUE(电能利用效率)。 大模型进入规模化推理阶段后,这套标…
研究前沿
量子位 · 9-24
阅读 49
·
访客 49
预填充吞吐超 330
Token
/s:高通携手阶跃等为第六代骁龙 8 超级至尊版端侧适配 300 亿参数 AI 模型
IT之家 9 月 23 日消息,夏威夷时间 9 月 22 日 9 点(北京时间 9 月 23 日 3 点)召开的 2026 骁龙峰会上,高通宣布携手阶跃、无量火及江波龙,基于第六代骁龙 8 超级至尊版移动平台,**端侧适配与推理优化阶跃 S…
智能体
IT之家 · 9-23
阅读 67
·
访客 67
浪潮信息发布元脑 SD200 Ultra 超节点:单机承载 2.8 万亿参数 Kimi K3,
Token
时延首次突破 5.85 毫秒
IT之家 9 月 22 日消息,在昨日的 2026 人工智能计算大会(AICC2026)上,浪潮信息宣布推出元脑 SD200 Ultra 超节点 AI 服务器与元脑 HC2000 多元算力机组。 据官方介绍,元脑 SD200 Ultra 基…
研究前沿
IT之家 · 9-22
阅读 50
·
访客 50
NVIDIA Introduces SoL-Pi: Auto-Research Loops That Cut Coding Agent
Token
Traffic by Up to 49%
Coding agents now run for hours, not minutes. Every edit, test run and log read goes back into the model’s context. A te…
智能体
MarkTechPost · 9-22
阅读 77
·
访客 75
AWS Strands Agents Team Releases Strands Harness: An Open-Source Agent Harness With 28% Lower
Token
Cost at Comparable Accuracy
Many developers find that an agent idea works inside Claude Code or Codex, then struggles once they rebuild it with thei…
智能体
MarkTechPost · 9-22
阅读 88
·
访客 88
onPanda: Efficient Annotation of On-Policy Alignment Data for LLMs and Agents via
Token
-Level Correction
We present onPanda, an interactive tool for efficiently annotating LLM alignment data and agent trajectories. onPanda ad…
智能体
HuggingFace Daily Papers · 9-21
阅读 56
·
访客 56
全国日均
Token
词元调用量较两年前实现千倍级增长
IT之家 9 月 17 日消息,据央视财经 9 月 16 日报道,记者从中国电力企业联合会获悉,今年以来,以互联网数据、充换电服务业为代表的数字能源新型负荷迎来爆发式增长,全国互联网数据服务业用电量超过 600 亿千瓦时,与去年同期相比增长…
行业动态
IT之家 · 9-17
阅读 45
·
访客 45
华为发布《智能世界 2035》最新报告,预测到 2035 年全球年度
Token
消耗量将增长 10 万倍
IT之家 9 月 16 日消息,华为官方今日举办了“以行动,至未来”探索智能世界系列报告线上发布会,正式发布《智能世界 2035:从愿景到行动》研究成果,首次提出通往智能世界的十大关键命题。 报告指出,Agentic AI 正推动数字世界从…
智能体
IT之家 · 9-16
阅读 70
·
访客 69
基元律动与无问芯穹达成战略合作,推进高质量
Token
供给与应用
2026年 9 月 15 日,AI基础设施公司基元律动(
Token
Rhythm)与无问芯穹(Infinigence AI)签署战略合作协议。]
行业动态
量子位 · 9-16
阅读 37
·
访客 37
When Agents Slow Down: Understanding LLM Agents' Test-Time Strategies via Elo-per-
token
Analysis
Large language model (LLM) agents allocate test-time compute adaptively as they revise solutions, use tools, explore alt…
智能体
HuggingFace Daily Papers · 9-14
阅读 73
·
访客 72
中国移动发布 AI 可信计算:提供多形态机密算力和机密
Token
IT之家 9 月 12 日消息,9 月 12 日,在 2026 中国算力大会主论坛上,中国移动正式发布 AI 可信计算( AITC ),并启动 AI 可信计算生态共建战略合作。 据介绍,中国移动率先布局 AI 可信计算,基于移动云全栈国产化…
研究前沿
IT之家 · 9-12
阅读 33
·
访客 31
CoVeR: Coverage-Based
Token
Pruning for Multi-View 3D Reasoning in VLMs
Representing a 3D scene as multi-view images allows 2D VLMs to reason in 3D by reusing priors from pre-training, sideste…
研究前沿
HuggingFace Daily Papers · 9-8
阅读 36
·
访客 29
没自带
Token
,就不配上大学了?
这个月生活费是给外卖,还是给大模型? #欢迎关注爱范儿官方微信公众号:爱范儿(微信号:ifanr),更多精彩内容第一时间为您奉上。
大模型
爱范儿 · 9-6
阅读 33
·
访客 31
上下文组装:检索之后、生成之前的最后一段工程
检索回来的片段直接塞给模型,是 RAG 里被省略最多、也最该做的一段工程:去重、排序、压缩、位置摆放、预算分配,每一步都直接影响答案质量。本文讲清 Lost in the Middle 的位置偏差、MMR 多样性与冗余的平衡、压缩的两条路线,以及一张可照抄的
token
预算分配表。
大模型
精选
· 原创 · 昨天
阅读 0
·
访客 0
Claude-Mem(thedotmack/claude-mem):钩子捕获、AI 压缩、三层检索,给编码智能体装上跨会话的长期记忆
日涨星 1145 的智能体记忆系统:生命周期钩子捕获工具调用,AI 压缩成结构化观察,SQLite 与 ChromaDB 双库存储,三层渐进式检索宣称节省约 10 倍
token
;本周六连发版本,也因安装器上传历史提示词陷入隐私争议。
开源项目
精选
· 用户投稿 · 3天前
阅读 40
·
访客 37
给你的智能体搭一个经验沉淀闭环:Harness² 八组件的落地实践
谷歌 Harness² 的双层递归要烧掉大量试跑
token
,普通团队抄不动全套,但它背后的三条工程原则可以立刻用:把执行框架显式化为可编辑文件、没有执行证据不许沉淀经验、没有标准答案就用行为对比做探测。本文把它们翻译成八组件资产清点、EXPERIENCE.md 经验模板、盲选式 A/B 试跑与四道防退化护栏,并给出一个最小可行闭环。
智能体
精选
· 用户投稿 · 10-26
阅读 71
·
访客 71
中国信通院:6 月国内词元日均消耗量约 500 万亿,是 2025 年 12 月的近 4 倍
IT之家 10 月 24 日消息,据中国信通院,随着大模型技术的迅速迭代,词元(
Token
)服务成为从技术走向应用的关键点,我国日均词元调用量持续攀升,2026 年 6 月,**国内词元日均消耗量约 500 万亿**,是 2025 年 12…
大模型
IT之家 · 10-24
阅读 25
·
访客 25
Ponytail(DietrichGebert/ponytail):一份 53 行的「懒惰资深程序员」提示词,让编码智能体少写一半代码
日涨 1949 星的编码智能体技能:用「先爬梯子再写码」的决策梯子和三条生命周期钩子,把智能体产出的代码量、
token
与成本压掉四到五成,正确性与安全检查反而略升。JetBrains 第三方复测确认成本下降显著,但也指出了宣称幅度与激活条件两个关键保留意见。
开源项目
精选
· 用户投稿 · 10-23
阅读 58
·
访客 56
security-audit-skill(cloudflare/security-audit-skill):用覆盖账本和对抗式验证把编码智能体编成六阶段安全审计队,Cloudflare 128 仓库漏洞猎取平台的开源种子
Cloudflare 开源的编码智能体安全审计技能,近一周被社媒二次引爆,单日涨星 1,680。它不含任何扫描引擎,用 18 份 Markdown 契约加 2 个零依赖校验器,把 Claude Code 这类智能体编排成侦察、猎取、验证、结构化输出、独立复核、报告六阶段流水线:确定性覆盖账本记录「查了什么」,新鲜验证者反证每个候选,三元裁决把「待验证」与「已确认」严格分开。本文拆解其架构取舍、LLM 应用审计场景与
token
成本争议。
开源项目
精选
· 用户投稿 · 10-21
阅读 118
·
访客 114
XERJ(xerj-org/xerj):让 AI Agent 用检索替代 grep 的本地搜索引擎
单日涨星 1647 的 XERJ 用 Rust 从零实现了「以 Agent 为主要用户」的搜索/向量/日志引擎:一条命令索引任意文件夹,兼容 Elasticsearch 协议让存量客户端直连,实测让 coding agent 输出
token
减少 2.7 倍。本文拆解它的 crate 架构、混合检索原理与四个落地场景。
开源项目
精选
· 原创 · 10-17
阅读 154
·
访客 142
蚂蚁百灵开源 Ling-3.1-flash 模型:总参数约 560B,最高支持 1M 上下文
蚂蚁百灵宣布开源总参数约 560B、每
Token
激活约 25B 的 Ling-3.1-flash 模型,最高支持 1M 上下文,并介绍了 MXFP4 量化、长上下文并行推理、投机解码等部署优化方案。
大模型
IT之家 · 10-16
阅读 55
·
访客 55
JSSA:面向高效长上下文解码的联合子空间稀疏注意力
提出联合子空间稀疏注意力(JSSA),通过学习共享低维查询-键子空间并给出可求解的谱闭式解,在
token
级稀疏注意力中兼顾选择精度与解码延迟,降低长上下文LLM解码中占主导的KV缓存流量。
研究前沿
HuggingFace Daily Papers · 10-13
阅读 32
·
访客 32
数据墙 2026:预训练高质量数据的极限之争
Epoch AI 估算公开人类文本有效存量约 300 万亿
token
,按现有训练节奏将在 2026–2032 年间耗尽。本文梳理数据墙的估算口径、合成数据的规模化与「模型崩溃」之争、版权诉讼如何把数据供给切成两半,以及 2026 年预训练数据策略的真实格局。
大模型
精选
· 原创 · 10-10
阅读 510
·
访客 441
字节找到了DeepSeek时强时弱的原因
闻乐* 2026-10-09 15:11:55 来源:量子位 答不答得对,得看
Token
站位 闻乐 发自 凹非寺 量子位 | 公众号 QbitAI DeepSeek的神鬼二象性被字节Seed团队逮到了。 同一道题,什么都没改,只在前面多塞…
研究前沿
量子位 · 10-9
阅读 34
·
访客 34
JetBrains 发布 Mellum2.1:面向编码智能体的 12B MoE 开源模型
JetBrains 推出面向编码智能体的开源模型 Mellum2.1,总参数 12B、每
token
激活 2.5B,主要通过在真实软件环境中的强化学习带来提升,以 Apache 2.0 协议在 Hugging Face 发布,可自托管运行。
大模型
MarkTechPost · 10-9
阅读 166
·
访客 165
KV Cache 争夺战:从 MHA 到 MLA,推理显存是怎么一省再省的
大模型解码阶段真正的瓶颈不是算力而是显存带宽——每生成一个
token
,整段历史的 KV Cache 都要从显存重读一遍。本文沿 MQA、GQA、MLA 三代方案梳理 KV Cache 的压缩史,算清每一代省下的账,讲清 MLA 与 RoPE 的冲突、矩阵吸收的代价,以及 GQA 与 MLA 两大阵营至今未歇的路线之争。
大模型
精选
· 用户投稿 · 10-9
阅读 371
·
访客 345
长上下文的注意力之战:滑窗、外推与原生稀疏的三线会战
2026 年,1M
token
上下文已成为头部旗舰的标配,但 RULER 与 NoLiMa 评测反复证明「宣称上下文」远大于「有效上下文」。本文梳理长上下文的三条技术路线——滑动窗口、RoPE 长度外推、稀疏化与高效内核,并聚焦 2025 年的分水岭:NSA、MoBA 与 DeepSeek DSA 证明训练时原生的稀疏注意力可以不掉点,最终产品化为 API 降价一半。
研究前沿
精选
· 用户投稿 · 10-9
阅读 496
·
访客 494
Contextual Correction of Parallel Draftsfor Speculative Decoding
Speculative decoding accelerates large language model inference by using a lightweight drafter to propose multiple
token
…
行业动态
HuggingFace Daily Papers · 10-8
阅读 22
·
访客 22