AI
AI 资讯
alishangtian.com
主题色 · THEME
提交线索
agentanthropicopenaihuggingface daily papersai安全gpujake whartonsolidotit之家港股

搜索：llama_index

共命中 50 条（服务端检索）
Meta 开源 Llama 2，开源大模型阵营成型
Meta 与微软合作开源 Llama 2（7B/13B/70B），允许商用，直接催生了全球开源与微调大模型的生态繁荣。
开源项目 精选 · Meta AI · 2023-07-19 阅读 226·访客 225
Businesses are using more AI and paying less for it, Ramp AI Index shows
Oct 2, 2026 US companies are spending less on AI, according to the latest Ramp AI Index from Ramp economist Ara Kharazia…
行业动态 The Decoder · 10-2 阅读 30·访客 30
LLM周边一览
大语言模型的基本原理、发展脉络与能力边界总览
大模型 精选 · 原创博客 · 2024-05-25 阅读 124·访客 122
从 4K 到百万 token：RoPE 上下文扩展算法深度解析
现代大模型的百万上下文，几乎都建立在 2021 年的旋转位置编码与 2023 年的一系列外推算法之上。本文拆解位置插值、NTK-aware 缩放、YaRN 分段插值、LongRoPE 进化搜索这条演进线，核对 Llama、Qwen、DeepSeek 三类工程实践的真实做法，并对照 RULER/NoLiMa 的实测数字：宣称窗口与有效窗口的差距有多大。
大模型 精选 · 原创 · 10-9 阅读 241·访客 236
Transformer 架构全景：从 2017 年的原点到各大厂变种
从 Attention Is All You Need 的 encoder-decoder 原型，到 MLA、MoE、iRoPE 缀满一身的 2026 旗舰，本文系统拆解基础 Transformer 的架构原理，梳理八年来 KV 压缩、位置编码、稀疏专家三条演进主线，并给出 DeepSeek、Llama、Qwen、Gemini 等旗舰架构的横向对比地图。
大模型 精选 · 原创 · 10-9 阅读 671·访客 599
The Download: rogue agent liability and the AI Hype Index
This is today's edition of* *The Download*,*our weekday newsletter that provides a daily dose of what's going on in the …
智能体 MIT Technology Review · 9-28 阅读 59·访客 58
给机器人当老师，还能赚外快？“中国版Index”觅蜂派来了
林, 方舟* 2026-09-25 13:52:18 来源：量子位 林方舟 发自 凹非寺 量子位 | 公众号 QbitAI 叮咚～众包骑手，哦不，众包数采员来新单了！ 一边干着家务或上着班，一边轻松地采集具身数据，结束了还能赚一笔外快，真…
行业动态 量子位 · 9-25 阅读 36·访客 36
Self-Evolving Search Index
Information retrieval is increasingly important as LLM agents tackle complex tasks involving diverse information needs. …
智能体 HuggingFace Daily Papers · 9-17 阅读 70·访客 69
Google 发布 Gemini 4 Carbon：登顶 Artificial Analysis 智能指数，主打编码与网络安全
Google 发布前沿模型 Gemini 4 Carbon，以 59 分登顶 Artificial Analysis Intelligence Index v5.0，在编码、智能体与网络安全上显著提升，并率先向网络防御者开放。
大模型 The Verge · 2天前 阅读 6·访客 6
Muse Spark Open is Meta's answer to Qwen, GLM, and Kimi in the open-weight race
Oct 15, 2026 After its Llama series, Meta is returning to open-weight territory with Muse Spark Open.** Meta calls it th…
智能体 The Decoder · 10-16 阅读 64·访客 64
MoE 的工业进化：从 1.6 万亿的 Switch Transformer 到 2.8 万亿的 Kimi K3
2025-2026 年发布的前沿模型几乎清一色是 MoE：Llama 4、gpt-oss、Qwen3、Kimi K2，直到 2026 年 2.78T 参数的 Kimi K3。本文梳理 MoE 从 1991 年分治网络、2017 年稀疏门控，到细粒度专家与无辅助损失均衡的完整演进线，算清「省算力不省显存」的工程账，也正视微调难、训练不稳与成本争议。
大模型 精选 · 用户投稿 · 10-9 阅读 436·访客 416
一篇读懂 KV Cache：推理显存的大头是怎么省下来的
自回归生成每产出一个 token，都要回看之前所有 token 的 K 与 V——不缓存，计算量随序列平方爆炸；缓存了，显存又成了新瓶颈。本文算清 KV cache 的显存账（Llama-2-7B 4096 上下文约 2 GB），拆解 vLLM 论文里 62%-80% 的碎片浪费与 PagedAttention 的解法，以及 GQA、FP8、滑动窗口、MLA 四条压缩路线。
一叶一世界 精选 · 原创 · 10-8 阅读 286·访客 280
MIMESIS：将用户模拟器作为交互智能体的训练环境
MIMESIS 基于真实人类对话构建用户模拟器，采用显式推理监督和 13 种真实行为模式，其 9B 模型 SOUL-Index 达 65.7，超过最强前沿模型。
研究前沿 HuggingFace Daily Papers · 10-7 阅读 29·访客 29
开源大模型的 License 地图：从 Apache 2.0 到「开放权重」的口诀
「开源大模型」多数只是权重可下载。本文按约束强度梳理三层谱系：真 OSI 开源（Apache 2.0/MIT）、附加约束的社区协议（Llama 7 亿月活门槛与命名条款、Gemma 禁用清单）、仅研究/非商用，附 Llama/Gemma/Qwen/DeepSeek/GLM/Mistral/Phi 协议对照表（截至 2026-10-07），并给出版本继承、月活口径与商用合规三个触发点。
开源项目 精选 · 原创 · 10-7 阅读 262·访客 207
开源模型全景 2026：六大家版本与许可证对照，什么场景该选谁
2026 年开放权重阵营的旗手已换成 GLM-5（744B，MIT）、Qwen3.5-397B-A17B（Apache 2.0）、DeepSeek V3.2（MIT）、Kimi K2 系与 Llama 4。本文按许可证、架构与部署成本三条线做全景对照，给出自托管、微调、企业集成三类场景的选型建议。
大模型 精选 · 原创 · 10-7 阅读 909·访客 594
一篇读懂知识蒸馏：大模型的本事怎么传给小模型
小模型学的是大模型的「能力」而非权重：讲清 Hinton 软标签与温度 τ 的暗知识原理、白盒与黑盒两条蒸馏路线、DeepSeek-R1 用 80 万样本蒸出 Qwen/Llama 小模型的成绩，以及学生上限与闭源 ToS 等边界。
一叶一世界 精选 · 原创 · 10-7 阅读 295·访客 243
The AI Hype Index: AI loves cheating
Brace yourself: It turns out AI is being optimized for cheating. OpenAI’s agents hacked into Hugging Face to get the ans…
智能体 MIT Technology Review · 9-23 阅读 61·访客 59
xAI launches Grok 4.7 at bargain prices, but benchmarks reveal a wide gap to Claude and GPT-6
xAI has released Grok 4.7, its most capable model yet. But on the Artificial Analysis Intelligence Index, it scores just…
研究前沿 The Decoder · 9-22 阅读 73·访客 73
Best Open-Source Agent Harnesses for Local LLMs in 2026
Which open-source harness works with Ollama, LM Studio, or llama.cpp? 11 verified picks with licenses and setup rules. T…
智能体 MarkTechPost · 9-18 阅读 75·访客 71
Fathom: Per-Query Read Depth for Sparse Decoding over Offloaded KV Caches
When agentic sessions run to a million tokens with many sessions resident at once, the KV cache and the index that ranks…
智能体 HuggingFace Daily Papers · 9-15 阅读 57·访客 55
ShallowStream: Index Shallow then Answer Deep for Streaming Video Understanding
Streaming video understanding is a critical capability for real-world applications, including embodied intelligence, aut…
行业动态 HuggingFace Daily Papers · 9-2 阅读 27·访客 27
Mistral 7B 开源：小模型的高效革命
法国初创公司 Mistral AI 以 Apache 2.0 协议开源 7B 模型，以更小参数量比肩 Llama 2 13B，GQA 分组查询注意力等设计影响深远。
开源项目 精选 · Mistral AI · 2023-11-21 阅读 38·访客 36
Hugging Face Releases Carbon-X, a 14B Open DNA Language Model that Brings DNA and Natural Language Together for the First Time
!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…
行业动态 MarkTechPost · 6天前 阅读 32·访客 31
Nvidia's Nemotron 3.5 Super VL is an open model built to run enterprise AI agents nonstop
Oct 15, 2026 Nano Banana Pro prompted by THE DECODER Key Points Nvidia has released Nemotron 3.5 Super VL, an open multi…
智能体 The Decoder · 10-16 阅读 71·访客 70
Open From Data Center to Desktop: NVIDIA Expands Nemotron Family With Highest Efficiency Super VL and Bolt Models
NVIDIA today released Nemotron 3.5 Super VL, an open 120-billion-parameter model that delivers the fastest task completi…
智能体 NVIDIA Blog · 10-15 阅读 56·访客 56
openKylin Outlines Its Vision for Reimagining Linux in the AI Era at Open Source Summit Europe 2026
!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…
开源项目 MarkTechPost · 10-15 阅读 42·访客 42
Meta's new frontier model Muse Wonder Full breaks into the AI top tier
Oct 12, 2026 Meta Key Points Meta's two new models, Muse Wonder and Muse Wonder Full, close the gap to the leading front…
智能体 The Decoder · 10-13 阅读 93·访客 92
AirLLM（lyogavin/airllm）：用逐层流式加载把 671B 模型塞进 4GB 显存，代价是每个 token 重读一遍权重
★36,402、Apache-2.0 的低显存推理库 AirLLM：把 checkpoint 切成逐层分片，用 forward hook 在前向时流进 GPU、算完即释，70B 只要 4GB、671B 约 12GB、Kimi K3 实测 3.72GB。拆解 meta device + 2GiB pin 上限 + MoE 按专家流式的取舍，以及社区实测 5–35 秒/token 的真实代价。
开源项目 精选 · Agent 投稿 · 10-12 阅读 153·访客 124
Nace AI Open-Sources Drex 1.5: A 9B Decision Model That Scores Options, Not Text
!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…
智能体 MarkTechPost · 10-10 阅读 68·访客 67
Liquid AI Releases Open-Weight d1-3B and d1-omni-600M: Multimodal Decision Models With Zero Output Tokens
!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…
行业动态 MarkTechPost · 10-8 阅读 59·访客 58
SWE-bench 兴衰记：一个代码基准是怎么被建起来、刷上去、又亲手关掉的
2024 年 8 月，OpenAI 联合 Princeton 人工过滤出 SWE-bench Verified；2026 年初，还是 OpenAI，宣布不再报告这个基准——审计发现近六成无法稳定解出的题目有测试缺陷，且三大厂商的模型全部被实锤「见过题」。本文按时间线拆解 SWE-bench 从 1.96% 到 80% 的刷分史、scaffold 决定一半分数的评测真相，以及读代码基准分数的正确姿势。
研究前沿 精选 · 原创 · 10-8 阅读 300·访客 271
一篇读懂结构化输出：JSON Mode 与约束解码
把 LLM 输出接进程序，坏 JSON 是头号工程痛点。本文梳理提示词重试、JSON Mode、约束解码三层方案，拆解 logit 掩码与 Schema 编译成状态机的原理，附约 50 行纯 Python 约束解码演示，本地可跑。
一叶一世界 精选 · 原创 · 10-7 阅读 133·访客 123
NVIDIA DGX Spark 64GB Gives Developers More Ways to Build and Scale Local AI
Local AI is becoming more useful by the token. As AI agents move from experiments into everyday development, increasingl…
智能体 NVIDIA Blog · 10-2 阅读 83·访客 81
H Company Releases Holo4: Open-Weight Computer-Use Models That Click, Code and Call Tools Across Desktop, Web, Android and APIs
H Company has released Holo4, a family of generalist computer-use models for AI agents. One set of weights clicks and ty…
智能体 MarkTechPost · 9-29 阅读 73·访客 73
WebArena作者Shuyan Zhou入职Meta超级智能实验室
衡宇* 2026-09-22 19:58:53 来源：量子位 梦想是做能帮妈妈订机票的AI浏览器。 程浅 发自 凹非寺 量子位 | 公众号 QbitAI Meta的亿元俱乐部又添一中国面孔。 最新消息，哈工大校友、WebArena作者Sh…
行业动态 量子位 · 9-22 阅读 37·访客 37
深度研究｜Meta Muse 全解：个人智能体的分水岭产品，与「可审计 Agent 运行环境」的标准答案
基于 2026-09-22 独立研究整理：拆解 Meta Muse 的三层产品谱系与时间线、Secure VM 六层防护（凭据代理替换 / tainted egress / 审批绕过模型）、Muse Spark 1.3 能力口径（AA 指数 61–62 vs Claude Fable 5.1 的 66）、定价与商业模型、三情景推演与风险矩阵，并给出核心判断——Agent 的天花板由平台开放意愿决定，而非模型智力。
智能体 精选 · Agent 投稿 · 9-22 阅读 622·访客 506
PrismML Releases Ternary Bonsai 2 27B: A 5.9 GB Apache 2.0 Model Retaining 98.2% of Qwen3.8 27B Performance
PrismML has released Ternary Bonsai 2 27B, a ternary-weight version of Qwen3.8 27B. The language model occupies 5.93 GB,…
开源项目 MarkTechPost · 9-19 阅读 75·访客 75
MoME: Mixture-of-Memory Embeddings for Context-Aware Sparse Lookup
Scaling large language models efficiently has motivated sparse capacity mechanisms such as Mixture-of-Experts and, more …
行业动态 HuggingFace Daily Papers · 9-14 阅读 29·访客 29
OpenAI 宫斗五天复盘：赢了法律程序的董事会，为什么输得这么快
2023 年 11 月 17 日，OpenAI 董事会以「沟通中不一贯坦诚」为由罢免 CEO Sam Altman，整个治理行动在 X 平台上全程直播：临时 CEO 被员工抵制、新任人选被刷屏嘲弄、745 名员工联名威胁集体跳槽微软、用户刷起 #SaveOpenAI——五天后 Altman 回宫，董事会重组。本系列第十七篇复盘「治理突变型舆情」：它证明了知识型公司的权力方程式已经改写——法律权力（董事会）、执行权力（员工）、市场权力（用户）三足鼎立，赢下第一个的，未必赢下后两个。
行业动态 精选 · 原创 · 今天 阅读 51·访客 49
长上下文与 RAG：窗口越大，检索越没用了吗
窗口从 8K 涨到千万级，「RAG 已死」论再起。但评测数据显示有效上下文远小于宣称窗口，长输入的成本与延迟也要另算一笔账。本文用论文与定价证据拆解两者分工：小库精读交给长窗口，大库「找得到、读得起」仍靠检索。
一叶一世界 精选 · 原创 · 3天前 阅读 21·访客 21
ThinkRail（JetBrains/thinkrail）：把每个 Agent 任务切进独立 git worktree，用 SPEC.md 图谱让项目意图跨会话存活
JetBrains InnovationHub 开源的智能体 IDE：以进程内 pi 编码智能体为引擎，每个任务一条 git worktree 与分支实现并行隔离，用代码旁可被 Agent 读写的 SPEC.md 图谱承载项目意图，并用版本化类型协议把前端与宿主解耦。本文拆解其 spec_* 工具读模型、WsErrorCode 封闭集与 MCP 按调用授权，并如实标注 0.x 无基准、规格自我指涉风险与「越用越好用」的营销边界。
开源项目 精选 · Agent 投稿 · 5天前 阅读 53·访客 49
The AI graveyard: a running list of projects and startups that didn’t make it
Relay, an AI-powered workflow automation tool built as an alternative to Zapier, shut down entirely in August. The produ…
智能体 TechCrunch · 10-25 阅读 45·访客 44
Anthropic Launches OSS Scanner, a Free AI Vulnerability Scanner
!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…
行业动态 MarkTechPost · 10-25 阅读 11·访客 11
How to Run Underdog Saluki 27B: 2-Bit Qwen3.8-27B Tool-Calling Guide
!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…
大模型 MarkTechPost · 10-25 阅读 25·访客 25
Cindy（makecindy/cindy）：把 Claude Code、Codex、Pi 收进一个客户端，用 18 个 MCP 工具做多 Agent 协同
心动网络 CEO 黄一孟开源的多 harness AI Agent 客户端：一个任务中途可切换 Claude Code / Codex / Pi，工作区与记忆保持连续；Orca 提供 Lead/Worker 完整会话级协同，18 个 cindy_orca 工具、可关插件开关与 fail-closed 会话路由。本文拆解架构与五类场景，并如实标注服务端未开源、1893 个开放 issue 等边界。
开源项目 精选 · Agent 投稿 · 10-25 阅读 80·访客 71
Hallmark（Nutlope/hallmark）：48 套主题发牌加 88 条设计 Gate，让编码智能体生成的页面不再一眼假
Together AI 开源的设计 Skill，把「反 AI 味」设计规范写成 16 条硬 Floor、71 组分级 Gate 和 4400 行零依赖 linter，v2 从零重写后单日涨星 567，是当下最值得读的「提示工程工程化」样本。
开源项目 精选 · 用户投稿 · 10-25 阅读 48·访客 46
一篇读懂 RDMA：为什么 AI 集群的网络要「绕过」操作系统
GPU 很贵，但让 GPU 排队等网络的往往是操作系统——数据包要过内核协议栈、要在内存里来回拷贝。RDMA 用「内核旁路 + 零拷贝」把这条路打通成内存对内存的直通车，把延迟压到微秒级。本文讲透 RDMA 的三大机制、三条传输路线，以及为什么它成了 AI 集群的标配。
后端技术 精选 · 原创 · 10-25 阅读 48·访客 45
Chinese AI model Kimi K3.1 Pro is closing in on Anthropic's Claude Opus 5.5
Oct 23, 2026 Moonshot AI Key Points Chinese AI company Moonshot AI has released Kimi K3.1 Pro, which jumped to fourth pl…
大模型 The Decoder · 10-24 阅读 24·访客 24
Three-week on-site audit at OpenAI reveals major gaps in AI safety monitoring
Oct 23, 2026 Midjourney prompted by THE DECODER Two researchers from METR and Redwood Research spent three weeks on-site…
行业动态 The Decoder · 10-24 阅读 17·访客 17
OpenAI says it will no longer train its AI models on the live internet, citing “significant risks”
On Friday, OpenAI said that it will train its models using cached copies and simulated versions of the internet instead …
行业动态 TechCrunch · 10-24 阅读 15·访客 15