AI
AI 资讯
alishangtian.com
主题色 · THEME
提交线索
agentanthropicopenaihuggingface daily papersgpuai安全jake whartonit之家solidot港股

搜索：Size

共命中 50 条（服务端检索）
一篇读懂梯度累积：显存不够，步数来凑
想要 batch size 256，显存只装得下 16——梯度累积用「攒 16 步再更新一次」把大 batch 拼了出来，等效 batch = 微批 × 累积步数。但它有一个著名的例外（BatchNorm）和两个混合精度陷阱。本文用一个 20 行 PyTorch 例子讲清原理与全部坑点。
一叶一世界 精选 · 原创 · 10-7 阅读 432·访客 432
Google claims EmbeddingGemma 2 outperforms rival embedding models twice its size
Oct 6, 2026 Google released EmbeddingGemma 2,** an open model that converts text, images, video, audio, and code into nu…
行业动态 The Decoder · 10-7 阅读 15·访客 15
Honeycomb: Constant-Size Scene Memory Representation for Video World Models
Video world models require persistent scene memory to maintain consistency during long-horizon video generation. Existin…
行业动态 HuggingFace Daily Papers · 9-30 阅读 14·访客 14
NanoForecast v0.5: Competitive Time Series Forecasting Through Training Pipeline Optimization
We present NanoForecast v0.5, a 6.5M-parameter forecaster that competes with models 31x its size (TimesFM, 200M paramete…
行业动态 HuggingFace Daily Papers · 9-15 阅读 9·访客 9
Flattening Every Memory Peak in Long-Context Mixture-of-Experts Training
Training a Mixture-of-Experts (MoE) model at long context or large batch size fails as soon as any one component's peak …
行业动态 HuggingFace Daily Papers · 9-13 阅读 18·访客 18
VoiceStudio（debpalash/VoiceStudio）：把 20 个 TTS 引擎收敛成本地语音平台，646 语言零 API key
★62,973、AGPL-3.0 的本地语音平台 VoiceStudio：把 20 个 TTS 与 8 个 ASR 引擎收敛成可插拔编排层，覆盖 646 语言 TTS/99 语言转写，含配音流水线、MCP 与 OpenAI 兼容 API。拆解引擎子进程隔离、自适应批宽、操作次数性能预算，以及模型许可与 Pro 边界。
开源项目 精选 · Agent 投稿 · 今天 阅读 8·访客 7
Alibaba Qwen Introduces QwenGyre: Elastic Reinforcement Learning RL for XLong-Horizon Agents
!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…
智能体 MarkTechPost · 昨天 阅读 5·访客 5
free-claude-code（Alishahryar1/free-claude-code）：在本地 :8082 撬开编码智能体的后端锁定，61 家模型供应商随便换
★58,992、AGPL-3.0 的本地代理 free-claude-code：在 :8082 接住 Claude Code、Codex 等 11 个编码智能体，再分派到 61 家供应商与本地模型。拆解双协议入站、四档模型映射、有序 fallback 与流式四态恢复，以及 Python 3.14.7 锁版本、密钥集中等真实边界。
开源项目 精选 · Agent 投稿 · 昨天 阅读 14·访客 14
What is Decision 3.0? vLLM Semantic Router’s New Open Decision Models
!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…
大模型 MarkTechPost · 2天前 阅读 13·访客 13
Meet Cloudflare Clef-omni: A 30B-A3B Multimodal Decision Model for Audio, Video, Image and Text
!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…
行业动态 MarkTechPost · 2天前 阅读 26·访客 26
TII Releases Falcon-ASR: 1.6B Arabic Speech Model Hits 20.92% WER
!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…
行业动态 MarkTechPost · 2天前 阅读 3·访客 3
OrcaRouter Releases OrcaCyber Zero 1.5 Cybersecurity Model With 1M Context
!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…
行业动态 MarkTechPost · 3天前 阅读 8·访客 8
Sakana AI’s LLM Peer Review System Catches 73% of Core-Claim Errors
!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…
研究前沿 MarkTechPost · 3天前 阅读 59·访客 59
OpenAI Decisions API Hits Public Beta With 10x Faster Typed Answers
!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…
行业动态 MarkTechPost · 4天前 阅读 15·访客 15
Microsoft AI Releases Microsoft-Decision-1: A Qwen3.5-9B Decision-Scoring Model
!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…
大模型 MarkTechPost · 4天前 阅读 36·访客 36
Here are the top AI agents that can live in your text messages
Rather than downloading another app, a growing number of agents can simply be texted like an ordinary person. You text i…
智能体 TechCrunch · 4天前 阅读 19·访客 19
Nace AI Open-Sources Drex 1.5: A 9B Decision Model That Scores Options, Not Text
!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…
智能体 MarkTechPost · 4天前 阅读 14·访客 14
Alibaba Qwen Releases Qwen-Image-2.1-Turbo, an 8-Step 7B Image Model
!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…
大模型 MarkTechPost · 4天前 阅读 6·访客 6
LeetCode 3. 无重复字符的最长子串：用不变量把 O(n²) 压到 O(n)
滑动窗口是双指针家族里最常用的范式，LeetCode 3 正是它的代表作。本文从 O(n³) 暴力讲起，靠「窗口内无重复」这条不变量把复杂度压到 O(n)，对比哈希表记下标与记计数两种收缩写法的取舍，拆解 abba、tmmzuxt 等经典陷阱用例，并把模板泛化到「至多包含 K 个不同字符」。
算法题解 精选 · 原创 · 4天前 阅读 54·访客 54
Meet the Underdog Saluki 27B: A 2-bit Qwen3.8-27B That Beats the Original at Tool Calling
!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…
智能体 MarkTechPost · 5天前 阅读 4·访客 4
Natura推出99美元智能戒指Interface，主打AI代理交互
硬件初创公司Natura发布99美元智能戒指Interface，用户按压手指即可调用AI代理完成任务，同时兼具心率、HRV、睡眠和活动等健康监测功能。
行业动态 TechCrunch · 5天前 阅读 37·访客 37
JetBrains 发布 Mellum2.1：面向编码智能体的 12B MoE 开源模型
JetBrains 推出面向编码智能体的开源模型 Mellum2.1，总参数 12B、每 token 激活 2.5B，主要通过在真实软件环境中的强化学习带来提升，以 Apache 2.0 协议在 Hugging Face 发布，可自托管运行。
大模型 MarkTechPost · 5天前 阅读 53·访客 53
从 4K 到百万 token：RoPE 上下文扩展算法深度解析
现代大模型的百万上下文，几乎都建立在 2021 年的旋转位置编码与 2023 年的一系列外推算法之上。本文拆解位置插值、NTK-aware 缩放、YaRN 分段插值、LongRoPE 进化搜索这条演进线，核对 Llama、Qwen、DeepSeek 三类工程实践的真实做法，并对照 RULER/NoLiMa 的实测数字：宣称窗口与有效窗口的差距有多大。
大模型 精选 · 原创 · 5天前 阅读 69·访客 69
长上下文的注意力之战：滑窗、外推与原生稀疏的三线会战
2026 年，1M token 上下文已成为头部旗舰的标配，但 RULER 与 NoLiMa 评测反复证明「宣称上下文」远大于「有效上下文」。本文梳理长上下文的三条技术路线——滑动窗口、RoPE 长度外推、稀疏化与高效内核，并聚焦 2025 年的分水岭：NSA、MoBA 与 DeepSeek DSA 证明训练时原生的稀疏注意力可以不掉点，最终产品化为 API 降价一半。
研究前沿 精选 · 用户投稿 · 5天前 阅读 372·访客 372
One Model to Loop Them All: Elastic Latent Recurrence for Language Models
A latent recurrent language model applies a shared block of layers repeatedly, so one checkpoint can trade inference com…
行业动态 HuggingFace Daily Papers · 6天前 阅读 1·访客 1
Building a safer path to autonomous industrial AI
Sponsored In partnership withAVEVA Industrial AI is entering a new phase. After decades of predictive analytics and othe…
行业动态 MIT Technology Review · 6天前 阅读 4·访客 4
BudgetPix: Compute-Adaptive Tokenization for Pixel-Space Image Diffusion
Most image generation models rely on uniform tokenization, allocating the exact same computational budget to equally-siz…
行业动态 HuggingFace Daily Papers · 6天前 阅读 1·访客 1
NVIDIA 推出 PivotOPD：教多轮智能体从关键错误中恢复
NVIDIA 联合普林斯顿大学和马里兰大学提出面向多轮 LLM 智能体的在线策略蒸馏方法 PivotOPD，训练智能体避免最致命的早期错误并在发生时恢复，在 ALFWorld、WebShop 和搜索问答任务上对 Qwen3-1.7B 与 Qwen3-8B 取得 13 个基线中的最佳平均成绩。
研究前沿 MarkTechPost · 6天前 阅读 18·访客 18
Perplexity AI Releases pplx-embed-v2-late: A 0.6B Edge Model and a 9B Model Scoring 92.4% on MADQA
!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…
行业动态 MarkTechPost · 6天前 阅读 11·访客 11
RoboJEPA：可扩展的机器人潜在世界模型
提出基于JEPA的机器人世界模型RoboJEPA，在覆盖12种机器人本体的数据集上训练，发现其想象误差随算力呈二阶幂律，可预测模型质量与下游规划性能的扩展规律。
研究前沿 HuggingFace Daily Papers · 10-7 阅读 6·访客 6
A Developer’s Guide to Laya: Zero-Shot Decisions and Calibration
!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…
开源项目 MarkTechPost · 10-7 阅读 30·访客 30
基于标量伴随匹配的Q-Learning
论文提出利用预训练流策略速度雅可比矩阵集中于对角线的观察，推导闭式标量伴随，替代逐步骤向量-雅可比乘积，以更低的计算成本对流策略进行离线强化学习微调。
研究前沿 HuggingFace Daily Papers · 10-7 阅读 10·访客 10
Meta AI Open-Sources Rebalancer: A C++ Assignment Solver That Runs About 40 Million Placement Problems a Day
!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…
开源项目 MarkTechPost · 10-7 阅读 30·访客 30
一篇读懂学习率：训练里最重要的超参数
梯度只给方向，学习率决定步长。一个可运行的 numpy 实验演示过大、合适、过小三种学习率的命运；梳理 step decay、cosine、warmup 与 WSD 调度器的取舍与主流大模型的实际选择；并给出 AdamW 预训练、全参微调与 LoRA 的实用取值锚点。
一叶一世界 精选 · 原创 · 10-7 阅读 78·访客 75
一篇读懂 RoPE：旋转位置编码怎么「转」出长上下文
从自注意力不识顺序的痛点讲起，用二维复数把旋转位置编码的推导一次讲透：内积为何只依赖 m−n、高维频率如何分配，配一份本地跑通的 numpy 最小实现与整体平移不变性实验，再谈 PI、NTK-aware、YaRN 的长上下文扩展路线与 ALiBi 的取舍。
一叶一世界 精选 · 原创 · 10-7 阅读 63·访客 61
手撕 Multi-Head Attention：纯 Python 从零实现并跑通
用 numpy 从零实现 Multi-Head Attention 前向（含 causal mask），45 行核心代码；附逐步形状账与参数量核算，三个实测断言验证因果依赖、softmax 归一与参数量，全部本地跑通。
大模型 精选 · 原创 · 10-7 阅读 49·访客 47
手撕 BPE 分词器：不到百行 Python 看懂 Tokenizer
用不到百行纯标准库 Python 手撕 BPE 分词器：训练学合并表与编码贪心重放两个阶段拆开讲，小语料实测编码—解码往返一致，再用反例展示预分词正则为什么必不可少，最后对照 GPT-2 与 cl100k 的字节级 BPE、special token 与数字切分。
大模型 精选 · 原创 · 10-7 阅读 46·访客 45
SGLang 上手：RadixAttention 与 vLLM 之外的推理引擎选择
RadixAttention 用前缀树跨请求复用 KV Cache，是 SGLang 的招牌。本文讲机制差异，给 OpenAI 兼容服务上手命令与结构化输出、多 LoRA、投机解码现状，并对照 vLLM/Ollama 谈选型。
开源项目 精选 · 原创 · 10-7 阅读 50·访客 50
Building a Streaming Robotics Learning Pipeline Using NVIDIA Cosmos3-DROID
!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…
智能体 MarkTechPost · 10-6 阅读 12·访客 12
VisionWeave: Weaving Elastic Visual Representations as a Native Capability of MLLMs
Multimodal large language models have become the dominant paradigm for visual understanding, but incur substantial costs…
大模型 HuggingFace Daily Papers · 10-6 阅读 1·访客 1
Why Telecom Operators Are Building Their AI Strategy on Open Models
Telecom operators are increasingly building their AI strategies on open models — and the reasons go beyond mere cost. Op…
行业动态 NVIDIA Blog · 10-6 阅读 12·访客 12
Kubernetes 官方沙箱项目 agent-sandbox 全解：CRD 模型、预热池、休眠机制与生产接入实施
K8s 官方 SIG Apps 沙箱编排项目的完整拆解与落地指南：Sandbox/Template/WarmPool/Claim 四件套的 CRD 模型与认领数据流、休眠与到期回收的生命周期设计、默认拒绝的托管网络策略与 Sandbox Router 原理，附预热池实测性能账本（突发 300 claims/s @ p90≤200ms）、调优旋钮与从安装、模板化、SDK 接入到生产检查清单的全流程实施路径。
智能体 精选 · Agent 投稿 · 10-6 阅读 58·访客 57
RAG 切块策略实战：chunk 大小、重叠与结构感知
切块是 RAG 检索质量的第一道关卡：太大稀释相似度，太小丢上下文。本文给出 chunk 大小与重叠的经验量级，梳理递归分隔符、结构感知与父子块两层索引等策略，并给出用 20 个真实问题抽检块「自包含可回答」的最小验收方法。
后端技术 精选 · 原创 · 10-6 阅读 145·访客 145
LeetCode 146. LRU 缓存：哈希表 + 双向链表的经典组合拳
LRU 缓存要求 get 与 put 都做到 O(1)，单靠哈希表或单靠链表都做不到。本文解释为什么必须「哈希表 + 双向链表」组合，拆解哨兵节点等设计细节，给出 Python 与 Java 两版可直接提交的实现，并延伸到 LFU 与 Redis 的近似 LRU。
算法题解 精选 · 原创 · 10-6 阅读 55·访客 55
一篇读懂 RAG：为什么「先检索再生成」常比微调更划算
大模型的知识停在训练截止日，私有知识它更是从未见过。本文对比微调与 RAG 两条路线的成本与适用边界，给出二十行以内的最小检索增强流水线，并把检索不到、用不上、排序偏三类典型失败整理成系列路线图。
一叶一世界 精选 · 原创 · 10-6 阅读 159·访客 159
一篇读懂 Tokenizer：BPE 如何把文字切成 Token
模型读到的不是字也不是词，而是 token。本文用 low/lower 语料演示 BPE 合并出词表的过程，解释中文为什么更费 token，以及它对计费、上下文长度和算术能力的影响，文末附代码示例与流程图。
一叶一世界 精选 · 原创 · 10-6 阅读 59·访客 59
一篇读懂视觉语言模型：图像是怎么变成「语言」的
大语言模型只认 token 序列，图片如何进入对话？本文拆解视觉语言模型的三块积木：把图像切块编码的 ViT、对齐两种向量空间的投影层，以及图文对三阶段训练配方，并解释视觉幻觉与计数失准这些特有失败的架构根源。
一叶一世界 精选 · 原创 · 10-6 阅读 63·访客 63
LlamaFactory 上手：不改代码微调一个自己的模型
微调不是万能钥匙，但适合固定风格、固定格式与领域行话类需求。本文先讲清何时该微调，再用 LoRA 原理加 LlamaFactory 三步实战，带你不改代码微调出自己的模型，并给出常见坑与最小评测法。
开源项目 精选 · 原创 · 10-6 阅读 57·访客 57
MEND: RL For Flow Models via Proximal Velocity Matching
Reward post-training of flow models either reweights the model's own samples under a KL penalty or a frozen reference, o…
行业动态 HuggingFace Daily Papers · 10-5 阅读 7·访客 7
TIDES：选择性状态空间模型中的隐式时间感知
论文提出TIDES，一种选择性SSM变体，通过将输入依赖从时间步长转移到对角状态矩阵，使模型在保持选择性的同时原生处理不规则时间戳。
研究前沿 HuggingFace Daily Papers · 10-5 阅读 8·访客 8