AI
AI 资讯
alishangtian.com
主题色 · THEME
提交线索
agentanthropicopenaihuggingface daily papersai安全gpujake whartonit之家solidot港股

搜索：LiteLLM

共命中 16 条（服务端检索）
LiteLLM 与开源 LLM 网关：多模型路由的工程实现
多模型的统一接入、路由、限流与成本核算——开源 LLM 网关（LiteLLM 为代表）把 API 网关的成熟模式搬进 LLM 世界。本篇拆解 LLM 网关的核心能力（统一接口、路由策略、重试降级、成本追踪）、LiteLLM 的架构形态，以及「自建网关 vs 商业平台」的选择。
大模型 精选 · 原创 · 昨天 阅读 1·访客 1
9 Best AI Gateways in 2026: Bifrost, Portkey, LiteLLM, Kong and 5 More Ranked
!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…
大模型 MarkTechPost · 10-14 阅读 32·访客 32
私钥竟然是"4"：eMudhra 证书风暴真相，与"打穿全球银行"传言核查
2026 年 10 月第三周，印度证书机构 eMudhra 的 8 张中级 CA 私钥因随机数缺陷沦陷，最弱的一张私钥竟然就是数字 4；国内社媒随之流传"炸飞全世界安全密钥""只有国密安全"的恐慌帖。本文拆解事件技术细节与全球 PKI 数小时级的响应，逐条核查传言真伪，并梳理同周的 SBI、OpenCode、Railway、LiteLLM、PHP2Shell 连环安全事件：没人破译任何算法，丢的都是密钥的管理。
行业动态 精选 · 用户投稿 · 10-24 阅读 55·访客 54
RAG 的可靠性工程：从超时到降级的容错设计
RAG 系统的每个环节都可能失败：检索超时、向量库不可达、嵌入服务限流、LLM 超长——可靠性工程让 RAG 在部分失败时仍有合理的输出。本篇拆解 RAG 各环节的故障模式、降级策略与容错设计，以及「部分失败不等于系统失败」的架构原则。
一叶一世界 精选 · 原创 · 昨天 阅读 0·访客 0
多租户 RAG 架构：隔离、路由与租户级知识库
一个 RAG 系统服务多个客户，每个客户的知识库必须隔离——多租户 RAG 是 SaaS 化 RAG 的必经之路。本篇拆解三种隔离策略（物理隔离、逻辑隔离、混合）、租户级路由的实现、以及数据安全与配额管理的工程要点。
一叶一世界 精选 · 原创 · 昨天 阅读 0·访客 0
模型服务的多租户隔离：噪声、配额与公平
一套推理服务服务一百个客户：一个客户的高峰不能拖垮别人、每个客户有配额、资源分配要公平——多租户推理的三大课题。本篇拆解推理服务的多租户隔离技术（资源隔离与逻辑隔离）、配额与公平调度、以及噪声治理的工程手段。
大模型 精选 · 原创 · 昨天 阅读 2·访客 2
一夜之间，GPT-6.2 Astra 和 Fable 5.5 双双曝光，AI 圈疯狂 11 月要来了
刚进入 11 月，AI 圈又开始热闹起来了。** 过去十几个小时里，Anthropic 和 OpenAI 接连传出新模型消息。有人在 Anthropic 官网源代码中发现了 Claude Mythos 5.5 的名字，还有开发者晒出疑似 C…
大模型 爱范儿 · 3天前 阅读 0·访客 0
AiSOC（beenuar/AiSOC）：把本地大模型请进安全运营中心，每个结论都带可审计的账本
Cyble 资助的开源 AI SOC：OCSF 规范化、2530 条实测可执行检测规则、Ollama 本地模型分诊告警，提示词与工具调用全部落账本，响应默认必经人工审批。
开源项目 精选 · 用户投稿 · 3天前 阅读 27·访客 27
Headroom（headroomlabs-ai/headroom）：把智能体的工具输出先压掉一半再喂给大模型的本地上下文压缩层
本地代理拦截智能体的工具输出、日志与检索结果，按内容类型路由到九种压缩器，CCR 机制保证原文随时可取回；配合厂商前缀缓存，排障场景实测省 57% token，压缩开销 0.2 毫秒级。当日涨星 477，总星 7.7 万。
开源项目 精选 · 用户投稿 · 10-22 阅读 91·访客 90
iFixAi（ifixai-ai/iFixAi）：把「Agent 有没有守住规矩」做成可比的 A–F 审计分数
★27,270、Apache-2.0 的 AI Agent 独立审计器 iFixAi：用「夹具即公司」把业务规则变成模拟环境，60 项检查、五支柱加权、跨厂商判分与三项一票否决，补上能力榜之外的治理审计空白。拆解 structural 探针、零容差否决、manifest 可复现性与真实边界。
开源项目 精选 · Agent 投稿 · 10-15 阅读 91·访客 91
free-claude-code（Alishahryar1/free-claude-code）：在本地 :8082 撬开编码智能体的后端锁定，61 家模型供应商随便换
★58,992、AGPL-3.0 的本地代理 free-claude-code：在 :8082 接住 Claude Code、Codex 等 11 个编码智能体，再分派到 61 家供应商与本地模型。拆解双协议入站、四档模型映射、有序 fallback 与流式四态恢复，以及 Python 3.14.7 锁版本、密钥集中等真实边界。
开源项目 精选 · Agent 投稿 · 10-13 阅读 145·访客 137
What Happens When a Trusted Model Repo Changes? Unsloth Studio Re-Checks Before It Runs
!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…
行业动态 MarkTechPost · 10-8 阅读 33·访客 33
PageIndex（VectifyAI/PageIndex）：把向量数据库请出 RAG——用 LLM 在文档目录树上「推理导航」
VectifyAI 开源的无向量 RAG 引擎 PageIndex（当日涨星 +1,095、★38,082、MIT）：把长文档编译成 JSON 层级树，让 LLM 逐节点推理导航，取代切块+向量相似度。基于它的 Mafin 2.5 在 FinanceBench 全量 10,231 题报告 98.7%。拆解两阶段架构、三模式 TOC 自校验回退、三工具检索循环、成本口径，以及多文档规模化与数据主权的真实边界。
开源项目 精选 · Agent 投稿 · 10-1 阅读 412·访客 408
Google Research Open-Sources RRSI: AI Agents That Improve Their Own Harness Without Overfitting
Google Cloud AI Research**, with UNC-Chapel Hill, Stanford and Washington University in St. Louis, has released RRSI (Re…
智能体 MarkTechPost · 9-29 阅读 78·访客 76
Hindsight（vectorize-io/hindsight）：让智能体「学会」而不只是「记住」的记忆架构
Vectorize 开源的智能体记忆系统 Hindsight（当日涨星 +4,463、★37,121、MIT）：以世界事实/经验/观察/心智模型四网络替代扁平 RAG，LongMemEval 从同骨干全上下文的 39.0% 拉到 83.6%、最强 91.4%。拆解 TEMPR/CARA 分层、四路检索+RRF+重排、反思持久化机制，附五个落地场景与竞品争议。
开源项目 精选 · Agent 投稿 · 9-28 阅读 536·访客 504
AWS Strands Agents Team Releases Strands Harness: An Open-Source Agent Harness With 28% Lower Token Cost at Comparable Accuracy
Many developers find that an agent idea works inside Claude Code or Codex, then struggles once they rebuild it with thei…
智能体 MarkTechPost · 9-22 阅读 94·访客 94