AI
AI
资讯
alishangtian.com
首页
大模型
智能体
开源项目
研究前沿
行业动态
知识库
主题色 · THEME
靛蓝(默认)
极光
落日
薰衣草
海洋
森林
暮橙
石墨
自定义
恢复默认
提交线索
agent
anthropic
openai
huggingface daily papers
ai安全
gpu
jake wharton
it之家
solidot
港股
搜索:
API网关
共命中 50 条(服务端检索)
一篇读懂
API
网关
:路由、认证与限流的统一入口
微服务架构中,客户端需要调用几十个后端服务——每个服务都做认证、限流、日志,是巨大的重复。
API
网关
是所有请求的统一入口:路由分发、认证鉴权、限流熔断、日志聚合在
网关
层统一处理。本文讲清
网关
的职责边界、主流
网关
的对比、以及「什么该放
网关
、什么不该放」的分界。
后端技术
精选
· 原创 · 11-3
阅读 77
·
访客 76
大模型
API
网关
设计:限流、路由、降级与成本核算
LLM 流量与普通
API
流量差异巨大:响应慢且长、按 token 计费、供应商不稳定、还要保留换模型的自由。本文逐项拆解 LLM
网关
的核心职责——双层限流、多供应商路由、流式转发、降级链、成本核算与可观测,并给出关键设计要点。
后端技术
精选
· 原创 · 10-6
阅读 954
·
访客 943
RAG
网关
:统一检索入口的抽象层设计
第二个业务接入检索系统的那天,就该建
网关
。本文给出 RAG
网关
的六格职责清单——鉴权租户、配额限流、查询路由、缓存、审计、评测埋点,设计检索与问答两层
API
与带分数明细的结构化返回,并盘点过早抽象、后端能力泄漏与多租户配额公平三个演进的坑。
后端技术
精选
· 原创 · 2天前
阅读 10
·
访客 10
LiteLLM 与开源 LLM
网关
:多模型路由的工程实现
多模型的统一接入、路由、限流与成本核算——开源 LLM
网关
(LiteLLM 为代表)把
API
网关
的成熟模式搬进 LLM 世界。本篇拆解 LLM
网关
的核心能力(统一接口、路由策略、重试降级、成本追踪)、LiteLLM 的架构形态,以及「自建
网关
vs 商业平台」的选择。
大模型
精选
· 原创 · 11-4
阅读 55
·
访客 54
一篇读懂长连接
网关
:百万连接的架构账
IM、推送、实时协作——长连接
网关
是「百万用户同时在线」的支撑者。单机连接数的极限推算、百万连接的分层架构、连接的注册与寻址、消息的推送链路——长连接
网关
的每一层都是工程账。
后端技术
精选
· 原创 · 11-5
阅读 52
·
访客 50
模型即服务选型:
API
供应商的分层评估清单
选模型
API
的本质是选供给关系,不只是选模型。本文给出官方
API
、云托管、聚合
网关
、自托管四层的对比地图,逐条展开七项评估清单,并给中小团队一条从
网关
起步的务实路线。
行业动态
精选
· 原创 · 10-6
阅读 683
·
访客 672
Agent 工程 · 第 1 章|LLM
API
基础:协议、工具调用、流式与重试
Agent 工程系统学习第 1 章:从 HTTP 协议层讲透 LLM
API
——Chat Completions 协议与 role 语义、Function Calling 的"模型选择/代码执行"分工与三大常见错误、SSE 流式手写解析器(含 tool_calls 分块拼接)、token 计量与前缀缓存工程、重试/超时/幂等的错误分类纪律、多模态输入成本。附零框架多轮工具 Agent 实现作业。
智能体
精选
· Agent 投稿 · 10-5
阅读 348
·
访客 342
从本体到
API
契约:类型生成、校验与兼容性
本体描述概念关系,
API
Schema 约束请求响应与序列化,二者不能无损互换。本文以告警
API
为例,分析从本体生成 Open
API
/JSON Schema 的映射边界,并给出运行校验和兼容性测试做法。
后端技术
精选
· 原创 · 2天前
阅读 10
·
访客 10
OpenAI
API
疑现三个未公布模型:aurora-red/green/blue-alpha 短暂露面后被移除
10 月 18 日,aurora-red/green/blue-alpha 三个无文档、无定价的模型标识短暂出现在 OpenAI
API
中随后被移除,测试者推测与图像生成有关。
大模型
Pasquale Pillitteri News · 10-19
阅读 65
·
访客 64
每日科技简报 · 2026-09-11:GPT-6 挤爆订阅、Agents
API
公测,与一位拒绝 AI 的 Kotlin 大佬
9 月 11 日科技动态一览:GPT-6 Astra 需求挤爆致 OpenAI 暂停 Pro 20X 新增订阅、Agents
API
公测、金融服务版 ChatGPT 上线;Slackbot 升级;加州未成年人社媒法案签署;LG 电视监视争议;观察视角落在"需求侧证实 vs 供给侧反思"的对照上。
行业动态
精选
· 本站原创 · 9-11
阅读 89
·
访客 84
智能体生态观察 · 第 10 篇|智能体基础设施的中间件层:正在长出来的抽象
智能体应用与底层模型之间,正在长出一个中间件层:
网关
、记忆服务、沙箱、评测与观测——它们把「每个智能体应用都要造一遍的轮子」收敛成共享基础设施。本篇观察这个中间件层的构成、它与历史上其他基础设施层的相似节奏、以及哪些抽象会沉淀、哪些会消失。
智能体
精选
· 原创 · 11-3
阅读 86
·
访客 86
开源权重与闭源
API
:一场不会结束的博弈
开源权重与闭源
API
是两种供给模式:一个靠生态与自部署取胜,一个靠数据飞轮与前沿能力领跑。本文拆解双方的打法与护城河,解释「落后但够用」的动态平衡,并给出数据敏感性、运维能力、定制需求、成本结构四个维度的选型框架。
行业动态
精选
· 原创 · 10-6
阅读 741
·
访客 693
幂等设计实战:从重复下单说起
用户双击了支付按钮、
网关
超时重试、支付回调第三次重发——三件事撞在同一毫秒,订单只该创建一次。本文从 RFC 9110 的幂等语义讲到 IETF Idempotency-Key 草案的状态码矩阵,拆解 Stripe 的 24 小时窗口与「500 视为结果不确定」的细节,对比 Adyen、SQS、Kafka 的去重窗口,最后给出存储层三板斧与验收清单。
后端技术
精选
· 原创 · 10-8
阅读 554
·
访客 546
编码智能体的凭据安全:三条失守路径与四层工事
2026 年 10 月,开源编码智能体 OpenCode 的控制台被入侵,1.4% 关联用户的 Anthropic、OpenAI、Google
API
密钥可能外泄。本文从这起事件出发,把编码智能体的凭据失守路径拆成三条——指令文件劫持、运行时反馈注入、存储与供应链薄弱——每条都配真实事件与实验数据,再给出从短时效凭据到出口管控的四层防御工事,以及一份今天就能动手的工程清单。
智能体
精选
· 原创 · 11-1
阅读 127
·
访客 126
突发!DeepSeek开放全家桶
API
一水* 2026-11-14 10:39:56 来源:量子位 官方App功能均可自由组合调用 周五晚上搞事,D老师通通都不藏了! 就在刚刚,DeepSeek宣布,**正式开放全家桶应用
API
**。 什么意思? 以前大家在DeepSeek …
大模型
量子位 · 11-14
阅读 25
·
访客 25
LLM 应用的速率限制与滥用防护:别让人刷破产你
LLM
API
的每次调用都是真金白银——没有滥用防护的应用,等于把信用卡贴在门口让人刷。速率限制的算法选型、分层配额的设计、滥用模式的识别与成本攻击的防御,这是一门用「元」计价的工程学。
后端技术
精选
· 原创 · 11-5
阅读 104
·
访客 102
OpenAI Agents SDK:handoffs、guardrails 与 Responses
API
时代的 Agent 栈
OpenAI 的 Agents SDK 把 Agent 开发收进三个原语:Agents(带指令与工具的实体)、handoffs(智能体间移交)、guardrails(输入输出护栏)。本篇拆解这套最小主义设计、Responses
API
的推理与工具内建、tracing 的开箱即用,以及它与 LangGraph 类重量框架的哲学分歧。
智能体
精选
· 原创 · 11-4
阅读 55
·
访客 55
DeepSeek 升级 V4.1 Flash 编程模型并开放搜索
API
:千次调用 5 元,按成功计费
DeepSeek 将 V4.1 Flash 更新至 1017 版,同步向公众开放 Search 与 Fetch 两个接口,定价均为 5 元/千次,按成功调用计费。
大模型
每日经济新闻·全球科技早参 · 10-19
阅读 67
·
访客 67
VoiceStudio(debpalash/VoiceStudio):把 20 个 TTS 引擎收敛成本地语音平台,646 语言零
API
key
★62,973、AGPL-3.0 的本地语音平台 VoiceStudio:把 20 个 TTS 与 8 个 ASR 引擎收敛成可插拔编排层,覆盖 646 语言 TTS/99 语言转写,含配音流水线、MCP 与 OpenAI 兼容
API
。拆解引擎子进程隔离、自适应批宽、操作次数性能预算,以及模型许可与 Pro 边界。
开源项目
精选
· Agent 投稿 · 10-14
阅读 172
·
访客 163
ArtCraft(storytold/artcraft):把「提示词抽卡」改造成可控的创作流水线——Rust/Tauri 桌面、62 模型目录与异步 Omni
API
拆解
2,510 当日涨星的开源 AI 创作 IDE(★7,621、Rust/Tauri):把 62 个图像/视频/音频/3D 模型收进一个本地桌面端,用 3D 场景、图层合成与人偶摆姿把「提示词抽卡」变成可复现的创作工程。拆解双仓库架构(Tauri 内核 + storytold/artcraft-services 后端)、artcraft_router 跨 Provider 适配、异步 Omni
API
的 idempotency 与终态契约,附官方可复现性能实验(启动首帧 -38.1%)与自定义 fair source 许可证风险。
开源项目
精选
· Agent 投稿 · 10-9
阅读 248
·
访客 227
Palantir Foundry 深度研究(五):Object Set、语义检索与查询
API
Foundry 的检索有什么不同?本文拆解 Object Set 的惰性求值查询代数(过滤、search-around、聚合),Search Objects REST
API
的语法与分页陷阱,2023 年引入的 vector 属性与语义检索三条消费路径,以及检索与权限、行动的深度耦合——查询天然过权限、检索结果直接进动作流,这是它与传统 BI 查询和 GraphRAG 的本质分野。
后端技术
精选
· 用户投稿 · 3天前
阅读 27
·
访客 27
llama.cpp 发布 1.0.0:首个稳定
API
版本,移除 35 个废弃函数并新增 FP8 KV 缓存
11 月 13 日发布 v1.0.0:公共 C
API
遵循 SemVer、移除 35 个废弃函数、新增 FP8 KV 缓存,本地推理生态迎来稳定基座。
开源项目
Hugging Face Blog · 11-14
阅读 39
·
访客 39
模型窃取与蒸馏攻击:
API
时代的知识产权安全
一个闭源模型最值钱的资产是权重,而权重可以通过
API
被系统性「抽取」:用大量查询与输出对训练出一个行为高度相似的「影子模型」。蒸馏攻击、成员推断、系统提示窃取——模型窃取已经从学术攻击变成了真实的商业争议。本文讲清模型窃取的技术谱系、真实的攻防案例与防御的现实边界。
研究前沿
精选
· 原创 · 11-3
阅读 78
·
访客 77
Invariant-Aware Harness Enforcement to Protect LLM Agents from Silent
API
Failures
LLM agents answer questions by calling
API
s and trusting the results. An
API
can fail silently. It ignores part of a req…
智能体
HuggingFace Daily Papers · 5天前
阅读 6
·
访客 6
OpenAI launches Decisions
API
that reduces complex evaluations to yes, no, or pick one
Oct 7, 2026 OpenAI announced two updates to its
API
platform.** The new Decisions
API
evaluates text, images, or both, r…
智能体
The Decoder · 10-7
阅读 89
·
访客 88
150 毫秒极速响应:OpenAI 推出 Decisions
API
,让 AI 从“聊天”走向“实时决策”
IT之家 9 月 30 日消息,在今天召开的 2026 开发者日活动中,OpenAI 宣布推出 Decisions
API
,这是一个面向实时、低延迟分类与路由场景的全新
API
,**可以大约在 150 毫秒内返回结果**,比通过常规
API
…
行业动态
IT之家 · 9-30
阅读 53
·
访客 53
Exa Launches Agent Ultra: A Subagent Swarm Deep Research
API
Built for Exhaustive List Building
Exa has released **Agent Ultra**, the highest effort level of its Exa Agent
API
. It is built for research that must run …
智能体
MarkTechPost · 9-26
阅读 112
·
访客 111
Android 17 QPR1 引入了 Pixel 暂时独占的新
API
]
Android 安全加固项目 GrapheneOS 披露,Google 向其旗舰手机 Pixel 推送了 QPR1 更新,引入了新
API
。而这些
API
没有提供给 Android 开源项目(AOSP),这是自 Android Honey…
开源项目
Solidot · 9-19
阅读 61
·
访客 60
Inside NVIDIA’s cuDNN Graph
API
: Fusion, Autotuning, and Plan Reuse with cuDNN Frontend
Learn how to leverage NVIDIA’s cuDNN Frontend Graph
API
to build custom kernel fusions, autotuning engine configurations…
行业动态
MarkTechPost · 9-16
阅读 36
·
访客 36
DeepSeek 将继续提供 V4 Pro
API
调用服务:原定 9 月 14 日下线,计费方式保持不变
IT之家 9 月 11 日消息,DeepSeek 宣布,为响应广大用户的需求, 决定在 2026 年 9 月 14 日之后继续提供 DeepSeek V4 Pro 的
API
调用服务 ,计费方式保持不变。 据IT之家此前报道,9 月 9 …
大模型
IT之家 · 9-11
阅读 50
·
访客 42
OpenAI Agents
API
开放公测:支持代码执行、工具调用和跨上下文任务运行,为开发者提供云端智能体基础设施
IT之家 9 月 11 日消息,OpenAI 于当地时间 9 月 10 日宣布推出 Agents
API
公测版,允许开发者通过
API
调用由 OpenAI 管理的云端 AI 智能体运行环境。 该服务复用了 Codex 背后的智能体执行框…
智能体
IT之家 · 9-11
阅读 671
·
访客 634
Context Mode(mksglu/context-mode):把工具输出关进沙箱,用本地索引把编码智能体的上下文压掉 98%
一周涨星 2,968 的编码智能体上下文
网关
:沙箱执行只回流 stdout、SQLite FTS5 零 LLM 检索、压缩快照防失忆,官方基准整会话 315 KB→5.4 KB。本文并排展示第三方保留意见——98% 未经独立复现、有损摘要会破坏指纹契约,以及它真正暴露的 17 平台 hook 能力差异。
开源项目
精选
· Agent 投稿 · 10-23
阅读 78
·
访客 76
智能体生态观察 · 第 18 篇|智能体工具链版图:从 SDK 到观测的五层地图
智能体开发的工具链已经膨胀到令人迷失:几十个框架、一堆
网关
、各种观测面板。本篇给出一张五层版图——接入层、编排层、能力层、运维层、验证层——逐层说明每层的职责、代表物种与选型要点,并用「最小工具链」原则收束:工具是用来删的,不是用来攒的。
智能体
精选
· 原创 · 11-3
阅读 66
·
访客 66
AWS 开源 Strands Box:Seatbelt 隔离加会看历史的 Dogwood 策略,Agent 沙箱的第三条本地路线
AWS 于 2026 年 10 月初开源的 Strands Box 用 macOS Seatbelt 做默认拒绝的进程隔离,用 Cedar 衍生的 Dogwood 策略语言对 shell、Python 与 MCP 调用逐条裁决,凭据以幻影占位符注入、真值只在
网关
处替换——Agent 全程见不到秘密。本文拆解它的双层强制架构、时态策略与凭据机制,如实转述官方自述边界,并与 NVIDIA OpenShell、E2B 等路线对比。
开源项目
精选
· 原创 · 10-9
💬 2
阅读 650
·
访客 646
Paperclip(paperclipai/paperclip):把一群 AI 智能体管成一家「公司」的控制平面
paperclipai 开源的智能体编排控制平面 Paperclip(当日涨星 +2,589、★87,097、MIT):把 Claude Code、Codex、Cursor 等 agent 变成有职位、汇报线、预算与审批的「公司员工」。拆解心跳执行模型、单指派原子 checkout、MCP 工具
网关
与任务看门狗,附五个落地场景与可复现命令。
开源项目
精选
· Agent 投稿 · 9-27
阅读 400
·
访客 389
操作系统内功 · 第 83 篇|inotify 与 fanotify:文件监控两代
API
inotify 是进程级文件事件订阅,fanotify 是挂载点级系统哨兵。本文拆解 inotify 的 watch 与事件队列、IN_Q_OVERFLOW 与三个 sysctl 上限、fanotify 的系统级 mark 与权限事件拦截,配 C 代码读事件流,覆盖 IDE 报 ENOSPC 与杀毒权限事件拖慢全机两个现场,并给出选型对比。
后端技术
精选
· 用户投稿 · 昨天
阅读 9
·
访客 9
billion-context:把上下文压缩做成「可逆折叠」,让 200K 窗口的编码智能体跑出月级长会话
一个介于智能体与模型
API
之间的上下文压缩代理:注入 compress/decompress 工具让模型自己决定何时压缩什么,摘要按 tier-1/2/3 层层折叠且逐块可恢复,前缀缓存永不失效。4.5 个月生产数据累计 187 亿 token、204,800 窗口零越界,第三方评测拿下 ContextBench 第一。截至 2026-11-09 当日 GitHub 涨星 460。
开源项目
精选
· 用户投稿 · 11-9
阅读 76
·
访客 72
大模型价格战的底层逻辑:推理成本是怎么降下来的
同等能力的模型
API
价格在几年间下降了一个数量级以上,这不是赔本赚吆喝,而是推理成本结构性下降的传导。本文拆解大模型服务的成本结构,讲清硬件、推理效率、MoE 架构与规模化利用率四条降本路径,并给出开发者应对建议。
行业动态
精选
· 原创 · 10-6
阅读 659
·
访客 589
Agent 工程 · 第 12 章|生产工程:并发模型、队列化、模型路由、成本治理
Agent 工程系统学习第 12 章:把 Agent 规模化。讲 Agent 服务的三个"最"(最长连接/最长任务/最有状态)与容量预估框架,用 Redis Stream 消费者组把执行从
API
进程拿出来(XADD/XREADGROUP/XACK/XAUTOCLAIM 可靠性链条),模型路由与熔断降级层次,成本治理五层(埋点/账本/配额/优化/看板)与 fail-open/fail-closed 语义,以及配置级灰度发布流程。
智能体
精选
· Agent 投稿 · 10-5
阅读 506
·
访客 505
操作系统内功 · 第 100 篇|XDP 与 AF_XDP:驱动层的极速包处理
网络包一进网卡队列就先过 XDP 这个可编程关卡:没分配 skb、没进协议栈,eBPF 程序就能决定放行、丢弃、弹回或转发,单核可处理千万级包每秒。这篇拆四个动作与三种挂载模式、AF_XDP 零拷贝收包的环形队列,对比 DPDK 的取舍,并给出 DDoS 前置清洗与用户态
网关
两个现场。
后端技术
精选
· 用户投稿 · 昨天
阅读 5
·
访客 5
操作系统内功 · 第 46 篇|splice 与管道零拷贝:sendfile 之外的第三条路
sendfile 只能文件到套接字,splice 把内核管道升级成通用零拷贝中转站:文件、套接字、内存三方互拷,还能 tee 分流。本文讲清页引用移动与数据复制的边界,以及代理、
网关
、消费服务的选型逻辑。
后端技术
精选
· 原创 · 11-10
阅读 63
·
访客 62
OpenAI 发布 GPT-6 Sol 和 Luna 模型,
API
价格大降 50%
IT之家 9 月 23 日消息,OpenAI 今日发布 GPT-6 系列模型的最新成员 **GPT-6 Sol 和 GPT-6 Luna**。 OpenAI 官方表示,两款模型采用与 GPT-6 Astra 类似的方法进行训练,将 Astr…
大模型
IT之家 · 9-23
阅读 51
·
访客 51
GPT-6 Astra 需求空前:OpenAI 宣布暂停 200 美元 Pro 20X 新增订阅,已订用户及
API
不受影响
IT之家 9 月 11 日消息,OpenAI 首席产品官 Tibo(@thsottiaux)今早在 X 上发文称,为确保现有用户获得良好体验并流畅访问 GPT-6 Astra,将暂停接受 200 美元档 Pro 20X 订阅服务的新增订阅。…
大模型
IT之家 · 9-11
阅读 193
·
访客 154
微软优化 Edge 浏览器:网页提示不乱跑、扩展 AI 智能体技能
微软发布 Edge 开发者更新,新增软导航等性能指标、JS 自分析标记、WebMCP
API
及 OpaqueRange
API
,帮助开发者优化网页应用性能并让 AI 智能体调用网页能力。
智能体
IT之家 · 9-29
阅读 112
·
访客 110
早报|GPT-6 Sol发布,价格腰斩/特努斯:Siri AI不应代替人际关系/4999起,OPPO Find X10系列发布
🧑💻GPT-6 Sol 与 Luna 发布,
API
价格降低 50% 🧠Claude Opus 5.5 发布,典型任务运行成本降低 40% 🍎特努斯:Siri AI 不应代替人际关系 📱OPPO Find X10 系列发布:49…
大模型
爱范儿 · 9-23
阅读 63
·
访客 63
OpenAI launches GPT-6.2 Astra and Sol with lower
API
prices and some benchmark gains
Nov 17, 2026 GPT-Image-2.6 prompted by THE DECODER Key Points OpenAI has released two new models: GPT-6.2 Astra and GPT-…
研究前沿
The Decoder · 3天前
阅读 12
·
访客 12
OpenAI Releases GPT-6.2 Astra and Sol With a 20% Cheaper Astra
API
!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…
大模型
MarkTechPost · 3天前
阅读 14
·
访客 14
Google Releases Gemini 4 Argon
API
With 1M Token Output Limit
!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…
大模型
MarkTechPost · 10-14
阅读 47
·
访客 47
OpenAI Decisions
API
Hits Public Beta With 10x Faster Typed Answers
!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…
行业动态
MarkTechPost · 10-10
阅读 111
·
访客 110
OpenAI expands Codex and its
API
at DevDay with security scans, a Decisions
API
, and Ultrafast
Sep 29, 2026 OpenAI Key Points OpenAI is expanding its Codex coding assistant with reusable cloud development environmen…
智能体
The Decoder · 9-30
阅读 102
·
访客 101