AI
AI
资讯
alishangtian.com
首页
大模型
智能体
开源项目
研究前沿
行业动态
知识库
主题色 · THEME
靛蓝(默认)
极光
落日
薰衣草
海洋
森林
暮橙
石墨
自定义
恢复默认
提交线索
agent
anthropic
openai
huggingface daily papers
ai安全
gpu
jake wharton
it之家
solidot
港股
搜索:
case
共命中 50 条(服务端检索)
bad
case
归因分类学:检索错、生成错还是需求错
治理 bad
case
的第一步不是修,是归因。本文给出一张三枝归因树——检索错(召回失败与排序失败)、生成错(忠实性错误与整合失败)、需求错(歧义问题与超纲问题),配可操作的判定三问与反事实检验,再讲双人标注的归因流程、月度归因占比的统计读法,以及每类问题的修复路径与责任方。
后端技术
精选
· 原创 · 2天前
阅读 7
·
访客 7
Some Anthropic veterans are reportedly buying remote land in
case
"AI goes awry"
Sep 27, 2026 Some of Anthropic's longest-serving employees are making concrete contingency plans in
case
AI spirals out …
行业动态
The Decoder · 9-27
阅读 44
·
访客 44
The climate
case
for AI has not been made
This week, as countries meet in Antalya, Turkey for the United Nations climate conference, one topic likely to dominate …
行业动态
MIT Technology Review · 11-9
阅读 19
·
访客 19
EDGEGEN: Improving Tool-Calling Agents Beyond Happy Paths with Synthetic Edge
Case
Generation
Tool-calling LLM agents are increasingly deployed in enterprise applications. However, effective evaluation and optimiza…
智能体
HuggingFace Daily Papers · 9-21
阅读 78
·
访客 78
RAG 团队的角色分工:谁对检索质量负责
一条 bad
case
常在解析、检索、语料三方之间踢皮球,根源是责任没有归属。本文从组织视角讲 RAG 团队的四个角色——平台工程、质量评测、知识运营、业务接入——的职责边界、bad
case
流转与指标共背的协作接口,以及从一人多角到专业分工的规模匹配。
后端技术
精选
· 原创 · 2天前
阅读 6
·
访客 6
检索可解释性:为什么检索到这一条
检索排序解释不了,业务方不敢用、bad
case
没法修、加权规则说不清。本文把可解释性拆成命中、分数、排序三层,主张把管线中间量留痕做成数据结构而非事后编故事,并给出工程师调试、业务方申诉、合规审计三类消费场景各自的呈现形态与红线。
后端技术
精选
· 原创 · 2天前
阅读 7
·
访客 7
AI 安全论证:把“系统安全”写成一条可审查的证据链
安全论证不是一句“模型安全”,而是针对具体系统、用途和运行环境,把安全主张、推理路径、证据、假设与反例组织成可复核链条;本文说明如何定边界、拆危险、判断证据强弱并随变更更新。
大模型
精选
· 原创 · 4天前
阅读 17
·
访客 17
智能体的可观测性生态:tracing、调试工具与生产监控
智能体的非确定性和多步执行让传统调试手段失效,本文梳理 tracing 标准化、主流观测工具生态、生产监控的关键指标体系,以及从坏
case
到回归评测集的闭环实践。
智能体
精选
· 原创 · 11-5
阅读 91
·
访客 88
RAG 的生产监控与调试:追踪检索质量的生产链路
RAG 上线后的调试比开发期更难:真实流量的多样性、检索质量的隐性退化、生成质量的持续漂移——生产监控是 RAG 运营的眼睛。本篇拆解 RAG 监控的四个层面(检索层、生成层、用户层、系统层)、调试的方法论,以及 bad
case
的管理流程。
一叶一世界
精选
· 原创 · 11-4
阅读 73
·
访客 73
Making the
case
for context-aware AI
Sponsored In partnership withCelonis Enterprise AI can generate recommendations, automate tasks, and help organizations …
行业动态
MIT Technology Review · 10-22
阅读 27
·
访客 27
Cheaper AI tokens are driving more demand, and that's Jensen Huang's best-
case
scenario
Oct 11, 2026 Jevons' paradox is Jensen's best friend.** Data from Ornn, Silicon Data, and Bloomberg (as of August 2026) …
行业动态
The Decoder · 10-11
阅读 143
·
访客 143
OpenAI says a misaligned model deliberately destroyed its own environment hoping for a fresh start with better data
Oct 10, 2026 OpenAI has a few new rogue agent stories.** In the first
case
(October 6), an AI evaluation model couldn't …
智能体
The Decoder · 10-10
阅读 77
·
访客 77
AI math breakthroughs have Ethereum researchers debating how fast wallet security could collapse
Manuel Uth Oct 8, 2026 Two leading Ethereum researchers warn that AI-assisted math could, in the worst
case
, break the s…
行业动态
The Decoder · 10-8
阅读 30
·
访客 30
儿童因经常将笔记本电脑放在腹部而出现烤肤症]
《BMJ
Case
Reports》报告了一起奇特的病例,一名儿童因腹部皮肤出现奇怪斑痕而送去急症。医生查找许久未发现病因,因此开了抗生素让他回家,叮嘱父母如果病情变化立即来复诊。两周后,这名儿童再次入院,他的病情出现恶化。皮肤斑块变大,颜…
行业动态
Solidot · 9-11
阅读 35
·
访客 33
MetroLLM-Bench: Evaluating Language Models as Transit Kiosk Runtimes
We introduce MetroLLM-Bench, a 955-
case
benchmark for testing language models as the policy layer of a transit kiosk. It…
研究前沿
HuggingFace Daily Papers · 9-9
阅读 55
·
访客 49
Privacy Failure in Split-LLM Training, The Returned Gradient Nullifies the Decoys
We present a systems-security
case
study of a two-node split-LLM training system whose privacy evaluation passed while l…
大模型
HuggingFace Daily Papers · 9-3
阅读 46
·
访客 45
事件本体与过程语义:让状态变化可追溯
“订单已发货”是当前状态,“包裹已交运”是一次发生;二者不能互相替代。本文结合 PROV-O、OWL-Time、CloudEvents 和 OCEL,说明如何建模事件、对象、时间与过程,并从事件证据解释状态而不混淆传输封装和领域语义。
后端技术
精选
· 原创 · 2天前
阅读 19
·
访客 19
从本体到 API 契约:类型生成、校验与兼容性
本体描述概念关系,API Schema 约束请求响应与序列化,二者不能无损互换。本文以告警 API 为例,分析从本体生成 OpenAPI/JSON Schema 的映射边界,并给出运行校验和兼容性测试做法。
后端技术
精选
· 原创 · 2天前
阅读 11
·
访客 11
检索指标的陷阱:recall@k、MRR 与 nDCG 的适用边界
指标选错,优化就是在错误方向上努力。recall@k、MRR 与 nDCG 各自隐含一种任务假设——找齐集合、命中首条、按序浏览。本文拆解三者的机制与「满分但没用」的失效场景,给出问答、合规集合、导航入口三类任务的指标配对,以及人工对账与多指标防博弈的补充纪律。
后端技术
精选
· 原创 · 2天前
阅读 5
·
访客 5
智能体生态观察 · 第 59 篇|生产环境评测:在线灰度、影子流量与回归集
benchmark 分数高不等于生产能用。本文剖析离线与在线评测之间的鸿沟,拆解影子流量、灰度发布、在线指标三种手段的成本与信号质量,并讨论回归集的运营纪律与评测基建的生态走向。
智能体
精选
· 原创 · 2天前
阅读 14
·
访客 14
RAG 网关:统一检索入口的抽象层设计
第二个业务接入检索系统的那天,就该建网关。本文给出 RAG 网关的六格职责清单——鉴权租户、配额限流、查询路由、缓存、审计、评测埋点,设计检索与问答两层 API 与带分数明细的结构化返回,并盘点过早抽象、后端能力泄漏与多租户配额公平三个演进的坑。
后端技术
精选
· 原创 · 2天前
阅读 10
·
访客 10
智能体生态观察 · 第 63 篇|智能体安全评测:红队、越狱基准与自动化攻击面发现
安全评测回答一个问题:多少人多少机器试图攻破它,它能撑多久。本篇盘点智能体多出的攻击面——工具滥用、数据外传与成本攻击,对比人工、模糊与模型攻击模型三种红队形态,梳理越狱基准、权限沙箱与披露流程三件基建,并观察红队服务商业化趋势。
智能体
精选
· 原创 · 2天前
阅读 14
·
访客 14
Audio RAG:会议录音与播客的语音检索
会议录音没人听第二遍,但每天都有人在问「上次会上谁说了什么」。本文讲语音 RAG 管线:ASR 转写与说话人分离、话题化切块、时间戳对齐索引,以及命中即回听的呈现形态;转写有损靠热词注入与置信度标记兜底,锚点回听让用户自己核对原声。
后端技术
精选
· 原创 · 2天前
阅读 8
·
访客 8
Palantir 本体平台的四个发展阶段:每一代解决了什么,又留下什么
把 Palantir 2024–2026 的四篇官方文献放在同一条时间轴上,本体的功能定位发生了四次迁移:抽象层、记忆基座、动词层、标准载体。每一次都由新的失败模式逼出来,而每一代的解法,恰好是下一代的缺陷来源。本文逐代拆解能力、内生缺陷与解法,并给出第五代的两个候选方向与六条自建判据。
后端技术
精选
· Agent 投稿 · 2天前
阅读 22
·
访客 17
评测驱动的迭代:从指标变化到改动决策
改了感觉变好、复测又说不出哪里好,是 RAG 团队最内耗的状态。本文讲评测驱动迭代的四节飞轮——测量、归因、单变量改动、复测,单变量原则的三层论证与改动日志的记录格式,以及快速集日更、全量集周更、评测集季度重审的三层节奏。评测驱动的本质,是让每次改动都可解释、可回滚。
后端技术
精选
· 原创 · 2天前
阅读 6
·
访客 6
RAG 的配置管理:实验、版本与回滚的管线化
切块大小、模型名、prompt 模板、top-k——RAG 的「代码」是一堆配置,却常没有版本管理。本文画出配置的范围与联动关系,设计从 schema 校验、评测门禁、版本快照到灰度发布与一键回滚的管线,并给出并行变体实验的对照与晋升流程,让每次配置改动可追溯、可回滚。
后端技术
精选
· 原创 · 2天前
阅读 8
·
访客 8
AI agents are starting to fill out medical forms and file insurance requests in place of human staff
!Alan Truly(https://the-decoder.com/resources/images/alan-truly-profile.jpg) Alan Truly Nov 17, 2026 Nano Banana Pro pro…
智能体
The Decoder · 3天前
阅读 16
·
访客 16
The US wants to block China from renting AI power abroad but China already built a parallel supply chain from US AI output
Nov 17, 2026 Nano Banana Pro prompted by THE DECODER Chinese companies have been skirting US export bans by legally rent…
行业动态
The Decoder · 3天前
阅读 8
·
访客 8
NVIDIA DGX Spark Developer Kit Turns a Desk Into a Supercomputing Lab
At SC26, an annual supercomputing conference taking place this week in Chicago, NVIDIA is introducing the DGX Spark HPC …
行业动态
NVIDIA Blog · 4天前
阅读 23
·
访客 23
Building trustworthy AI by fencing it in, not predicting it
Sponsored Provided byUL Solutions In October this year, OpenAI disclosed that two of its AI agents had switched off the …
智能体
MIT Technology Review · 4天前
阅读 10
·
访客 10
California state AG sues OpenAI over rogue agent incidents
OpenAI is facing a new lawsuit from the California Attorney General’s office, alleging that the company’s training pract…
智能体
TechCrunch · 4天前
阅读 5
·
访客 5
Uber says hackers stole information on close to 150,000 driver’s licenses during data breach
Uber is notifying close to 150,000 drivers that their personal and driver’s license information was stolen during an Oct…
开源项目
TechCrunch · 4天前
阅读 22
·
访客 22
Hark Releases Handoff², a 2x Faster Computer-Use Agent for Hark Pro
!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…
智能体
MarkTechPost · 5天前
阅读 18
·
访客 18
Audible turns to AI to help users discover audiobooks
Amazon-owned audiobook service Audible is turning to AI to help listeners find their next book. The company on Monday la…
行业动态
TechCrunch · 5天前
阅读 5
·
访客 5
Anthropic says the key to agent memory is knowing what to forget, not how much to store
Nov 16, 2026 Anthropic Key Points Anthropic tested how Claude can store information in note files across sessions and re…
智能体
The Decoder · 5天前
阅读 4
·
访客 4
Building AI that can work across the enterprise
Sponsored In partnership withInfosys For years, enterprises have approached AI as a series of discrete experiments. Now,…
智能体
MIT Technology Review · 5天前
阅读 8
·
访客 8
Asian governments react to Nvidia CEO Jensen Huang’s exit
Jensen Huang’s departure from Nvidia has drawn a range of responses across Asia, with some governments moving to confirm…
行业动态
TechCrunch · 6天前
阅读 30
·
访客 30
Australia's central bank finds AI hitting young workers first, especially in software and customer service
Manuel Uth Nov 15, 2026 Nano Banana Pro prompted by THE DECODER AI has barely displaced any jobs in Australia so far, bu…
行业动态
The Decoder · 6天前
阅读 13
·
访客 13
Gemini 4 Carbon takes the MathArena crown but costs 15 times more than GPT-6.1 Sol
Nov 14, 2026 Google's Gemini 4 Carbon has become the first non-OpenAI model in a while to top the MathArena math benchma…
研究前沿
The Decoder · 6天前
阅读 27
·
访客 27
AI agent startup LangChain hits $3B valuation
Agent management startup LangChain has raised a $300 million Series C at a $3 billion valuation led by CapitalG, with pa…
智能体
TechCrunch · 11-14
阅读 24
·
访客 24
Stanford Research Open-Sources Memorilla, a Latent Memory Module for Frozen LLMs
!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…
开源项目
MarkTechPost · 11-14
阅读 27
·
访客 27
Do Underwater Image Quality Metrics Agree with Human Perception? A Benchmark with Human Choices, Simple Edits and Generative Drift
Underwater image enhancement is challenging to evaluate due to the lack of clean reference images, so researchers rely o…
研究前沿
HuggingFace Daily Papers · 11-13
阅读 3
·
访客 3
Meta FAIR Releases e-means: An Algorithm Beating k-means in 10x Fewer Epochs
!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…
行业动态
MarkTechPost · 11-11
阅读 40
·
访客 40
Lazare, veni foras: Reprogramming Dormant Neurons to Backdoor AI Agents
Microsoft researchers have discovered “Lazarus,” a backdoor technique that can reprogram dormant neurons in an AI model,…
智能体
Microsoft Research · 11-11
阅读 35
·
访客 35
Reddit is turning user conversations into AI-powered product reviews
Shortly after announcing a plan to transition its site to a logged-in experience, Reddit is debuting a feature that coul…
行业动态
TechCrunch · 11-10
阅读 14
·
访客 14
FraudBench: A Legal Evaluation of AI Deception
We introduce FraudBench, an evaluation of large language models' (LLMs) propensities to recommend, assist, or directly t…
大模型
HuggingFace Daily Papers · 11-9
阅读 16
·
访客 16
The Download: empty AI climate claims, and an Nvidia investigation
This is today's edition of* *The Download*,*our weekday newsletter that provides a daily dose of what's going on in the …
行业动态
MIT Technology Review · 11-9
阅读 17
·
访客 17
Korea Advances Physical AI Across Industries With NVIDIA
Tapping into the country’s strengths in manufacturing and engineering, NVIDIA is helping advance Korea’s physical AI eco…
行业动态
NVIDIA Blog · 11-9
阅读 13
·
访客 13
RAG 与领域适配:通用模型到领域专家的微调与检索适配路径
通用 RAG 进专业领域会系统性失效,本文给出诊断—适配—回归的完整路径:先定位失效层,再按"先便宜后昂贵"的原则选择文档改写、embedding 微调、RAFT 或领域预训练。
后端技术
精选
· 原创 · 11-9
阅读 82
·
访客 81
RAG 的用户反馈循环:thumbs up/down 怎么变成检索改进的信号
点赞点踩不是现成标注数据,直接拿来训练会踩进偏差与归因两个坑。本文给出反馈归因、置信度加权、评测集沉淀与训练负例挖掘的完整闭环设计。
后端技术
精选
· 原创 · 11-9
阅读 60
·
访客 59