AI
AI
资讯
alishangtian.com
首页
大模型
智能体
开源项目
研究前沿
行业动态
知识库
主题色 · THEME
靛蓝(默认)
极光
落日
薰衣草
海洋
森林
暮橙
石墨
自定义
恢复默认
提交线索
agent
anthropic
openai
huggingface daily papers
ai安全
gpu
jake wharton
it之家
solidot
港股
搜索:
留痕
共命中 50 条(服务端检索)
智能体生态观察 · 第 82 篇|审计与
留痕
:智能体操作的合规账本
智能体替人执行操作的那一刻,
留痕
就从可选项变成准入资格。本篇拆解合规账本的工程构成:该记的四类对象与粒度权衡、不可篡改存储与可重放性的实现方式、审计
留痕
与内控及法规要求的对应关系,并观察审计能力的商品化与客户审计成为交付标配的进程。
智能体
精选
· 原创 · 昨天
阅读 12
·
访客 12
检索可解释性:为什么检索到这一条
检索排序解释不了,业务方不敢用、bad case 没法修、加权规则说不清。本文把可解释性拆成命中、分数、排序三层,主张把管线中间量
留痕
做成数据结构而非事后编故事,并给出工程师调试、业务方申诉、合规审计三类消费场景各自的呈现形态与红线。
后端技术
精选
· 原创 · 昨天
阅读 6
·
访客 6
AI 公平性审计:从群体差异到可执行的缓解闭环
公平性审计不是挑一个指标跑完就算合格,而是从决策目标、群体差异、基准率与标签形成过程开始,逐层检查模型、流程和实际影响,再通过申诉、人工复核、缓解副作用评估与
留痕
形成闭环。
行业动态
精选
· 原创 · 3天前
阅读 5
·
访客 5
数据预处理的流水线:清洗、去重与工程账
预训练语料从原始爬取数据到能进训练管道,要过规则清洗、精确与模糊去重、质量打分、有害内容过滤几道工序;本文拆解每道工序的原理,以及流水线工程实现的幂等、
留痕
与成本账。
大模型
精选
· 原创 · 11-11
阅读 49
·
访客 49
操作系统内功 · 第 13 篇:Linux 安全审计——auditd、journald 与合规日志
分清 Linux 审计的两条日志管线:auditd 为什么能回答「谁删的文件」,journald 的边界在哪,以及合规日志的不可篡改与远端
留痕
怎么做。
后端技术
精选
· 原创 · 11-5
阅读 72
·
访客 70
一篇读懂尿常规:肾小球的滤过与体检单上的信号
尿常规是体检里最便宜的健康线索:每天约 180 升原尿经肾小球滤过、肾小管回收,任何一环出问题都会在化验单上
留痕
。本文从机制出发逐项解读蛋白、潜血、白细胞与管型,并给出异常组合模式、试纸干扰的坑与复查留尿的正确姿势。
一叶一世界
精选
· 原创 · 10-29
阅读 171
·
访客 169
来源冲突的入库裁决:优先级、合并与保留历史
两个系统对同一事实给出不同说法,是企业 RAG 的日常。本文讲入库层的冲突裁决:冲突的三类源头与实体对齐前提、显式指定与事实域权威级的规则集、历史版本降权保留而非物理删除的版本链设计,以及裁决规则必须文档化、可质疑的治理要求。
后端技术
精选
· 原创 · 昨天
阅读 2
·
访客 2
语料去重:MinHash 近重复检测与索引瘦身
同一份文件常以五个名字在语料库里出现十次,重复污染检索排序、放大嵌入成本,还让答案偏向被复制最多的内容。本篇讲透重复的三种形态、MinHash 与 LSH 的分桶机制,以及保留哪一份、其余怎么处置的工程决策与持续纪律。
后端技术
精选
· 原创 · 昨天
阅读 5
·
访客 5
操作系统内功 · 第 58 篇|kexec、kdump 与 oops:内核崩溃的快速重启与现场尸检
内核崩溃后如何留下全尸?本篇区分 oops 与 panic,讲清 kexec 快速重启、crashkernel 预留与 kdump 采集链路,演示 crash 工具的 log、ps、bt 尸检入门,并给出生产环境开 kdump 的成本取舍。
后端技术
精选
· 原创 · 11-10
阅读 62
·
访客 62
一篇读懂伤口愈合:止血、炎症、增生与重塑的四阶段
皮肤破了一道口子,身体要按精确的时间表打一场四阶段战役。这篇拆解止血、炎症、增生、重塑各阶段的机制,讲清湿性愈合与结痂误区的真相、血糖吸烟营养对愈合的影响,以及什么时候必须就医。
一叶一世界
精选
· 原创 · 11-10
阅读 68
·
访客 68
从 SFT 到宪法 AI:对齐的技术路径图
大模型的「听话」不是天生的,是训练出来的:监督微调(SFT)教它格式,人类反馈强化学习(RLHF)教它偏好,宪法 AI(CAI)试着教它原则。本文讲清这条对齐技术路径的演进逻辑、每一代方法解决了什么又留下了什么,以及为什么 Anthropic 会说「AI 用 AI 的反馈来对齐 AI」。
研究前沿
精选
· 原创 · 11-3
阅读 77
·
访客 77
金融专题 04|金融维权地图:热线、反诈与纠纷解决
出了问题找谁、怎么留证据、哪些钱能追回——本文给出一张可执行的维权地图:12378/12363/12386 三条监管热线的分工、96110 与国家反诈中心 App 的反诈体系、AI 换脸与虚假投资等新型骗局的拆解、虚拟货币「损失自担」的法定口径,以及从协商到诉讼的纠纷解决阶梯和三年诉讼时效。
一叶一世界
精选
· 原创 · 10-17
阅读 204
·
访客 204
事件本体与过程语义:让状态变化可追溯
“订单已发货”是当前状态,“包裹已交运”是一次发生;二者不能互相替代。本文结合 PROV-O、OWL-Time、CloudEvents 和 OCEL,说明如何建模事件、对象、时间与过程,并从事件证据解释状态而不混淆传输封装和领域语义。
后端技术
精选
· 原创 · 昨天
阅读 11
·
访客 11
业务重排:相似度之外的第二把尺子
模型重排只能回答「说的是不是这件事」,回答不了「该先听谁说」——权威性、时效性、部门亲和与处罚名单都是语义模型看不见的信号。本文给出业务信号的类型学与打分叠加方式、规则与模型的边界划分,强调业务重排必须可配置、可审计、可回滚。
后端技术
精选
· 原创 · 昨天
阅读 6
·
访客 6
预过滤与后过滤:元数据过滤的性能账
「只查法务部的、只查 2024 年的」——元数据过滤在需求里只有一行,在检索链路里却是性能与正确性的双重岔路口。本文讲预过滤与后过滤的机制与失效形态、选择率主导的性能账、筛空的超额取回补偿与分区替代策略,以及过滤查询的常驻观测指标。
后端技术
精选
· 原创 · 昨天
阅读 7
·
访客 7
智能体生态观察 · 第 68 篇|浏览式理解:从爬虫解析到智能体浏览的范式迁移
喂给智能体的网页数据正在换代:选择器脚本快而脆,真实浏览器浏览慢而稳,成本差一到两个数量级。本篇拆解管线范式为何陷入维护泥潭,剖析视觉与 DOM 双通道、按需交互的浏览式理解机制与三笔代价,给出按页面复杂度路由、带成本预算与降级链的混合策略,并观察抓取服务的 Agent 化改造与网站方从 robots.txt 到按次付费的态度分化。
智能体
精选
· 原创 · 昨天
阅读 14
·
访客 14
答案风格控制:从百科腔到业务腔
同样正确的答案,百科腔发给客户就是事故。本文把答案风格拆成受众、长度、正式度、结构与引用密度五个可配置维度,讲模板、少样本与后处理三层控制手段,以及多场景风格路由与风格回归评测的工程化做法,让风格配置像检索配置一样有版本、有回归。
后端技术
精选
· 原创 · 昨天
阅读 7
·
访客 7
智能体生态观察 · 第 47 篇|自主性的刻度盘:从受限执行到自由规划的频谱设计
「Agent 还是工作流」是个伪问题,真问题是自主性刻度拨到几。本篇给出五档刻度的能力与风险清单、选档的三个变量,以及生产系统的动态调档策略;结尾观察产品的自动与手动模式之争与接管悖论。
智能体
精选
· 原创 · 昨天
阅读 13
·
访客 13
智能体生态观察 · 第 41 篇|工具调用的可靠性工程:schema 校验、重试与降级的三道闸门
工具调用是智能体从「会说」到「会做」的一跳,也是生产故障的第一大来源。本篇拆解四类失败的真实案例,讲透 schema 即合同的设计要领,以及校验、权限、结果把关三道闸门与重试降级策略,并观察生态里正在成型的可靠性军备。
智能体
精选
· 原创 · 昨天
阅读 7
·
访客 7
智能体生态观察 · 第 90 篇|观察的方法论:智能体生态观察 90 篇的复盘与工具箱
第九十篇不谈新话题,复盘整个系列:四大板块如何互相印证,哪类判断被验证、哪类判断最容易翻车,六件观察工具的用法与示例,以及写给下一位观察者的频率、立场与诚实纪律——生态观察是长期主义的工程,价值在持续校准而非预测。
智能体
精选
· 原创 · 昨天
阅读 10
·
访客 10
智能体生态观察 · 第 75 篇|谁给智能体值班:SLO、on-call 与 runbook 的新职责
服务在线不等于任务做对,值班的含义正在改写。本篇讨论智能体上线后的运维重构:任务完成率、接管率、成本与延迟构成的新 SLO,概率性错误下的告警设计与四类归因分诊,runbook 的机器可执行化改造,并观察 SRE 技能迁移与运维工具缺口。
智能体
精选
· 原创 · 昨天
阅读 9
·
访客 9
智能体生态观察 · 第 60 篇|评测数据集的经济学:构造成本、污染与保鲜
评测集是行业的隐形基建,决定谁看起来强,也决定谁真的强。本文拆解人工标注、流量采样、模型合成三种构造来源的成本与偏差,分析基准污染的途径与防御,并讨论评测集的保鲜机制与付费化趋势。
智能体
精选
· 原创 · 昨天
阅读 4
·
访客 4
ACL 同步:权限变更如何传播到索引
查询时按权限过滤只解决一半问题,另一半是权限变更的传播:收回权限的瞬间,索引里的旧 ACL 仍在放行。本文拆解权限变更到索引生效的四环传播链,讲 webhook 优先、对账兜底、日志重放的同步机制,以及收权场景失效先行的窗口期治理——权限同步的 SLA 按秒算,不按天算。
后端技术
精选
· 原创 · 昨天
阅读 4
·
访客 4
智能体生态观察 · 第 65 篇|智能体的工作区:文件、版本控制与草稿管理
编码智能体把「工作区」从 IDE 概念变成智能体的标配器官。本篇解剖工作区四个分区——文件树、版本历史、草稿区、环境配置的所有权,拆解版本控制的三重角色——可回滚、可审阅、可并行,并观察工作区从编码向通用任务扩散、向云端集中的趋势。
智能体
精选
· 原创 · 昨天
阅读 4
·
访客 4
RAG 网关:统一检索入口的抽象层设计
第二个业务接入检索系统的那天,就该建网关。本文给出 RAG 网关的六格职责清单——鉴权租户、配额限流、查询路由、缓存、审计、评测埋点,设计检索与问答两层 API 与带分数明细的结构化返回,并盘点过早抽象、后端能力泄漏与多租户配额公平三个演进的坑。
后端技术
精选
· 原创 · 昨天
阅读 4
·
访客 4
智能体生态观察 · 第 72 篇|B2B 交付的隐性成本:实施、集成与客户成功
报价单上写的是订阅费,真实成本沉在水线下。本篇以交付方视角拆解数据接入、流程定制、合规对接与客户成功四块冰山,解释智能体交付为何比传统 SaaS 更重,并盘点连接器、场景模板、自服务平台三条减重路线与三种交付模式的毛利结构。
智能体
精选
· 原创 · 昨天
阅读 4
·
访客 4
智能体生态观察 · 第 77 篇|金融场景的智能体:投研、风控与合规审查的三重门
金融是最愿意为智能体付费的行业,也是最难让智能体拍板的行业。本篇以三重门为框架拆解投研、风控与合规审查的自动化空间与人工卡点,讲透可解释性为何是准入项而非加分项,并给出引用纪律、分级闸门与降级预案的工程实践与生态观察。
智能体
精选
· 原创 · 昨天
阅读 5
·
访客 5
智能体生态观察 · 第 78 篇|政务与公共服务智能体:审批、热线与数字公务员
政务是高价值加高约束的智能体场景:责任重、容错低,需求却真实巨大。本篇以三个柜台为框架盘点审批预审、热线分流与办事引导的现状与卡点,讲透可解释、可追溯、人工兜底与无障碍四条硬约束,并观察政策知识库运营与项目制采购的结构性错配。
智能体
精选
· 原创 · 昨天
阅读 5
·
访客 5
索引分层:热冷数据的检索经济学
少数文档承载大部分查询流量,而索引的内存账单按全量语料等比支付——索引分层用「按温度分配资源」替换「全量顶配」的幻想。本文讲热度画像的三个维度、热温冷三层的物理形态与查询路由、层间迁移的迟滞设计与降级兜底,以及 p99 与成本双曲线的验收口径。
后端技术
精选
· 原创 · 昨天
阅读 5
·
访客 5
智能体生态观察 · 第 48 篇|结构化输出约束:JSON Schema、语法约束与格式保证
智能体之间靠结构说话,模型却天生爱自由发挥。本篇盘点格式失败的三类代价与四档约束技术——prompt 声明、schema 硬约束、语法级锁死、后校验修复,并给出实践守则与生态现状。
智能体
精选
· 原创 · 昨天
阅读 8
·
访客 8
小模型生成 + 大模型校验:成本与质量的杠杆组合
让旗舰模型写每一句话是预算刺客。本文讲「小模型生成、大模型校验」的分工经济学——生成是 token 密集型、校验是判定密集型,给出核对放行、批注重写、抽样送检三种组合模式的实现要点,并强调校验器的召回率是整个杠杆的支点,先测它再省钱。
后端技术
精选
· 原创 · 昨天
阅读 6
·
访客 6
智能体生态观察 · 第 52 篇|Computer Use 与桌面自动化:GUI 智能体的第二波
浏览器智能体解决了网页,Computer Use 要解决整个屏幕。本文拆解 GUI 智能体的感知难题与感知-行动-验证循环,讨论无障碍树与混合模式的工程补丁,并观察它与传统 RPA 的合流及企业落地的真实卡点。
智能体
精选
· 原创 · 昨天
阅读 5
·
访客 5
智能体生态观察 · 第 71 篇|风险转移的新市场:智能体保险、SLA 与责任分担
智能体开始替人执行操作,「出了事故谁买单」成了交易成立的前提。本篇拆解三类新事故与自主性带来的因果模糊,盘点保险、SLA、合同三种转移机制的成熟度与边界,观察精算所需的三个前提缺口,以及险企入场节奏与采购条款的博弈。
智能体
精选
· 原创 · 昨天
阅读 3
·
访客 3
智能体生态观察 · 第 42 篇|提示注入攻防:从直接注入到间接投毒的防线演进
聊天机器人的越狱是话术问题,智能体的提示注入是权限问题——执行能力让同一种攻击危险了十倍。本篇重画攻击面,梳理直接注入、间接投毒与持久后门的类型学,拆解四层防线的机制与局限,并观察生态里「安全边界派」与「对抗性派」的路线分歧。
智能体
精选
· 原创 · 昨天
阅读 4
·
访客 4
语料版权与合规:企业 RAG 的内容许可边界
RAG 把「能检索到」升级成「能逐字引用」,内容许可从后台法务事项变成了产品事故候选。本文区分权限与许可两件事,给出自有、授权、外部三类语料的风险差异,拆解用途链上许可逐级收窄的规律,并落到许可元数据全程穿透与展示层引用截断的工程配套。
后端技术
精选
· 原创 · 昨天
阅读 4
·
访客 4
智能体生态观察 · 第 83 篇|供应链安全:模型权重、工具依赖与信任链
智能体的供应链比传统软件更长——权重、微调、框架依赖、MCP 工具与运行环境环环相扣,每一环都可能被投毒。本篇从信任链视角梳理各环节攻击面与验证手段:签名与哈希、来源审计、依赖物料清单与工具权限审查,以及最小权限与异常检测构成的运行时防线。
智能体
精选
· 原创 · 昨天
阅读 4
·
访客 4
本体平台构建:从领域知识到可运行契约
本体不该是躺在 wiki 里的文档,而应像 API 契约一样被构建、测试、发布与回滚——这是「可运行契约」的核心主张。本文把本体构建拆成六步闭环,给出 SHACL 发布闸门的具体示例,并强调一条易被忽略的纪律:模型可以回滚,已发生的业务动作必须靠补偿事务撤销。
后端技术
精选
· 用户投稿 · 3天前
阅读 20
·
访客 20
本体对齐与融合:让多源知识说同一种语言
两个部门各建一套「客户」本体,字段同名不同义、实体同人不同名。本文拆解模式对齐与实体消解两类问题,梳理相似度、嵌入、LLM 判断三条技术通道,给出阈值分级、冲突解决与增量对齐的实践,并介绍 OAEI 评测体系。
研究前沿
精选
· 用户投稿 · 3天前
阅读 11
·
访客 11
模型升级的安全发布:行为回归、灰度与回滚
模型权重、提示词、检索索引与护栏配置的每一次变更,都是一次可能改变安全行为的发布。本篇给出安全发布的完整闭环:固定回归集把「感觉变差」变成证据、影子与金丝雀控制爆炸半径、回滚做成路由切换,以及上线后的漂移监控与变更台账。
大模型
精选
· 原创 · 3天前
阅读 9
·
访客 9
本体平台的事实治理:不可变观察账本与双时间模型
本体定义类与关系,事实决定平台说话算不算数——事实错,Agent 的每个决策都跟着错。本文主张以 append-only 观察账本沉淀权威事实,经来源确认与质量评价两条支路净化,按契约投影成诊断、查询与动作三类视图,并用双时间模型保证历史认知可还原、坏值不会被旧值掩盖。
后端技术
精选
· 用户投稿 · 3天前
阅读 11
·
访客 11
企业落地与未来:Palantir 本体、行业本体与动态本体
系列收官:拆解 Palantir Foundry 本体的语义元素与动力元素、AIP Agent Studio 与 Ontology MCP,纵览 FIBO、SNOMED CT、GS1、schema.org 四大行业本体生态,展望动态本体管道(LLM 提议、SHACL 校验、人工审核)与语义注册表趋势,结语本体工程师的新角色。
行业动态
精选
· 用户投稿 · 3天前
阅读 15
·
访客 15
本体平台全景:控制平面与运行平面
企业本体不该是散落四处的文档与脚本,而应是一个有版本、有闸门、有审计的工程系统。本文给出本体平台的总体架构——控制平面负责把领域知识构建成不可变发布包,运行平面负责事实沉淀、查询推理与动作协调,并以 Palantir Foundry Ontology 说明这一模式的工业级实现。
后端技术
精选
· 用户投稿 · 3天前
阅读 11
·
访客 11
人机协作的安全边界:自动化偏差与有效监督
“有人在环”不等于有人真正控制。自动化偏差、注意力疲劳和组织激励可能让人工审核沦为盖章;有效监督需要时间、能力、信息与拒绝权,并通过界面设计、双人复核、抽查和责任机制验证。
智能体
精选
· 原创 · 3天前
阅读 5
·
访客 5
训练数据的版权与合规:爬取、授权与清洗的边界
训练数据的版权问题悬而未决但不再可以假装不存在;本文梳理合理使用争议与判例走向、爬取的合规边界、授权市场的兴起,以及来源记录与侵权源过滤的实操清单。
行业动态
精选
· 原创 · 11-11
阅读 56
·
访客 56
一篇读懂 BMC:服务器的带外管理与 Redfish
服务器关机也能管的秘密在 BMC:这块独立小芯片构成带外管理平面,从 IPMI 到 Redfish 两代接口的演进,远程开关机、挂 ISO 装机、看传感器、刷固件的日常操作,以及必须遵守的安全红线。
一叶一世界
精选
· 原创 · 11-11
阅读 87
·
访客 86
AI 数据中心的安全分区:训练网与推理网的隔离
训练数据敏感、推理面向公网,两者塞进同一个平面等于同时放大两种风险;本文给出训练网、推理网、办公网、管理网的四区模型,讲清跨区数据流动的闸门设计与常见违规的整改。
后端技术
精选
· 原创 · 11-11
阅读 65
·
访客 65
大模型服务的计费工程:token 计量与对账
计费是大模型服务从「能跑」到「能卖」的分水岭:token 怎么数、输入输出与缓存命中怎么分别计价、用量采集到账单聚合的架构怎么搭、重试幂等与失败边界怎么定,以及多租户配额与成本可见化。
大模型
精选
· 原创 · 11-11
阅读 47
·
访客 47
一篇读懂骨折:骨痂、石膏与内固定的选择
骨是既硬又韧的活组织,断了还能重塑回原样。这篇拆解骨的结构、常见骨折类型、血肿到骨痂到重塑的愈合四步,讲清石膏与手术内固定的选择逻辑,以及「伤筋动骨一百天」的合理内核与误区。
一叶一世界
精选
· 原创 · 11-10
阅读 77
·
访客 77
操作系统内功 · 第 64 篇|Spectre、Meltdown 与 KPTI:用户态到内核态的边界安全
CPU 的优化机制被武器化了:本篇通俗拆解 Meltdown 的乱序泄漏原理、KPTI 页表隔离的实现与代价、Spectre 的 retpoline 与微码缓解,并给出性能观测口径、云上责任边界与关缓解的风险清单。
后端技术
精选
· 原创 · 11-10
阅读 71
·
访客 71
鸿星尔克野性消费复盘:正向舆情的「接不住」危机
2021 年河南水灾,鸿星尔克一笔捐赠引爆全网「野性消费」,流量海啸随即反噬:发货难、品控吐槽、诈捐质疑接踵而至。本篇复盘正向舆情为什么也是危机——接流量的能力是产能与诚意的函数,不是营销的函数。
行业动态
精选
· 原创 · 11-10
阅读 39
·
访客 39