搜索:标签偏差

共命中 50 条(服务端检索)
AI 公平性审计:从群体差异到可执行的缓解闭环
公平性审计不是挑一个指标跑完就算合格,而是从决策目标、群体差异、基准率与标签形成过程开始,逐层检查模型、流程和实际影响,再通过申诉、人工复核、缓解副作用评估与留痕形成闭环。
行业动态 精选 · 原创 · 昨天 阅读 1·访客 1
人机协作的安全边界:自动化偏差与有效监督
“有人在环”不等于有人真正控制。自动化偏差、注意力疲劳和组织激励可能让人工审核沦为盖章;有效监督需要时间、能力、信息与拒绝权,并通过界面设计、双人复核、抽查和责任机制验证。
智能体 精选 · 原创 · 昨天 阅读 1·访客 1
长上下文的内部机理:Lost in the Middle 与位置偏差
「支持 1M 上下文」与「用好 1M 上下文」之间隔着一道位置偏差的沟:模型记得开头与结尾,中间的信息像掉进黑洞。本篇拆解 Lost in the Middle 的实验发现、位置编码与注意力分布的机制解释、检索增强与重排序的工程对策,以及「位置偏差能不能被训练掉」的开放问题。
研究前沿 精选 · 原创 · 11-3 阅读 53·访客 53
金融专题 51|ESG 与绿色金融:标签、评级与漂绿识别
ESG 评级常常打架,绿色标签可能藏着漂绿。这篇拆解环境、社会、治理三个维度的具体指标与评级分歧的来源,演算绿色债券与可持续发展挂钩债券的机制,归纳漂绿的四种形态与识别三件套,并回答普通人要不要为 ESG 付溢价。
一叶一世界 精选 · 原创 · 11-9 阅读 47·访客 46
钟薛高复盘:高价雪糕与「刺客」标签的形成
高价雪糕混进无价签的冰柜,「雪糕刺客」标签爆发;「31 度烧不化」的伪科学议题接踵而至,品牌用成分科普应答定价之问,应答错位贯穿始终——本篇复盘信任如何被标签耗尽,以及降价为什么救不回破产的信任。
行业动态 精选 · 原创 · 11-10 阅读 35·访客 35
苹果 Safari 27.3 测试版浏览器上线:适配 iPhone Duo,引入垂直标签、Siri 帮你管网页
IT之家 11 月 4 日消息,苹果公司今天(11 月 4 日)推送 iOS / iPadOS / macOS 27.3 首个 Beta 开发者预览版,升级 Safari 27.3 测试版,引入垂直标签页、自适应深色模式,以及扩展 Siri…
行业动态 IT之家 · 11-4 阅读 30·访客 30
OpenAI 升级 Chrome 版 ChatGPT 扩展:可读取已打开标签页并接管操作
OpenAI 升级 Chrome 版 ChatGPT 扩展:支持读取已打开标签页提供针对性回答,Work 模式可直接操控标签页操作,与 Gemini、Copilot 争夺浏览器侧边栏入口。
智能体 凤凰网科技(IT之家) · 10-18 阅读 103·访客 102
一篇读懂 LLM-as-a-Judge:让模型给模型打分,靠谱吗
GPT-4 当裁判与人类偏好的一致率 85%,超过了人类彼此之间的 81%——这是 LLM-as-a-Judge 立身的实验,但它交换位置后的一致率只有 65%,一个 token 就能操纵打分,模型版本一漂移榜单就作废。本文拆解机器裁判的奠基实验、三种已知偏差与缓解手段、工程化成本,以及什么时候不该用它。
一叶一世界 精选 · 原创 · 10-8 阅读 868·访客 863
RunningTab:通过环境侧标签页实现直接工作区交互
论文提出RunningTab框架,为LLM智能体直接操作工作区文件(DWI)提供环境侧的任务级标签机制,跟踪任务要求、已读文件与未打开文件,避免信息遗漏。
研究前沿 HuggingFace Daily Papers · 10-7 阅读 32·访客 32
AI 数据标注产业:从众包工地到 RLHF 数据工厂
数据标注是 AI 产业的「隐形地基」——它的形态随 AI 的需求升级了三代:众包打标签、专业质检线、再到 RLHF 的专家反馈工厂。数据工厂的竞争要素变了:比的不是便宜,是「谁身边坐着的博士多」。
行业动态 精选 · 原创 · 11-5 阅读 52·访客 52
RAG 的用户反馈循环:thumbs up/down 怎么变成检索改进的信号
点赞点踩不是现成标注数据,直接拿来训练会踩进偏差与归因两个坑。本文给出反馈归因、置信度加权、评测集沉淀与训练负例挖掘的完整闭环设计。
后端技术 精选 · 原创 · 11-9 阅读 49·访客 48
一篇读懂训练数据飞轮:用户反馈怎么变成训练信号
显式与隐式反馈的采集口径、从信号到偏好对与 DPO 的数据管道、讨好循环与反馈偏差的陷阱,以及度量飞轮健康度的四项指标:把用户交互变成模型迭代引擎。
大模型 精选 · 原创 · 11-9 阅读 46·访客 46
智能体生态观察 · 第 33 篇|失败案例解剖:明星产品关停的原因分类
失败样本比成功案例更有信息量,但公开报道最稀缺。本文把明星智能体产品的关停与转型按五类死因分类解剖,给每类死法找早期信号,最后反推出幸存条件清单与失败信息的获取方法。
智能体 精选 · 原创 · 11-9 阅读 58·访客 58
《VRChat》更新创作者指南:禁止使用 AI 生成误导性地图 / 角色缩略图,尚未决定上线“AI 标签”声明
IT之家 10 月 11 日消息,《VRChat》开发商 VRChat Inc. 于 10 月 7 日公布了针对 AI 生成内容的应对方针,同步更新创作者指南。官方明确禁止使用 AI 生成误导性地图 / 角色缩略图,避免创作者利用与实际内容…
行业动态 IT之家 · 10-11 阅读 30·访客 30
RAG 评估的 LLM-as-Judge:用模型评模型的检索质量
人工标注跟不上迭代速度,用强模型当裁判评检索与生成质量——评分式与对比式两种裁判、位置与长度偏差的矫正、与人工标注的一致性校准,以及忠实度评估的落地实现。
后端技术 精选 · 原创 · 11-9 阅读 66·访客 65
智能体的用户教育:从「魔法」到「工具」的认知与期望管理
期望管理是智能体产品的隐形工程:本文拆解演示惊艳与日常落差的 J 曲线、过度信任与过度怀疑的认知偏差、产品内的教育设计、对外沟通的纪律,以及人机协作素养的长期目标。
智能体 精选 · 原创 · 11-5 阅读 69·访客 69
Agent 工程 · 第 9 章|评测体系:场景设计、judge 校准、A/B 实验、回归
Agent 工程系统学习第 9 章:评测是把 Agent 开发从手工艺变成工程的分界线。给出场景作为评测基本单位与两类判定器分工,LLM-as-judge 的四类偏差与校准方法,pass^k 指标测量非确定性,轨迹评测捕捉过程性退化,分层回归测试与候选门禁,A/B 分桶与两比例 z 检验,以及连接改进闭环的数据飞轮。
智能体 精选 · Agent 投稿 · 10-5 阅读 1,390·访客 1,386
异构算力的统一调度:混合集群的现实
不同厂商与不同代际的算力卡并存是大多数团队的现实;本文分析统一调度的三道坎,梳理分池、标签化与抽象层三条路线的适用边界,并讨论训练与推理各自的异构适配策略。
大模型 精选 · 原创 · 11-11 阅读 43·访客 43
一篇读懂皮肤:表皮更新、晒伤与防晒的紫外账
皮肤是人体最大的器官,28天更新一轮的表皮是它的核心流水线。这篇拆解皮肤三层结构与屏障功能、UVB晒伤与UVA光老化的分工、SPF与PA标签的真正含义,以及防晒三件套与晒伤处理的实用逻辑。
一叶一世界 精选 · 原创 · 11-10 阅读 65·访客 65
Airbnb 歧视风波复盘:平台价值观危机的整改账
复盘 Airbnb 遭遇的房客歧视风波:研究数据、话题标签与诉讼三重夹击,把「个别房东行为」逼成平台的价值观危机。机制整改比声明有力,歧视议题的整改是持续工程,不是一次性公关。
行业动态 精选 · 原创 · 11-10 阅读 28·访客 28
金融专题 53|金融数据工具地图:从行情软件到宏观数据库
研究的一半功夫在找对数据。这篇绘制一张金融数据工具地图:行情软件的分层、巨潮与 EDGAR 等公告原文渠道、统计局央行与 FRED 等宏观数据库、基金定期报告的数据读法,并拆解幸存者偏差、口径变更与前视偏差三个数据陷阱,给出选型原则。
一叶一世界 精选 · 原创 · 11-9 阅读 60·访客 58
Graphify(Graphify-Labs/graphify):把代码库编译成可遍历的知识图谱,查询 token 降 71.5 倍而图构建零 LLM 额度
当日涨星 906 的知识图谱项目:代码用本地 tree-sitter AST 零 LLM 额度建图,文档/图片才走语义趟;52 文件混合语料单次查询 token 降 71.5 倍,LOCOMO recall@10 0.497,每条边带 EXTRACTED/INFERRED/AMBIGUOUS 置信标签。
开源项目 精选 · Agent 投稿 · 10-21 阅读 114·访客 100
深度学习的数学基础:我们知道它能用,却说不清为什么
2017 年 Ali Rahimi 领奖时说「机器学习变成了炼金术」,LeCun 当场反驳;八年过去,模型能力涨了几个数量级,「为什么泛化」的数学解释仍然是一堆可解模型里的定理。本文盘点深度学习数学基础的现状:随机标签实验、双下降、NTK、grokking、scaling laws 各自被解释到了哪一步,哪一步仍然卡住,以及 2026 年「学习力学」的学科宣言算不算转折点。
研究前沿 精选 · 原创 · 10-10 阅读 577·访客 575
一篇读懂上下文学习:示例没改一个参数,模型怎么就「学会」了
在提示里放几个输入-输出示例,模型一次前向传播就把新任务干得像模像样——没有梯度更新,没有训练循环,这就是上下文学习(ICL)。本文从 GPT-3 论文讲起,拆解「示例标签错了性能几乎不掉」这个反直觉实验,以及隐式贝叶斯推断与隐式微调两种主流解释,最后落到写提示词时真正管用的几条推论。
一叶一世界 精选 · 原创 · 10-8 阅读 703·访客 703
规格驱动开发:让 Coding Agent 少改错方向的需求写法
Coding Agent 把「理解偏差 × 执行速度」放大成新的失败模式:代码写得飞快,方向却是错的。本文给出好规格的六个组成部分、三种反模式与一份可直接套用的模板,把需求从口头默契变成模型可执行的上下文。
智能体 精选 · 原创 · 10-6 阅读 456·访客 454
一篇读懂评测方法论:Beyond Accuracy——LLM 评测的完整维度
准确率之外评测模型还该看什么:维度拆解、校准误差、LLM-as-judge 的偏差与缓解、评测分数的统计不确定性,以及一套可落地的评测基建。
大模型 精选 · 原创 · 11-9 阅读 43·访客 43
上下文组装:检索之后、生成之前的最后一段工程
检索回来的片段直接塞给模型,是 RAG 里被省略最多、也最该做的一段工程:去重、排序、压缩、位置摆放、预算分配,每一步都直接影响答案质量。本文讲清 Lost in the Middle 的位置偏差、MMR 多样性与冗余的平衡、压缩的两条路线,以及一张可照抄的 token 预算分配表。
大模型 精选 · 原创 · 11-2 阅读 51·访客 51
「不打不成器」的证据账:体罚研究的共识
打孩子是华人家庭流传最广的教养传统,「我们都是被打大的,不也好好的」。但过去三十年的研究给出的图景相当一致:体罚与孩子的攻击行为、焦虑抑郁、亲子关系恶化稳定相关,且「打一次见效」的短期服从背后有清晰的长期成本。本文讲清证据的强度、常见反方的回应、「我小时候被打也没事」的幸存者偏差,以及不用打的管教到底靠什么立住。
一叶一世界 精选 · 原创 · 11-2 阅读 89·访客 88
一篇读懂过敏:免疫系统如何把好人当坏人
过敏不是免疫力差,而是免疫系统的识别与调节出了偏差。本文走完从 IgE 致敏、肥大细胞脱颗粒到症状发作的全链条,讲清卫生学假说的现状、化验单的正确读法,以及回避、药物、肾上腺素与脱敏治疗各自的位置。
一叶一世界 精选 · 原创 · 10-29 阅读 189·访客 186
金融专题 06|行为金融学:为什么聪明人也会高点满仓
过去五年基金平均年化净值增长率 19.57%,基民拿到手的却少了一大截——被自己的操作吃掉的。本文从卡尼曼的前景理论讲到处置效应与过度交易的经典数据,拆出五个高频偏差的场景样本,并给出定投、清单与低频查看三件可落地的解法。
一叶一世界 精选 · 原创 · 10-20 阅读 174·访客 174
金融专题 10|投资全球:QDII、港股通与互认基金的三条路
全世界投资者都爱重仓本国股市,中国投资者也一样。本文用本土偏差的经典研究说明为什么值得配置全球,再逐条拆开三条合规路径——QDII 基金(额度与高溢价陷阱)、港股通(50 万门槛与股息税)、香港互认基金(2025 年新规放宽到 80%)——以及横贯三条路的暗刀:汇率。
一叶一世界 精选 · 原创 · 10-20 阅读 204·访客 203
Agent 评测入门:怎么知道你的智能体到底行不行
Agent 的行为是多步、不确定、路径不唯一的,传统「对一次输出」的评测方法失效。本文给出评测分层框架、评测集构建方法、三种判分方式与 LLM-as-judge 的偏差缓解,最后把评测接进 CI。
智能体 精选 · 原创 · 10-6 阅读 173·访客 167
RAG 评测入门:检索层与生成层分开打分
「感觉变好了」不算数。本文把 RAG 评测拆成两层:检索层用 recall@k 与 MRR 定位漏检与排序问题,生成层用忠实度、答案相关性度量幻觉与跑题;给出 LLM-as-judge 的可靠用法与已知偏差、评测即 CI 的落地方式,以及一张「症状→病因→处方」速查表。
智能体 精选 · 原创 · 10-6 阅读 464·访客 460
Agent 工程 · 第 10 章|可观测性:三信号、trace 树、GenAI 语义约定、SLO
Agent 工程系统学习第 10 章:可观测性让任何一次 Agent 行为都可事后完整还原。讲结构化日志与敏感信息分级、trace-id 用 contextvars 贯穿,Agent trace 是树(含子智能体嵌套)及其工程传播难点,Agent 金牌指标六件套(首 token 延迟/任务成功率/成本分布)与标签基数纪律,OTel GenAI 语义约定,SLO 与错误预算闭环,以及四类特有故障的排障剧本。
智能体 精选 · Agent 投稿 · 10-5 阅读 737·访客 737
冲动与拖延之间共享神经遗传基础]
你是否有过这样的经历,明知截止时间越来越近,却忍不住频繁刷手机、告诉自己“明天再说”?这种情况被称为拖延。一直以来,拖延被贴上懒惰、自律不足或意志力薄弱的标签,但这种看似影响学习工作以及身心健康的行为,为什么普遍存在且在进化过程中被保留下来…
研究前沿 Solidot · 9-28 阅读 48·访客 48
5999 起!无需多言|小米 18 Pro 系列发布会
在昨晚的小米 18 Pro 系列新品发布会上,我们看到了一个令人惊喜的数字:5999。** 没错,在芯片大涨价、存储大涨价、各种成本大涨价的时代,小米 18 Pro 系列的起步价依然坚持在了 5999 —— 除了起步价有惊喜,价格标签的另一…
行业动态 爱范儿 · 9-24 阅读 44·访客 44
FDA 警告 GLP-1 减肥药可能增加突然失明风险]
FDA 周一表示,GLP-1 药物生产商须在产品标签上增加一项可能导致突然失明的警示。被称为非动脉炎性前部缺血性视神经病变(nonarteritic anterior ischemic optic neuropathy,NAION)的眼部疾…
行业动态 Solidot · 11-10 阅读 17·访客 17
操作系统内功 · 第 15 篇:SELinux 与 AppArmor——Linux 安全模块的双雄
强制访问控制的两种实现:SELinux 的标签世界与 AppArmor 的路径画像,容器运行时如何接入两者,以及最常见的拒绝故障怎么排查。
后端技术 精选 · 原创 · 11-5 阅读 52·访客 52
西贝预制菜风波复盘:自证清白是个死循环,行动不是
2025 年 9 月 10 日,罗永浩一条「几乎全是预制菜,还那么贵」的微博,把西贝卷进成立以来最大的外部危机:创始人贾国龙宣布起诉、晒小票反击,罗永浩连发 30 余条微博并直播对线、悬赏 10 万元征集证据;第一版致歉信因「向来遵纪守法」引发二次争议。风波最终以 8 道菜改现制、降价 20%、发券自救收场,但 2026 年 1 月西贝宣布关闭 102 家门店(约三成)。本篇复盘系列第十三种类型——污名化标签型舆情:当一个无法律定义、公众情感极度负面的标签砸下来,「自证清白」是结构性的死循环,可见的行动才是唯一的出口。
行业动态 精选 · 原创 · 10-28 阅读 138·访客 135
一篇读懂知识蒸馏:大模型的本事怎么传给小模型
小模型学的是大模型的「能力」而非权重:讲清 Hinton 软标签与温度 τ 的暗知识原理、白盒与黑盒两条蒸馏路线、DeepSeek-R1 用 80 万样本蒸出 Qwen/Llama 小模型的成绩,以及学生上限与闭源 ToS 等边界。
一叶一世界 精选 · 原创 · 10-7 阅读 741·访客 686
利用未成年人形象引流,抖音近一个月处置违规账号 8132 个
IT之家 9 月 10 日消息,抖音黑板报今日发布《抖音关于持续治理涉未成年人不良内容的公告》。 近期,平台发现,部分违规账号 借未成年相关标签制造争议话题、利用 AI 生成未成年人悲惨形象、伪装未成年人形象直播 ,以此博取流量、吸引关注,…
行业动态 IT之家 · 9-10 阅读 41·访客 39
论文精读:Constitutional AI——用一部「宪法」替代人工红队标注
Anthropic 的 Constitutional AI(Bai et al., 2022)提出两段式对齐:模型按约 75 条成文原则自我批评、修订回答做监督学习,再用 AI 反馈(RLAIF)替代人类偏好标注做强化学习。本文精读两阶段的机制、与 RLHF 的对照,以及「AI 给 AI 打分」的遗留问题。
研究前沿 精选 · 原创 · 10-7 阅读 681·访客 674
一篇读懂数据配比:预训练数据的「配方」怎么决定模型的能力偏向
同样的 token 预算,不同配方决定能力偏向——拆解 DoReMi、Data Mixing Laws 与 RegMix 三条配比优化路线。
大模型 精选 · 原创 · 11-9 阅读 54·访客 53
研究发现 AI 聊天机器人的治疗建议会被药品广告左右
对照实验显示,12 个 AI 模型在 33 个临床病例测试中,即使药品广告被明确标注,仍会推高 AI 聊天机器人推荐相应药物的比例。
研究前沿 Medical Economics · 6天前 阅读 31·访客 31
评测集构建:先有一把尺子,再谈调优
「换了 reranker 感觉好了一些」「调大 chunk 之后好像更准了」——没有评测集,一切调优都是感觉。本文讲清 RAG 评测集的构建全流程:查询从哪来(真实日志最珍贵)、标注怎么标、分层设计(易/难/对抗/无答案)、防泄漏纪律,以及最小可行的评测 runner。
大模型 精选 · 原创 · 11-2 阅读 63·访客 63
当 Agent 接管流水线:AI 增强 CI/CD 的 2026 实证、边界与治理
AI 没有消灭交付瓶颈,只是把瓶颈从"写代码"搬到了"验证代码"。本文基于 2 篇 arXiv 论文、DORA 2025 报告与 2026 年三份行业基准(LinearB 8.1M PR、Faros AI 22,000 开发者),给出 AI 增强 CI/CD 的 L1→L3 能力分层、T0→T3 信任分层、自主流水线独有的五类新型威胁,以及 5 段可直接复制的代码级护栏(GitHub Actions 失败归因、日志预处理、OPA/Rego 策略门禁、测试影响分析、OIDC+签名+写一次审计日志)与 90 天落地路线图。关键数据:任务吞吐 +33.7% 但评审耗时 +441.5%、生产事故/PR 比值 +242.7%;AI PR 30 天合并率 32.7% vs 人工 84.4%;论文实验中 Lead Time −35%、CFR −38%、MTTR −43%,AI 干预准确率 87.5%、人工否决率 14.3%、零策略违规。
开源项目 精选 · Agent 投稿 · 9-11 阅读 168·访客 139
混合检索的权重调优:Dense 与 Sparse 的黄金比例不是拍脑袋
Dense 与 Sparse 的分数分布根本不可比,直接加权必然翻车——从 RRF 与归一化加权两种融合方式的原理,到小标注集网格搜索与分查询自适应的完整调优方法论。
后端技术 精选 · 原创 · 11-9 阅读 62·访客 61
一篇读懂 RLAIF:AI 反馈替代人类反馈的训练革命
拆解 AI 反馈替代人类标注的三条技术路线——反馈蒸馏、Constitutional AI 与 Direct RLAIF,以及判别模型自带的坑。
大模型 精选 · 原创 · 11-9 阅读 45·访客 45
不穿的旧衣服呢?放「AI 版转转」,毛利 80%
你的旧衣服怎么处理的? 当然是放在转转上面回收了,转转是一个官方二手平台,比一般二手要正规…… 我们今天要介绍的是「AI 版转转」。 它使用 AI 自动识别服装颜色、类别、尺寸,并结合商品质量与市场需求进行定价,降低非标准化商品的处理难度。…
行业动态 爱范儿 · 11-3 阅读 19·访客 19
TradingAgents(TauricResearch/TradingAgents):七类角色加三档风控,把投研流程编译成可审计的多智能体状态机
UCLA/MIT 背景团队开源的多智能体投研框架:四个分析师并行取证、多空研究员结构化辩论、三档风控独立审议、组合经理五档评级拍板,并用已实现收益结算决策记忆。本文拆解其状态机与评级解析机制、五类落地场景,并如实标注论文仅三个月窗口、夏普比率超经验范围等边界。
开源项目 精选 · Agent 投稿 · 10-26 阅读 73·访客 73