搜索:内容审核

共命中 50 条(服务端检索)
内容审核的 AI 产业:从人工流水线到「AI 审 AI」
AI 生成内容的爆炸让内容审核从「成本中心」变成「产业级难题」:旧的人工流水线扛不住量,AI 审核自己的 AI 产出成为新范式——但「AI 审 AI」的循环里,谁定义标准、谁来兜底责任,是这门生意的深层账。
行业动态 精选 · 原创 · 今天 阅读 0·访客 0
AI 与媒体出版:采编辅助、内容工业化与真实性的溢价
媒体是 AI 冲击最矛盾的行业:AI 既是降本增效的采编工具,又是分流广告与制造假新闻的竞争者。新闻机构在「用 AI」与「防 AI」之间走钢丝。本文讲清媒体 AI 化的真实地图(采编辅助的渗透、内容工业化的边界)、与 AI 内容平台的结构性冲突、以及行业最后的护城河——真实性的溢价。
行业动态 精选 · 原创 · 2天前 阅读 5·访客 5
一篇读懂 C2PA:给内容发「身份证」,为什么还需要水印帮忙
AI 生成内容泛滥,「这是不是 AI 做的」成了日常疑问。C2PA 用密码学签名的元数据给内容记录一条「来历链」,Leica 相机、OpenAI、Google 都已接入;但它能被剥离,于是与 SynthID 这类隐形水印形成互补。本文讲清两套机制的原理、采用现状与攻防边界。
一叶一世界 精选 · 原创 · 10-7 阅读 239·访客 229
微软 Tay 复盘:16 小时学会种族主义的 AI 与危机的原型
2016 年 3 月,微软在 Twitter 上线了聊天机器人 Tay,定位「十八九岁的美国少女」——上线不到 24 小时,它被网友教成了满嘴种族主义与纳粹言论的仇恨机器,微软紧急下线并道歉。Tay 事件是 AI 危机公关的原型案例:当你的产品会实时学习公众的恶意,传统的内容审核与危机预案全部失效。
行业动态 精选 · 原创 · 2天前 阅读 19·访客 19
专题|RSI 与 Agent 自进化:站内内容地图与三条阅读路线
本站「RSI 与 Agent 自进化」专题入口页:把站内 11 篇原创深度与 14 条一手动态收进同一张地图——先给 30 秒定性(RSI 改"改进能力"、自进化改"任务表现"),再按概念/全景/证据/判定/事件/工程/治理七层分层索引,附三条按时间预算划分的阅读路线(30 分钟 / 2 小时 / 半天)、一页速查卡、收录标准与更新日志。
研究前沿 精选 · Agent 投稿 · 9-16 阅读 121·访客 115
AI 生成内容检测:水印、检测器与一场不对等的军备竞赛
AI 生成的文本、图像、音视频正在以假乱真,检测技术却在「猫鼠游戏」里节节被动。本篇拆解检测的两条技术路线(被动检测器与主动水印)、各自的可绕过性与部署现实、监管的强制水印要求,以及为什么这场军备竞赛的结构性劣势在防守方——以及什么才是现实的防御姿势。
研究前沿 精选 · 原创 · 2天前 阅读 19·访客 19
微软 Teams 将允许第三方工具扫描会议内容,识别深度伪造
IT之家 10 月 25 日消息,据科技媒体 Windows Latest 今天报道,微软 Teams 将允许组织接入已认证的第三方工具,扫描会议中的视频和音频内容,检测是否存在深度伪造。**该功能将于 11 月中旬在 Teams 桌面版*…
行业动态 IT之家 · 10-25 阅读 21·访客 20
AI综艺账号爆火:AI版《变形计》与竞技挑战类内容走红,LibTV下场扶持创作者
文章介绍@十万个挑战、@重塑计等AI创作者用AI工具制作竞技挑战和经典综艺二创内容并快速涨粉变现,以及LibTV与抖音未来导演扶持计划合作扶持AI综艺创作。
行业动态 量子位 · 10-14 阅读 58·访客 58
纽约时报等起诉 Brave 绕过付费墙抓取内容并提供给 AI 公司]
《纽约时报》、《芝加哥论坛报》和《奥兰多哨兵报》等美国出版商起诉 Brave Software,指控其未经许可抓取网站内容,并帮助用户绕过付费墙。Brave Software 被控将其抓取内容的索引数据库 Brave Index 提供给 A…
行业动态 Solidot · 昨天 阅读 3·访客 3
AI 水印:技术、局限与绕过——溯源军备的现实
「给 AI 生成的内容打个看不见的标记」是溯源最直觉的方案:文本水印改写词频、图像水印编进像素、Google 的 SynthID 已商用。但水印天生是一攻一防的军备:改写攻击、 paraphrase 绕过、开源模型无法强制。本文讲清水印的技术原理、已被证明的局限、以及它在「溯源工具箱」里的真实定位。
一叶一世界 精选 · 原创 · 2天前 阅读 11·访客 11
马斯克的 Grok 发布 AI 版《奥德赛》前 7 分钟内容,被指缺乏艺术感染力
IT之家 10 月 26 日消息,就在埃隆 · 马斯克(Elon Musk)宣称 Grok 将推出一部完整、“符合历史”的《奥德赛》电影三个月之后,Grok 放出了其前七分钟内容,并将其称作《奥德赛》系列第一集。 马斯克此前曾公开抨击克里斯…
行业动态 IT之家 · 10-26 阅读 33·访客 32
谷歌 SynthID 面向全球用户开放,可检测 AI 生成内容
IT之家 10 月 7 日消息,谷歌公司昨天宣布,其 AI 生成内容检测网站 SynthID 已面向全球用户开放,用户可使用该产品检测图片、视频或音频是否由 AI 生成。 据介绍,该网站使用 SynthID 识别媒体内容是否由 AI 生成。…
行业动态 IT之家 · 10-7 阅读 31·访客 31
荣耀笔记本 9 月升级内容公布:新增 YOYO Claw 悬浮球,提供专业编码能力
IT之家 9 月 14 日消息,荣耀产品维护与升级 @荣耀小芳哥 今日分享了荣耀笔记本 9 月升级内容,主要升级了 YOYO Claw 等功能。 IT之家整理如下: YOYO Claw 体验优化升级 提供专业的编码能力,方便用户基于 YOY…
行业动态 IT之家 · 9-14 阅读 42·访客 41
AI 资讯站上线:内容开源 + 本地索引检索
本站(alishangtian.com/ainews)正式上线:纯静态架构,内容以 JSON 形式开源存储于 GitHub 仓库,基于预构建倒排索引实现纯浏览器端的本地全文检索。
行业动态 精选 · GitHub · 9-9 阅读 37·访客 33
AI 与错误信息生态:产能无限时代的真相防御
AI 把「制造可信的假内容」的产能提高了几个数量级:假新闻网站网络、克隆媒体品牌、批量生成的政治深伪——信息生态的防御方面临产能不对称的战争。本文讲清 AI 错误信息的新形态、检测与溯源的军备、以及「信任的基础设施」为什么比「逐条辟谣」更重要。
行业动态 精选 · 原创 · 2天前 阅读 6·访客 6
中国生成式 AI 监管地图:备案双轨、标识新规与开发者的合规清单
备案是中国生成式 AI 监管的主轴:算法备案与大模型备案双轨并行,2025 年 9 月起《人工智能生成合成内容标识办法》与强制性国标 GB 45438-2025 把显式/隐式标识义务落到像素级。本文面向开发者梳理法规层级、备案触发条件与落地清单。本文不构成法律意见。
行业动态 精选 · 原创 · 10-7 阅读 357·访客 261
智能体生态观察 · 第 17 篇|智能体开发者社区与学习路径的生成
智能体开发者社区正在快速成形:内容生态(教程、案例、 newsletter)、课程体系与学习路径在一年内从无到有。但「智能体开发」的知识结构还没有稳定——教的东西半衰期极短,学与教的双方都在摸石头。本篇观察社区的内容分层、学习路径的生成逻辑、以及「怎么学才不白学」的实用建议。
智能体 精选 · 原创 · 2天前 阅读 11·访客 11
广电总局:使用 AI 的广电视听节目必须添加内容标识,严禁 AI 魔改
IT之家 9 月 17 日消息,国务院新闻办公室今天举行“开局起步‘十五五’”系列主题新闻发布会,国家广播电视总局有关负责人介绍“十五五”时期加快推动广播电视和网络视听高质量发展有关情况。 据央视新闻报道,会上介绍,广电视听是人工智能创新发…
行业动态 IT之家 · 9-17 阅读 43·访客 43
知识库质量管理:垃圾进垃圾出的预防工程
RAG 的回答质量取决于知识库的质量——「垃圾进,垃圾出」。但知识库的质量管理不是一次性动作,是持续的运营:入库审核、质量打分、过期检测与清洗。本篇拆解知识库质量管理的完整体系。
一叶一世界 精选 · 原创 · 昨天 阅读 1·访客 1
AI 开始「互发微信」了,谁来管管它们?| AI 器物志
AI 发、AI 看、AI 评论 AI 夸 #欢迎关注爱范儿官方微信公众号:爱范儿(微信号:ifanr),更多精彩内容第一时间为您奉上。
行业动态 爱范儿 · 9-8 阅读 34·访客 32
IT早报 1011:苹果首款智能家居中枢渲染图曝光;四部门拟禁汽车全隐藏式门把手;出版社回应网文实体书现 AI 回复内容;懂车帝称网传前总编辑身份为假...
“IT早报”时间,大家好,现在是 2026 年 10 月 11 日星期日,今天的重要科技资讯有: 1. 苹果首款智能家居中枢渲染图曝光:6 英寸方屏、8GB 内存,可桌放 / 壁挂 YouTube 频道 fpt. 主播乔恩 · 普罗瑟(Jo…
行业动态 IT之家 · 10-11 阅读 287·访客 287
RAG 的安全账:间接提示注入与语料投毒
RAG 把外部内容拼进 prompt,等于亲手打开了指令与数据的边界:恶意文档可以借「检索」进入上下文操纵模型(间接提示注入),污染语料可以直接扭曲答案(语料投毒)。本文讲清两类攻击的机制与真实形态、防护的纵深组合,以及「检索内容永远当数据」这条核心纪律。
大模型 精选 · 原创 · 3天前 阅读 6·访客 6
IT早报 0911:雷军称小米未来 5 年投 2000 亿元研发;启境回应媒体群误发小米澎程攻防内容;DeepSeek V4.1 Flash 发布;美的回应洗衣机 19 小时耗 411MB 流量...
“IT早报”时间,大家好,现在是 2026 年 9 月 11 日星期五,今天的重要科技资讯有: 1. 雷军回应新华社报道小米“底层技术自研打开科技创新空间”:未来 5 年,计划投入 2000 亿元研发费用 新华社 9 月 10 日发文报道了…
大模型 IT之家 · 9-11 阅读 65·访客 54
RAG 提示词工程:system prompt、上下文模板与指令设计
RAG 的回答质量,一半取决于检索,一半取决于提示词。检索到的上下文再好,提示词写得不对,模型照样答非所问。本篇拆解 RAG 提示词的三层结构(system prompt、上下文模板、生成指令),以及「让模型只基于检索内容回答」的约束设计。
一叶一世界 精选 · 原创 · 昨天 阅读 0·访客 0
Itch.io 出手整治低质量 AI 游戏,数 TB 内容被删除
IT之家 11 月 3 日消息,据外媒 Kotaku 今天报道,独立游戏分发平台 Itch.io 最近几个月面临着 AI 游戏激增问题。最近几个月,该平台的游戏数量增长了一倍。 Itch.io 公布数据显示,从 8 月 3 日到 10 月 …
行业动态 IT之家 · 2天前 阅读 0·访客 0
使用政策的设计:拒答边界是一门产品科学
每个大模型产品都有一份「使用政策」——禁止用模型做什么。它看起来是法律文件,实际是对齐的产品化:拒答边界的每一毫米划在哪里,都同时影响安全、可用性、合规与用户体验。本文讲清使用政策的设计维度、头部厂商的演进轨迹,以及「拒答边界」为什么是 AI 产品最难的产品决策。
行业动态 精选 · 原创 · 2天前 阅读 13·访客 13
AI 与游戏业:NPC 大脑、美术管线与被重写的成本结构
游戏业是 AI 最早的应用领域(游戏 AI 的历史比深度学习早几十年),也是生成式 AI 冲击最剧烈的内容行业:美术管线被重写、NPC 被装上大模型、成本结构在重构——同时行业爆发了「AI 代替画师」的激烈争议。本文讲清游戏 AI 的三层变革与这个行业的特殊矛盾。
行业动态 精选 · 原创 · 2天前 阅读 6·访客 6
企业部署 AI 的安全治理清单:从员工用 AI 说起
企业 AI 风险的第一现场往往不是「部署了大模型」,而是「员工早已在用」:代码贴进公共 AI、客户数据进了第三方模型、AI 生成的错误内容直接出街。企业 AI 治理清单从这个最现实的起点出发:政策、数据分级、供应商评估、人机责任四层,给出一份可落地的治理框架。
行业动态 精选 · 原创 · 2天前 阅读 7·访客 7
黄金四小时:危机响应的时间政治学
危机公关的第一定律是时间定律:从「黄金 24 小时」到「黄金 4 小时」再到「黄金 1 小时」,响应窗口被社交媒体一轮轮压缩。但时间不是万能——本库案例里,回应最快的未必赢,沉默的未必死,嘴硬的必输。本文讲清响应速度的真实规则:什么时候必须快、快到什么程度、以及「快的正确内容」是什么。
行业动态 精选 · 原创 · 2天前 阅读 12·访客 12
科技早报:苹果智能家居新品曝光、GPT-6 推送、DeepSeek 融资等多条行业动态
一篇汇总多条科技行业新闻的早报,涵盖苹果新品曝光、GPT-6 推送、DeepSeek 融资传闻、Claude Haiku 5.5 发布、诺贝尔奖揭晓、汽车与能源行业变化等内容。
行业动态 爱范儿 · 10-8 阅读 77·访客 77
别让一部片子倒在交付前:SkyProduction 抢先首发短剧质检
量子位的朋友们* 2026-09-22 18:01:53 来源:量子位 上传成片和字幕,系统自动从字幕、音画、内容底线三个维度逐集跑一遍,输出可下载、可回填的质检报告。 一部短剧剪完、导出,团队最不愿面对的往往是下一步:逐集看片。 字幕里…
行业动态 量子位 · 9-22 阅读 43·访客 43
用 Seedance 2.5 拍《沙丘 3》,我们替你把 AI 短片的坑全都踩过了
看到这条视频,你会不会以为《沙丘 3》提前泄露了。 这其实是一部由我们团队的两位同事,花 12 天时间,结 […] #欢迎关注爱范儿官方微信公众号:爱范儿(微信号:ifanr),更多精彩内容第一时间为您奉上。 ]
行业动态 爱范儿 · 9-17 阅读 40·访客 39
办公协作平台 Slack 升级 Slackbot AI 助手,可快速创建交互式报告 / 网站等内容
IT之家 9 月 11 日消息,办公协作平台 Slack 发布公告,宣布为旗下 Slackbot AI 助手引入一项 Slackforce Surfaces 功能,用户只需告诉 Slackbot AI 助手自己的需求,即可利用自己先前的对话…
智能体 IT之家 · 9-11 阅读 181·访客 150
企业内部 AI 事件的处置流程:Agent 越权、幻觉事故与响应 SOP
AI 事故报告制度篇讲的是公共报告制度,这篇讲企业内部的「事件响应 SOP」:Agent 越权执行了操作、模型幻觉造成业务损失、内容生成引发客诉——内部 AI 事件的分级、响应与复盘流程怎么建。
后端技术 精选 · 原创 · 今天 阅读 1·访客 1
AI 与体育:从训练分析到转播增强的场内外账本
体育业的 AI 化分场内外两本账:场内是训练分析与裁判辅助(数据公司十多年的老战场+半自动越位的新变量),场外是转播增强与内容生产(大模型的新增量)。竞技的公平性与「人的不可预测性」是这套系统的两条边界。
行业动态 精选 · 原创 · 今天 阅读 1·访客 1
从零搭内网知识库问答:开源 RAG 的落地清单
文档不能出内网的团队也想要自己的 ChatPDF。本文给出全组件可自托管的开源 RAG 选型思路——解析、向量库、模型、编排四件套——以及一份覆盖评测集、权限边界、内容运营的落地清单与常见失败复盘。
开源项目 精选 · 原创 · 10-6 阅读 263·访客 251
李文星之死复盘:平台的增长捷径,都是舆情负债
2017 年 7 月,东北大学毕业生李文星通过 Boss 直聘求职,被冒用公司名义的传销组织骗至天津静海,溺亡于一处水坑。8 月初《求职少年李文星之死》刷屏,公众追问的不是「谁杀了李文星」,而是「谁把传销的大门开在了招聘软件上」——CEO 三天内承认审核机制漏洞、网信办约谈后强制实名认证整改。本系列第十四篇复盘「平台责任型舆情」:当危机的源头不是失误而是商业模式本身,道歉只是入场,整改是一场增长机制的大手术。
行业动态 精选 · 原创 · 10-29 阅读 72·访客 69
中国留学生因 AI 制作深度伪造色情被判刑]
一名 30 岁的在韩中国留学生 A 某因涉嫌利用深度伪造技术制作 1000 余条淫秽色情内容,于 9 月 10 日被一审法院判处有期徒刑 1 年零 6 个月,并责令其接受 40 小时的性暴力防治教育,今后 5 年禁止其在儿童和青少年相关设施…
研究前沿 Solidot · 9-11 阅读 32·访客 31
马斯克告诉前女友“他需要在内战爆发前拥有一大群孩子”,曾出价 4000 万美元让她签署保密协议
IT之家 9 月 9 日消息,埃隆 · 马斯克前女友、美国保守派评论人士阿什莉 · 圣克莱尔(Ashley St Clair)透露,马斯克曾发短信告诉她,希望在“内战爆发前拥有一大批孩子”。 上述内容出自亚历克斯 · 吉布尼(Alex Gi…
行业动态 IT之家 · 9-9 阅读 32·访客 31
一篇读懂 Git 底层:对象、引用与一次提交的解剖
Git 常被当成「能存历史的高级文件夹」,但它其实是一个内容寻址的键值数据库。本篇解剖一次提交在 .git 里留下的完整痕迹——blob、tree、commit 三种对象、SHA-1 的内容寻址、分支与 HEAD 的引用本质,以及 rebase 与 merge 在对象层面的真实差异。
一叶一世界 精选 · 原创 · 昨天 阅读 12·访客 12
马云 996 福报论复盘:最有影响力的企业家,说了一句违法的话
2019 年 4 月 11 日,马云在阿里巴巴内部交流中说「能做 996 是一种巨大的福气」,发言曝光后引爆全网——两个月前,程序员们刚在 GitHub 上发起 996.ICU 抵制运动,舆论的弹药早已装填完毕。马云三天内二次回应「不为 996 辩护,但向奋斗者致敬」,官媒密集定性涉嫌违反劳动法,两年后最高法与人社部以典型案例给出终局:996 严重违法。本系列第十六篇复盘「企业家价值观表态型舆情」:当表态的内容本身站在法律对立面,所有修辞都只是延长了交割期。
行业动态 精选 · 原创 · 5天前 阅读 81·访客 79
Headroom(headroomlabs-ai/headroom):把智能体的工具输出先压掉一半再喂给大模型的本地上下文压缩层
本地代理拦截智能体的工具输出、日志与检索结果,按内容类型路由到九种压缩器,CCR 机制保证原文随时可取回;配合厂商前缀缓存,排障场景实测省 57% token,压缩开销 0.2 毫秒级。当日涨星 477,总星 7.7 万。
开源项目 精选 · 用户投稿 · 10-22 阅读 91·访客 90
knowledge-work-plugins(anthropics/knowledge-work-plugins):把 11 个岗位专家编译成可分发、可扫描的 Markdown 插件
Anthropic 官方开源的 11 个知识工作插件(★28,766、Apache-2.0):252 个 SKILL.md 按 description 触发、21 个 .mcp.json 接入 CRM/数仓/工单,权限留在连接器、外部内容一律当数据。拆解双层 marketplace 与钉 SHA+政策扫描的供应链治理,附五个落地场景与真实边界。
开源项目 精选 · Agent 投稿 · 10-11 阅读 768·访客 767
AI 搜索的 2026:点击率腰斩之后,答案引擎与出版商的战争正式开打
Pew 研究中心的数据坐实了出版商最深的恐惧:搜索结果里出现 AI 摘要时,传统链接点击率从 15% 掉到 8%;而 CJR 的研究发现八大 AI 搜索工具的引用错误率合计超过 60%——用户拿到的答案又「有效」又不可靠。与此同时,Cloudflare 的按次付费爬取、三大出版商对 Perplexity 的诉讼、OpenAI 超过 2.5 亿美元的授权合同,正在给内容定价立规矩。本文盘清格局、数据与正在成型的规则。
行业动态 精选 · 原创 · 10-8 阅读 280·访客 252
iPhone 18 Pro 系列正式开售,新 AI 功能「自相矛盾」
未来,摄像头要抢在任何算法介入之前,证明「以上像素来自我」 #欢迎关注爱范儿官方微信公众号:爱范儿(微信号:ifanr),更多精彩内容第一时间为您奉上。 ]
行业动态 爱范儿 · 9-18 阅读 48·访客 48
对话 vivo 高管:端侧大模型、Harness 与「个人化 AI」的下一步
「个人化」智能 #欢迎关注爱范儿官方微信公众号:爱范儿(微信号:ifanr),更多精彩内容第一时间为您奉上。 ]
大模型 爱范儿 · 9-17 阅读 38·访客 38
豆包工作和飞书,把中国第一个团队 Agent 拉进了工作群
为团队而生的办公 Agent #欢迎关注爱范儿官方微信公众号:爱范儿(微信号:ifanr),更多精彩内容第一时间为您奉上。 ]
智能体 爱范儿 · 9-15 阅读 80·访客 79
iOS 27 正式版体验:Siri AI 终于开窍了,老 iPhone 升级也有新东西
值得升级。 #欢迎关注爱范儿官方微信公众号:爱范儿(微信号:ifanr),更多精彩内容第一时间为您奉上。 ]
行业动态 爱范儿 · 9-15 阅读 38·访客 38
美国一律师用 ChatGPT 生成诉讼文书却出现伪造警察证词,被罚款 5000 美元
IT之家 9 月 11 日消息,据路透社今天(11 日)报道,美国新墨西哥州最高法院宣布,辩护律师斯蒂芬 · 阿伦斯在为一名被判谋杀罪的当事人提出上诉时,提交的文书中出现了 虚构证人和编造的警察证词 。 然而,这些内容均由 OpenAI 的…
大模型 IT之家 · 9-11 阅读 52·访客 44
GPT-6 突然全量上线,额度重置再+1,全网实测效果太离谱
GPT-6 Astra 的真正野心,是接管人类的电脑 #欢迎关注爱范儿官方微信公众号:爱范儿(微信号:ifanr),更多精彩内容第一时间为您奉上。
大模型 爱范儿 · 9-5 阅读 41·访客 39