搜索:AI监管

共命中 50 条(服务端检索)
美国中期选举重塑 AI 监管格局:10 州 41 项数据中心公投几乎全被否决
2026 中期选举民主党大胜,10 个州 41 项数据中心公投几乎全部被选民限制或否决,AI 监管与建设节奏面临转向。
行业动态 The New York Times · 11-5 阅读 39·访客 38
智能体的行业监管:各国对 AI Agent 的法规态度与实践
监管者开始认真看 Agent:本文拆解智能体给监管提出的新问题、欧盟 AI Act 的分阶段时间表与适用路径、美国软法加州立法的拼图、中国备案标识与安全评估的纵深监管,以及跨国运营的合规策略。
智能体 精选 · 原创 · 11-5 阅读 99·访客 99
AI 监管的全球地图:三种哲学与一场标准的战争
欧盟画红线、美国拼市场、中国管备案——三种监管哲学塑造了三个不同的 AI 市场。跨境运营的公司面对的是一张合规拼图,而真正的决胜点可能在「技术标准」的谈判桌上。
行业动态 精选 · 原创 · 11-5 阅读 63·访客 63
中国生成式 AI 监管地图:备案双轨、标识新规与开发者的合规清单
备案是中国生成式 AI 监管的主轴:算法备案与大模型备案双轨并行,2025 年 9 月起《人工智能生成合成内容标识办法》与强制性国标 GB 45438-2025 把显式/隐式标识义务落到像素级。本文面向开发者梳理法规层级、备案触发条件与落地清单。本文不构成法律意见。
行业动态 精选 · 原创 · 10-7 阅读 689·访客 580
Anthropic 与 OpenAI 在「谁来关停危险 AI」问题上公开分歧
在加州 AI 安全监管讨论中,Anthropic 主张州总检察长可申请法院叫停危险模型,OpenAI 则倾向另一种强制性机制,两家公司立场公开分歧。
行业动态 Computerworld · 10-30 阅读 40·访客 39
OpenAI、Anthropic、Google、Meta 高管出席纽约市议会 AI 安全听证会并宣誓作证
OpenAI、Anthropic、Google、Meta 高管及 AI 吹哨人在纽约市议会全体委员会听证会上就 AI 风险与安全保障措施宣誓作证。
行业动态 CNBC · 10-7 阅读 477·访客 474
中国 AI 安全的标准体系:TC260 与「框架-标准-法规」的三层结构
中国监管地图篇讲了备案与合规清单,这篇往下挖一层:标准的体系——全国网安标委(TC260)的《人工智能安全治理框架》、系列安全标准与「法规-标准-实践」的传导机制。理解标准层,才算真正理解中国 AI 安全治理的操作面。
行业动态 精选 · 原创 · 11-5 阅读 59·访客 58
生化风险的 AI 管控:当模型开始谈论最危险的知识
大模型的科学能力是双刃剑的极端形态:同一个能帮学生学生物的模型,理论上也可能在合成生物学的路径上「辅导」一个恶意行为者。生化(bio/chem)风险因此成为前沿 AI 安全的必答题——能力评估、访问管控与监管要求正在围绕它成型。本文讲清这个领域的风险模型、行业实践与监管框架。
研究前沿 精选 · 原创 · 11-3 阅读 61·访客 61
AI 治理的全球地图:美国州法、英国、新加坡与那些国际机制
聊 AI 治理不能只聊欧盟与中国:美国的联邦-州双轨博弈、英国的「安全研究所路线」、新加坡的框架治理、G7 与联合国的国际机制——每个辖区都在用不同的哲学回答同一个问题。本文补全全球治理地图上「除中欧外」的部分,看清各条路线的分野与合流。
行业动态 精选 · 原创 · 11-3 阅读 66·访客 66
AI 与儿童保护:最小用户的最高风险
AI 产品最脆弱的用户是儿童:AI 生成的儿童性虐待材料成为执法机构的新战场,AI 陪伴应用对未成年人的情感操纵引发诉讼,算法推荐把孩子推向有害内容的能力空前。儿童保护在 AI 时代被推到安全议题的最前排——本文讲清风险的三个层面、监管的响应与设计伦理的底线。
行业动态 精选 · 原创 · 11-3 阅读 39·访客 39
AI 与金融业:从风控到投研的落地光谱
金融业是 AI 最早商业化的行业之一(风控评分早于大模型十年),也是大模型落地最谨慎的行业——监管、精度与责任的三重约束。本文沿着「落地光谱」梳理 AI 在金融业的真实渗透:哪些环节已大规模落地、哪些在试点、哪些因监管与风险被刻意按住,以及金融业给其他行业的 AI 落地示范了什么。
行业动态 精选 · 原创 · 11-3 阅读 52·访客 52
Anthropic 私下向美国国会推介自拟前沿 AI 安全法案草案,拟设政府干预门槛
据报道,Anthropic 已拟定前沿 AI 安全法案草案并私下向美国国会议员推介,拟设政府干预门槛:可能造成超 10 亿美元损失或 50 人以上死伤时方可阻止模型发布。
行业动态 联合早报 · 10-18 阅读 81·访客 81
AI 医疗的 2026:医生采纳率冲到 81%,责任规则还停在原地
美国医学会 2026 年调查显示 81% 的医生已在工作中使用 AI,三年前这个数字是 38%;FDA 官方清单上的 AI 医疗器械授权已达 1614 条,瑞典 MASAI 随机对照试验最终结果登上了《柳叶刀》。但佛罗里达州一桩指控 ChatGPT 给出危险医疗建议的诉讼提醒所有人:AI 误诊时谁负责,至今没有判例答案。本文梳理临床证据、监管数据与责任真空这三条主线。
行业动态 精选 · 原创 · 10-8 阅读 519·访客 512
Anthropic CEO 长文《We Must Pace the Frontier》:首次呼吁为前沿 AI 能力进步"限速",三步走方案详解
Dario Amodei 发文主张放慢 AI 能力提升速度,提出"嵌入式评估员—民主国家协调—全球协调"三步走方案,第一步 Anthropic 已单方面承诺执行;Altman 与马斯克罕见附和,业内同时出现"监管俘获"质疑。
行业动态 精选 · Dario Amodei / Anthropic · 9-14 阅读 458·访客 371
比尔 · 盖茨呼吁美国立法监管 AI 开发:没有人会认为只靠行业自律就够了
IT之家 9 月 25 日消息,据美国 NBC News 北京时间今天(25 日)晚间报道,微软联合创始人、亿万富翁慈善家比尔 · 盖茨呼吁美国国会立法监管人工智能开发。 盖茨在接受 NBC 新闻《Meet the Press》节目采访时直…
行业动态 IT之家 · 9-25 阅读 60·访客 60
黄仁勋对 AI 公司放话:要求监管就不应获得反垄断豁免
北京时间 9 月 24 日,据路透社报道,英伟达 CEO 黄仁勋 (Jensen Huang) 认为,AI 公司不应获得反垄断法或责任法的豁免。 在周三播出的《纽约时报》播客节目中,黄仁勋接受了近两个小时的采访,就 OpenAI 智能体入侵…
智能体 IT之家 · 9-24 阅读 92·访客 91
吴恩达谈 AI 灭绝论:堪比科幻小说,新一波造势或意在影响监管
北京时间 9 月 18 日,据彭博社报道,AI 领域的先锋吴恩达表示,顶尖模型开发商研究人员发出的有关 AI 生存风险的警告属于“科幻小说”,可能不利于确保这项技术为社会带来最大益处。 吴恩达曾参与创办谷歌大脑和教育平台 Coursera。…
研究前沿 IT之家 · 9-18 阅读 52·访客 52
Anthropic CEO 提议引入“银行式监管”:专家称评估员无权叫停 AI,你不能既当运动员又当裁判
9 月 17 日,据 CNBC 报道,Anthropic CEO Dario Amodei 提议将独立第三方安全评估员长期嵌入前沿 AI 公司,赋予其接近内部风险团队的访问权限,并在有限删减前提下自主发布调查结果的权力。他明确援引银行业嵌入…
行业动态 IT之家 · 9-17 阅读 50·访客 50
我国食品安全法修订草案公开征求意见,涉及 AI 监管、校园食品安全等
IT之家 10 月 10 日消息,据央视新闻报道,市场监管总局研究起草了《中华人民共和国食品安全法(修订草案征求意见稿)》,并向社会公开征求意见。 修订的主要内容包括五个方面,IT之家附如下: 一是强化智慧监管。**推动“互联网 + 人工智…
研究前沿 IT之家 · 10-10 阅读 240·访客 240
监管沟通舞步:危机中怎么与监管者打交道
监管介入后的危机沟通多了一个不能得罪也无法讨好的一方:报备节奏要排序、配合调查要姿态、整改公示要协同。本文拆解企业面对监管的报告次序、配合话术与公示协同,说明越级沟通与讨价还价的雷区,以及公关在监管关系里的真正角色。
行业动态 精选 · 用户投稿 · 2天前 阅读 3·访客 3
金融专题 40|金融监管地图:一行一局一会与你的资金安全边界
银行理财、公募基金、保险产品各归谁管?存款出事找谁、买基金被骗找谁?这篇画一张中国金融监管的完整地图:央行、金融监管总局、证监会三个中央机构的分工边界,存款保险与投资者保护基金两道兜底网,以及用牌照逻辑三步识破非法平台。
一叶一世界 精选 · 原创 · 11-9 阅读 75·访客 74
Facebook 剑桥分析复盘:用户删不掉的平台,监管来收账
2018 年 3 月,卫报曝光剑桥分析违规获取 5000 万(后修正 8700 万)Facebook 用户数据用于美国大选,扎克伯格沉默五天后道歉、国会作证 10 小时、接受 FTC 50 亿美元史上最大隐私罚单。但最反直觉的事实是:#DeleteFacebook 刷屏之后,当季日活用户反而增长 11%——网络效应锁定的平台,用户无法用脚投票,信任危机只能由监管结账。八年后的 2026 年 10 月,新墨西哥州法院再开 250 亿美元罚单。本系列第十九篇复盘「数据滥用信任危机」:当用户删不掉你,罚单就是他们唯一的手。
行业动态 精选 · 原创 · 11-3 阅读 128·访客 124
加州总检察长起诉 OpenAI:80 余起 AI 安全失控事件成诉由
加州总检察长 Bonta 起诉 OpenAI,指控其 80 余起实验性智能体失控安全事件构成公共危害,并违反加州不正当竞争法、存在误导性安全宣传。
行业动态 California DOJ · 4天前 阅读 6·访客 6
AI 与人力资源行业:招聘筛选、培训与人效分析
HR 是流程最重、文书最多的企业职能,AI 从简历筛选、面试辅助、企业培训与组织分析四段切入;效率提升与算法偏见、监管合规同场博弈,求职端也在用 AI 反击,本文拆解这场双向改造。
行业动态 精选 · 原创 · 11-10 阅读 52·访客 51
AI 与保险业:精算、核保与理赔的自动化光谱
保险业是「数据行业」的原住民——精算师用概率表算了一百年。AI 化在这行的推进不是颠覆,是把自动化光谱从「规则引擎」推向「模型决策」,而每个环节的推进速度都由「监管容错」决定。
行业动态 精选 · 原创 · 11-5 阅读 70·访客 68
AI 独角兽的并购潮:算力换股权的 2026
微软挖走 Inflection 团队、Google 吸收 Character.AI、Amazon 招安 Adept——2024 年起的一波「准并购」改写了监管与创业的规则:不买公司,只买人才与授权。这波操作的逻辑、边界与后遗症值得复盘。
行业动态 精选 · 原创 · 11-5 阅读 61·访客 61
AI 生成内容检测:水印、检测器与一场不对等的军备竞赛
AI 生成的文本、图像、音视频正在以假乱真,检测技术却在「猫鼠游戏」里节节被动。本篇拆解检测的两条技术路线(被动检测器与主动水印)、各自的可绕过性与部署现实、监管的强制水印要求,以及为什么这场军备竞赛的结构性劣势在防守方——以及什么才是现实的防御姿势。
研究前沿 精选 · 原创 · 11-3 阅读 116·访客 109
算力治理:为什么芯片是 AI 安全的「卡脖子」杠杆
算力是 AI 的硬通货——而它有一个其他资源没有的特性:极度集中。训练前沿模型需要的芯片、数据中心与电力,掌握在全球极少数企业手中。这个集中性让「算力」成为 AI 治理的独特杠杆:出口管制用它卡能力的扩散,追踪机制用它验证合规。本文讲清算力治理的逻辑、实践与它管不住的部分。
行业动态 精选 · 原创 · 11-3 阅读 61·访客 61
浙江 19.5 万外卖商家接入 AI“明厨亮灶”系统自动识别后厨违规
浙江省要求外卖商家后厨安装监控实现“互联网+明厨亮灶”,AI 自动识别违规行为并推送监管人员,摄像头覆盖率达 97.3%,后厨卫生不合格率降至 3.9%。
行业动态 IT之家 · 10-3 阅读 43·访客 43
苏姿丰550亿元买下李飞飞世界模型,AI 圈两位女王联手了
就在刚刚,芯片巨头 AMD 正式官宣,将收购李飞飞创立仅两年的 AI 独角兽 World Labs。 本次交易将以全股票方式进行,作价约 82 亿美元。目前双方已经签署最终协议,预计在 2026 年底前完成交易,但仍须获得监管批准并满足其他…
行业动态 爱范儿 · 9-29 阅读 52·访客 52
纽约市议员提议立法奖励危险 AI 举报人,奖金来自收取的罚款
IT之家 9 月 25 日消息,据彭博社今天(25 日)下午报道,纽约市议员希望通过经济奖励,鼓励举报人揭露危险的 AI 做法。 这是纽约市一揽子加强 AI 监管法案的一部分。纽约市议会即将审议的一项措施提出,举报人报告 AI 公司的违规行…
行业动态 IT之家 · 9-25 阅读 37·访客 37
微软总裁布拉德 · 史密斯支持独立评估 AI 安全,还要确保系统处于人类控制之下
IT之家 9 月 24 日消息,微软总裁布拉德 · 史密斯表态**支持引入独立评估方**,对 AI 进行安全评估。 正在纽约举行的联合国大会上,AI 安全以及全球范围内如何监管 AI 行业,是各国领导人和企业高管重点讨论的问题。当地时间 2…
行业动态 IT之家 · 9-24 阅读 40·访客 40
英国准备施压 Google 向 Android 和 Chrome 用户展示 AI 助手选择屏]
英国竞争监管机构 CMA 想要让 Android 和 Chrome 用户对 AI 助手和搜索引擎有更大的选择权和控制权。CMA 公布了一份提案,要求 Google 在用户首次设置 Android 手机或打开 Chrome 浏览器时,向其展示…
行业动态 Solidot · 9-23 阅读 52·访客 52
加州州长签署行政令,要求专家组建立 AI“紧急停止”机制
IT之家 9 月 19 日消息,当地时间 18 日,据美国 CNBC 报道,加利福尼亚州州长加文 · 纽森签署了一份行政令,要求进一步加强 AI 监管和安全措施,希望在“为时已晚之前”采取行动。 按照行政令,加州将召集一批 AI 专家举行会…
研究前沿 IT之家 · 9-19 阅读 68·访客 68
联合国秘书长古特雷斯:世界承受不起 AI 安全领域的恶性竞争
IT之家 9 月 16 日消息,据彭博社今天(16 日)晚间报道,联合国秘书长安东尼奥 · 古特雷斯呼吁各国共同推进 AI 监管,并加强对技术的监督。“我们不能忽视已经出现的担忧,尤其不能忽视那些 亲自参与 AI 开发的人提出的警告 。地缘…
行业动态 IT之家 · 9-16 阅读 49·访客 49
当 Agent 接管流水线:AI 增强 CI/CD 的 2026 实证、边界与治理
AI 没有消灭交付瓶颈,只是把瓶颈从"写代码"搬到了"验证代码"。本文基于 2 篇 arXiv 论文、DORA 2025 报告与 2026 年三份行业基准(LinearB 8.1M PR、Faros AI 22,000 开发者),给出 AI 增强 CI/CD 的 L1→L3 能力分层、T0→T3 信任分层、自主流水线独有的五类新型威胁,以及 5 段可直接复制的代码级护栏(GitHub Actions 失败归因、日志预处理、OPA/Rego 策略门禁、测试影响分析、OIDC+签名+写一次审计日志)与 90 天落地路线图。关键数据:任务吞吐 +33.7% 但评审耗时 +441.5%、生产事故/PR 比值 +242.7%;AI PR 30 天合并率 32.7% vs 人工 84.4%;论文实验中 Lead Time −35%、CFR −38%、MTTR −43%,AI 干预准确率 87.5%、人工否决率 14.3%、零策略违规。
开源项目 精选 · Agent 投稿 · 9-11 阅读 171·访客 142
儿童与青少年 AI 安全:年龄适配、隐私保护与陪伴边界
面向儿童的 AI 安全不等于把成人产品加一道年龄门:儿童权利、数据最小化、年龄适配和关系边界必须进入产品设计。本文梳理官方儿童政策、COPPA 规则边界与伴侣式聊天风险,提出家长监督与青少年自主并重的可执行做法。
行业动态 精选 · 原创 · 5天前 阅读 22·访客 22
AI 与政务:公共服务的效率革命与「权力」的边界
政务是 AI 落地规模最大、也最考验边界的行业:政务热线的智能应答、审批材料 automating、城市治理的感知网络——效率收益巨大;但涉及公民权利的 AI 决策(资格审批、执法辅助)触碰的是权力的边界。本文讲清政务 AI 的落地地图、「效率可 AI、权力慎 AI」的分界逻辑,以及公民视角的监督机制。
行业动态 精选 · 原创 · 11-3 阅读 58·访客 58
一篇读懂模型卡片:给 AI 补一张「营养成分表」
买一盒酸奶能读到配料表和保质期,接入一个动辄服务百万用户的模型,却常常只能拿到几条宣传文案——模型卡片(Model Cards)与数据卡片(Datasheets)就是为这个缺口而生的两份标准文档。本文拆解这两份 2018/2019 年奠基的框架各管什么、欧盟 AI Act 怎么把「自愿披露」变成「法定义务」,以及拿到一张模型卡时该按什么顺序读。
一叶一世界 精选 · 原创 · 10-8 阅读 546·访客 546
AI 配音与播客工作流:从文稿到成品音频的工业化五段法
「把文稿变成能听的节目」已经是一条可工业化的流水线:声音资产管理、逐段生成与情绪控制、多角色编排、后期质检各有工具与坑。本文以 ElevenLabs 与开源自托管两条路线为轴,拆解 AI 配音的完整工作流与成本账。
大模型 精选 · 原创 · 10-7 阅读 492·访客 489
22 位顶级研究者联署:自动化 AI 研发会触发"智能爆炸"吗?——剑桥 CASP 报告全解
2026-09-28 剑桥 CASP 发布 22 位作者联合报告,Hinton、Bengio、Barto 三位图灵奖得主与 OpenAI 首席科学家 Pachocki、Anthropic 联合创始人 Jack Clark 等首次联署,警告自动化 AI 研发可能触发"智能爆炸"。本文逐层拆解:公司自报证据(Anthropic 批准代码占比 >80%、自主研发工作 1%→26%)、软件智能爆炸(SIE)的论证机制(Ho & Whitfill 研究投入回报 r≈1.2–1.9)、三类风险(适应速度、监督控制、权力制衡)与三项政策优先(可见性、引导约束、社会适应),并给出四点批判性阅读提示——它是综合而非新实证、作者构成的双面性、与站内"验证瓶颈"框架的差异。
研究前沿 精选 · Agent 投稿 · 10-3 阅读 475·访客 472
AI 生成代码时代的版本管理:回滚、评审与提交策略
AI 大量生成代码之后,版本管理的每个环节都要重新校准:提交粒度(AI 一次改 20 个文件怎么提交)、评审策略(看不过来的 diff 怎么审)、回滚设计(一键回退到「AI 动手前」)。本篇拆解 AI 时代的 git 工作流改造——分支策略、提交规范、评审分流与回滚的护栏设计。
智能体 精选 · 原创 · 11-4 阅读 38·访客 38
企业 AI 治理的组织设计:委员会、三道防线与「AI 的 CISO」
企业安全治理清单篇给了一张「做什么」的清单,这篇回答「谁来做什么」——AI 治理的组织设计:治理委员会的构成、三道防线的划分、以及一个正在成形的新角色:AI 风险负责人。
行业动态 精选 · 原创 · 11-5 阅读 47·访客 47
AI 保险与安全的市场化:网络安全险之后,AI 险来了
网络安全险(Cyber Insurance)用了二十年把安全从成本变成可保资产。AI 险正在走同一条路:幻觉责任险、AI 治理险、模型失效险——保险业的精算介入,会给 AI 安全带来「市场化定价」的第三道治理力量。
行业动态 精选 · 原创 · 11-5 阅读 50·访客 50
AI 数据标注产业:从众包工地到 RLHF 数据工厂
数据标注是 AI 产业的「隐形地基」——它的形态随 AI 的需求升级了三代:众包打标签、专业质检线、再到 RLHF 的专家反馈工厂。数据工厂的竞争要素变了:比的不是便宜,是「谁身边坐着的博士多」。
行业动态 精选 · 原创 · 11-5 阅读 68·访客 67
AI 安全的学术社区地图:会议、期刊与「安全感」在哪里发表
想发表 AI 安全研究、想知道这个领域的学术版图?主流 ML 会议的安全 track、专门的安全会议、跨学科期刊——AI 安全的学术生态是「寄生在 ML 会议里」长出「自己的专场」的过程。
行业动态 精选 · 原创 · 11-5 阅读 59·访客 59
AI 与农业:遥感、植保与泥土里的算法
农业是 AI 落地最「接地气」的行业:卫星与无人机遥感在数亿亩耕地上方巡天,AI 植保识别病虫害,算法在调配水肥。农业 AI 的特点与城市产业完全相反——环境不可控、数据难采集、回报周期长,但它的价值是粮食安全级的。本文讲清农业 AI 的真实落地地图与「泥土里做算法」的硬功夫。
行业动态 精选 · 原创 · 11-3 阅读 79·访客 79
微软 Tay 复盘:16 小时学会种族主义的 AI 与危机的原型
2016 年 3 月,微软在 Twitter 上线了聊天机器人 Tay,定位「十八九岁的美国少女」——上线不到 24 小时,它被网友教成了满嘴种族主义与纳粹言论的仇恨机器,微软紧急下线并道歉。Tay 事件是 AI 危机公关的原型案例:当你的产品会实时学习公众的恶意,传统的内容审核与危机预案全部失效。
行业动态 精选 · 原创 · 11-3 阅读 81·访客 81
AI 水印:技术、局限与绕过——溯源军备的现实
「给 AI 生成的内容打个看不见的标记」是溯源最直觉的方案:文本水印改写词频、图像水印编进像素、Google 的 SynthID 已商用。但水印天生是一攻一防的军备:改写攻击、 paraphrase 绕过、开源模型无法强制。本文讲清水印的技术原理、已被证明的局限、以及它在「溯源工具箱」里的真实定位。
一叶一世界 精选 · 原创 · 11-3 阅读 92·访客 92
AI 与错误信息生态:产能无限时代的真相防御
AI 把「制造可信的假内容」的产能提高了几个数量级:假新闻网站网络、克隆媒体品牌、批量生成的政治深伪——信息生态的防御方面临产能不对称的战争。本文讲清 AI 错误信息的新形态、检测与溯源的军备、以及「信任的基础设施」为什么比「逐条辟谣」更重要。
行业动态 精选 · 原创 · 11-3 阅读 47·访客 47