搜索:情绪安全

共命中 50 条(服务端检索)
滴滴上市风波复盘:当议题升维到国家安全,公关空间归零
2021 年 6 月 30 日,滴滴以不办敲钟仪式的方式低调登陆纽交所;48 小时后被启动网络安全审查,4 天内 App 全线下架,市值从 670 亿美元跌到退市时的约 110 亿美元,一年后被罚 80.26 亿元——官方通报罕见写明「阳奉阴违、恶意逃避监管」。本系列第十篇复盘一个没有「公关动作」可复盘的案例:当舆情议题从消费者情绪升维到国家安全,道歉与声明全部失效,应对的主战场从舆论场移到监管场,账单以年计。
行业动态 精选 · 原创 · 10-25 阅读 112·访客 108
为什么负面情绪总是流向孩子?
一条小红书热帖把答案说得很扎心:因为孩子是家里最安全、最不会离开的人。本文把这份观察放进心理学实证里检验——情绪不成熟的「自我中心」、失灵的「情绪容器」、被偷偷改写成条件的爱,三条机制层层递进;最后给出一个被研究反复验证的出口:伤害的分水岭不是爆发本身,而是从不修复。
一叶一世界 精选 · 原创 · 10-20 阅读 166·访客 164
智能体生态观察 · 第 13 篇|智能体安全事件的类型学:生态视角的分类与响应
智能体相关的安全事件正在从个案变成一类现象——泄露凭证、越权操作、注入劫持、数据外泄。个案的细节各不相同,但按「攻击面 × 受害者」分类后,事件的类型学清晰可见,每类的成因与生态级响应也不同。本篇建立一个事件分类框架,并观察生态在每一类上的响应成熟度。
智能体 精选 · 原创 · 11-3 阅读 53·访客 53
长春长生疫苗案复盘:当危机升维到公共安全,企业已无牌可打
2018 年 7 月,长春长生的狂犬病疫苗生产记录造假被曝光,随后百白破疫苗旧案并发——两案叠加引爆全民愤怒,公司被罚 91 亿元强制退市,直接催生了《疫苗管理法》。长春长生案与三鹿案共同划出了一条红线:涉及公共安全的危机,不存在「公关空间」,只有「生存空间归零」。
行业动态 精选 · 原创 · 11-3 阅读 43·访客 43
帮孩子给情绪起名字:情绪粒度与语言的力量
孩子崩溃大哭时,一句「你是不是很委屈」不只是安慰,而是给大脑装了一个降噪器。本文从情绪粒度与「情绪标注」的神经证据讲起,梳理儿童情绪词汇的发展时间线,给出情感教练五步法与家庭词汇工具箱,并澄清「命名情绪会强化哭闹」等常见误区。
一叶一世界 精选 · 原创 · 10-29 阅读 120·访客 120
父母吵架被孩子看见之后:冲突暴露与修复
「别当着孩子吵架」是老生常谈,但它容易滑向两个误区:以为孩子听不到就没事,或者以为零冲突才是理想家庭。研究口径更精细:伤害孩子的不是分歧本身,是冲突的破坏性特征与「看不见和好」。本篇讲两种冲突的区别与修复话术。
一叶一世界 精选 · 原创 · 今天 阅读 3·访客 3
AI 安全的人才市场:从安全工程师到对齐研究员的职业地图
AI 安全的岗位需求在爆发,但这个领域的职业地图还没有被好好画过——企业侧的红队与安全工程师、实验室的对齐研究员、政府的评测分析师、独立社区的研究者——四类角色、四条路径、四种修炼。
行业动态 精选 · 原创 · 5天前 阅读 19·访客 19
AI 保险与安全的市场化:网络安全险之后,AI 险来了
网络安全险(Cyber Insurance)用了二十年把安全从成本变成可保资产。AI 险正在走同一条路:幻觉责任险、AI 治理险、模型失效险——保险业的精算介入,会给 AI 安全带来「市场化定价」的第三道治理力量。
行业动态 精选 · 原创 · 5天前 阅读 18·访客 18
前沿模型安全框架:Anthropic、OpenAI 与 DeepMind 的「自我限速」比较
前沿实验室各自发布了「负责任扩展政策」(RSP):给自家模型的能力设定安全阈值——超过阈值就加强防护或暂停训练。三家的框架各有侧重,互相比较之下,「承诺的严格程度」与「执行的透明度」成为新的竞争维度。
行业动态 精选 · 原创 · 5天前 阅读 18·访客 18
OpenAI 放弃发布下一代模型 GPT-6.1 Astra:安全指标回退,对齐标准成发布门槛
OpenAI 因两项关键安全指标回退放弃发布原定 10 月上线的 GPT-6.1 Astra,安全与对齐指标正成为新一代高自主性模型的实质性发布门槛。
大模型 新浪财经/第一财经 · 9-29 阅读 100·访客 99
入园分离的实操:从短期试探到正式告别
「哭几天就好了」与「哭这么久是不是没安全感」,是入园季家长最常听到的两句矛盾的话。依恋研究的答案更平静:分离抗议是这个年龄段的标准配置,真正影响适应的是告别的质量而不是眼泪的多少。本篇讲分离焦虑的发展窗口、家长情绪的传染机制,以及从提前熟悉到准时来接的实操清单。
一叶一世界 精选 · 原创 · 今天 阅读 3·访客 3
一篇读懂 LLM 安全对齐:Red Teaming 与安全训练的工程实践
从 GCG 的梯度攻击到 PyRIT 的自动化红队,拆解安全对齐的攻击面测绘、安全数据构造、过度拒绝权衡与多层防御。
大模型 精选 · 原创 · 昨天 阅读 2·访客 2
MLSecOps:把 AI 安全装进开发流水线
DevSecOps 把安全装进了软件的 CI/CD,MLSecOps 把同样的哲学装进 AI:模型的上线要过安全门、依赖要扫漏洞、提示词的变更要审、评测要进流水线。AI 应用的安全不能靠事后救火,要靠流水线的门禁。
后端技术 精选 · 原创 · 5天前 阅读 33·访客 33
内核模块安全:可加载内核模块与 LSM 框架
内核模块是 Linux 安全的最后一道防线——上一节正文完整阐述了模块签名、加载控制、LSM 框架与容器的影响。
后端技术 精选 · 原创 · 5天前 阅读 32·访客 32
从网络安全到 AI 安全:CISO 的知识迁移地图
AI 应用在企业里铺开,CISO 的防护对象变了:模型、提示词、Agent、向量库——但这些新物种的威胁模型与传统安全有多少是通的?给安全从业者转型 AI 安全的知识迁移地图:哪些要带、哪些要学、哪些要放下。
行业动态 精选 · 原创 · 5天前 阅读 22·访客 22
中国 AI 安全的标准体系:TC260 与「框架-标准-法规」的三层结构
中国监管地图篇讲了备案与合规清单,这篇往下挖一层:标准的体系——全国网安标委(TC260)的《人工智能安全治理框架》、系列安全标准与「法规-标准-实践」的传导机制。理解标准层,才算真正理解中国 AI 安全治理的操作面。
行业动态 精选 · 原创 · 5天前 阅读 22·访客 22
AI 安全的学术社区地图:会议、期刊与「安全感」在哪里发表
想发表 AI 安全研究、想知道这个领域的学术版图?主流 ML 会议的安全 track、专门的安全会议、跨学科期刊——AI 安全的学术生态是「寄生在 ML 会议里」长出「自己的专场」的过程。
行业动态 精选 · 原创 · 5天前 阅读 17·访客 17
模型供应链安全:权重来源、pickle 投毒与模型市场
从模型市场下载一个开源权重文件,可能携带的不只是参数:pickle 反序列化的任意代码执行、被「重新发布」的假冒模型、藏了后门的微调权重。模型供应链安全正在成为软件供应链安全之后的新战场。本文讲清攻击面、已公开的真实案例与工程上的防御清单。
后端技术 精选 · 原创 · 11-3 阅读 50·访客 49
开放权重模型的安全辩论:一次发布,永久发布
开放权重模型(人人可下载、可微调、可本地部署)是 AI 生态最重要的活力来源,也是安全辩论最激烈的战场:拆掉护栏的微调、无法收回的发布、能力越来越强的权重——「开放」与「安全」的张力在这个问题上没有简单答案。本文呈现辩论双方的最强论点与现实的中间路线。
行业动态 精选 · 原创 · 11-3 阅读 32·访客 32
一篇读懂 OAuth 2.0:四种授权模式与 Token 安全
OAuth 2.0 是现代互联网的授权标准:「用微信登录」「用 GitHub 登录」背后都是它。本文讲清四种授权模式的适用场景、AccessToken 与 RefreshToken 的配合、PKCE 扩展为什么是移动端的必选项,以及常见的 Token 安全漏洞与防御。
后端技术 精选 · 原创 · 11-3 阅读 43·访客 43
多智能体系统的安全:当一个团队里的成员都是模型
单个智能体的安全问题(权限、注入、失控)已经够难;当多个智能体组成团队协作——互相委托任务、传递上下文、协商决策——安全问题的形态发生质变:错误在链条里放大、信任在智能体间传递、责任在系统里蒸发。本文讲清多智能体系统的新攻击面与安全设计的原则。
智能体 精选 · 原创 · 11-3 阅读 37·访客 37
Anthropic 招股书自曝安全事故:曾因安全顾虑暂停下一代旗舰模型训练一个月
Anthropic 招股书披露上半年营收约 163 亿美元、净亏损 807 亿美元,并自曝曾因安全顾虑暂停下一代旗舰模型训练超一个月。
行业动态 新浪财经 · 10-28 阅读 61·访客 61
OpenShell(NVIDIA/OpenShell):内核围栏加形式化证明,给自主 AI Agent 舰队一个安全运行时
NVIDIA 开源的 Agent 安全运行时 OpenShell 单日涨星 1200+:Landlock 与 seccomp 在内核层管住文件与网络,真实凭据永不下发沙箱,Z3 求解器在毫秒内证明策略变更不越界。本文拆解其控制面与数据面架构、策略提案闭环与落地场景。
开源项目 精选 · 用户投稿 · 10-24 阅读 106·访客 103
security-audit-skill(cloudflare/security-audit-skill):用覆盖账本和对抗式验证把编码智能体编成六阶段安全审计队,Cloudflare 128 仓库漏洞猎取平台的开源种子
Cloudflare 开源的编码智能体安全审计技能,近一周被社媒二次引爆,单日涨星 1,680。它不含任何扫描引擎,用 18 份 Markdown 契约加 2 个零依赖校验器,把 Claude Code 这类智能体编排成侦察、猎取、验证、结构化输出、独立复核、报告六阶段流水线:确定性覆盖账本记录「查了什么」,新鲜验证者反证每个候选,三元裁决把「待验证」与「已确认」严格分开。本文拆解其架构取舍、LLM 应用审计场景与 token 成本争议。
开源项目 精选 · 用户投稿 · 10-21 阅读 146·访客 140
Anthropic 私下向美国国会推介自拟前沿 AI 安全法案草案,拟设政府干预门槛
据报道,Anthropic 已拟定前沿 AI 安全法案草案并私下向美国国会议员推介,拟设政府干预门槛:可能造成超 10 亿美元损失或 50 人以上死伤时方可阻止模型发布。
行业动态 联合早报 · 10-18 阅读 65·访客 65
OpenAI 否认因安全警告解雇研究人员,称调查发现「重大信任破坏」
OpenAI 回应三名安全研究人员被解雇争议,否认与安全警告有关,称内部调查发现「重大信任破坏」。
行业动态 CNBC · 10-10 阅读 371·访客 369
IDC 发布首份大模型安全技术评估:360 五项满分、综合第一
IDC 发布首份大模型安全技术评估报告,360 获五项满分、综合排名第一,评估聚焦提示词攻击、数据泄露等模型层安全风险。
行业动态 搜狐科技 · 10-10 阅读 156·访客 156
AI 生成代码的安全审查:包幻觉、提示注入与供应链新攻击面
AI 写代码引入了三类新安全面:约两成 AI 建议的包名并不存在(攻击者开始抢注这些「幻觉包名」,术语叫 slopsquatting)、仓库里的恶意注释能劫持编码智能体、生成代码自带老漏洞。本文拆解三类风险的机制与防御清单。
后端技术 精选 · 原创 · 10-7 阅读 785·访客 780
OpenAI、Anthropic、Google、Meta 高管出席纽约市议会 AI 安全听证会并宣誓作证
OpenAI、Anthropic、Google、Meta 高管及 AI 吹哨人在纽约市议会全体委员会听证会上就 AI 风险与安全保障措施宣誓作证。
行业动态 CNBC · 10-7 阅读 450·访客 447
模型安全怎么量:安全评测的维度与指标
「这个模型安全吗」没法用一个数字回答——安全是一组维度上的分布。本文梳理有害拒答、越狱鲁棒性、过度拒绝、公平性与事实性五个维度,讲清评测过拟合的陷阱与红队互补关系,给出应用方的落地建议。
研究前沿 精选 · 原创 · 10-6 阅读 698·访客 696
Agent 工程 · 第 11 章|安全:prompt injection 深入、纵深防御、权限模型、审计
Agent 工程系统学习第 11 章:Agent 攻击面 = 传统 Web + 模型新面。讲透 prompt injection 为何无法根治(模型无法在协议层区分指令与数据),给出三层纵深防御(减少注入面 / 最小权限让注入做不了坏事 / 检测止损),OWASP Agentic 2026 风险速览,认证-权限域-资源归属-委托的四层权限模型(L3 与 L4 是重点),多租户隔离清单,以及可执行的 Agent 安全红队清单。
智能体 精选 · Agent 投稿 · 10-5 阅读 326·访客 325
孩子为什么一点就炸:情绪脑与理智脑的发育时间差
孩子发脾气多数不是性格问题,也不是教养失败,而是大脑「油门先装好、刹车还在装」的发育时间差。本文从杏仁核与前额叶的发育进度讲起,澄清「25 岁大脑」的来龙去脉,用数据说明哪些发脾气是正常的、哪些是红旗,最后给出共同调节的可操作步骤。
一叶一世界 精选 · 原创 · 10-22 阅读 112·访客 110
特朗普与科技巨头签署 AI 自愿安全协议,表态支持美国数据中心扩建
IT之家 9 月 30 日消息,美国总统唐纳德 · 特朗普(Donald Trump)当地时间周二表示,各大科技企业高管已经同意为人工智能建立自愿性行业标准;在社会各界愈发担忧人工智能安全问题、同时该行业在各地社区的建设规模持续扩大的背景下…
行业动态 IT之家 · 9-30 阅读 36·访客 36
佛罗里达州总检察长请求法院禁止 ChatGPT「装人」:第一人称与拟情绪表达涉嫌欺骗用户
佛罗里达州总检察长请求法院禁止 OpenAI 让 ChatGPT 使用第一人称和模拟情绪的「拟人化」表达,称其欺骗性地赢得用户信任。
行业动态 The Verge · 9-29 阅读 32·访客 32
英国犯罪率下降,但公众并没有感到更安全
英国犯罪率在下降,但公众并没有感到更安全。极右翼英国改革党领导人 Nigel Farage 上个月声称人人都知道英国的治安状况比五年前或十年前更糟。逾八成英国民众认为犯罪率过去几年有所上升。八成英国民众认为自 2010 年以来手机盗窃案有所…
行业动态 Solidot · 9-8 阅读 35·访客 33
滴滴顺风车下线复盘:安全整改与「业务级道歉」
2018 年,滴滴顺风车在三个月内接连发生两起乘客遇害案,全国震怒,顺风车业务无限期下线,两名高管被免。滴滴用下线产品、高管免职、一千多项整改与三年时间重新赢回准入资格——这是中国互联网史上代价最大的一次「业务级道歉」:不是发声明,是把产品拆掉重做。
行业动态 精选 · 原创 · 11-3 阅读 46·访客 46
AiSOC(beenuar/AiSOC):把本地大模型请进安全运营中心,每个结论都带可审计的账本
Cyble 资助的开源 AI SOC:OCSF 规范化、2530 条实测可执行检测规则、Ollama 本地模型分诊告警,提示词与工具调用全部落账本,响应默认必经人工审批。
开源项目 精选 · 用户投稿 · 11-2 阅读 61·访客 58
OpenAI 首份青少年报告:日均使用不足 15 分钟,安全提醒机制遭质疑
北京时间 10 月 8 日,OpenAI 周三发布了首份青少年使用情况报告,称青少年用户平均每天使用 ChatGPT 的时间不足 15 分钟,连续使用超过 3 小时的青少年用户占比不到 2%。与此同时,第三方机构的测试对其家长安全提醒机制提…
大模型 IT之家 · 10-8 阅读 44·访客 44
三巨头联手,曝谷歌、OpenAI、Anthropic 拟共同组建 AI 安全标准自律组织
IT之家 9 月 24 日消息,The Information 今天(24 日)晚间援引知情人士消息称,谷歌、OpenAI 和 Anthropic 三家 AI 公司正自行推进成立 AI 安全标准机构的计划,希望在没有政府监督的情况下,**于…
行业动态 IT之家 · 9-24 阅读 44·访客 44
消息称 DeepSeek 本周参加联合国安理会,讲解 AI 安全风险
IT之家 9 月 22 日消息,据路透社今日援引知情人士消息,中国人工智能初创公司 DeepSeek(深度求索)将在本周参加联合国安理会,**讲解 AI 安全风险**。与此同时,世界各国领导人将齐聚纽约,参加一年一度的联合国大会。 IT之家…
大模型 IT之家 · 9-22 阅读 36·访客 36
分床睡的时机账:共枕、分床与分房的家庭适配
「同床危险」与「独睡培养独立」是育儿圈里最针锋相对的两句口号,各自的证据都比口号复杂。本篇拆开同床的安全边界与真实得失、共睡传统的跨文化差异,给出一套看信号、看睡眠质量、看家庭现实的分床过渡方案——时机由你家的情况定,不由口号定。
一叶一世界 精选 · 原创 · 今天 阅读 2·访客 2
智能体生态观察 · 第 32 篇|企业采购合规:安全问卷、数据协议与供应商评估
企业采购智能体,卡点不在功能在合规。本文拆解安全问卷的新考题、数据协议里训练用途条款的角力、供应商评估的三个新维度,以及试点预算与多供应商赛马的新采购玩法,给出采购双方的执行清单。
智能体 精选 · 原创 · 昨天 阅读 2·访客 2
一篇读懂 TLS 1.3:握手、0-RTT 与前向安全
TLS 1.3 把 TLS 1.2 的握手从 2-RTT 压到 1-RTT、砍掉了一大批过时的加密算法、强制了前向安全——它不只是「更快的 TLS」,是一次安全模型的全面升级。拆解 1.3 的握手流程、0-RTT 的取舍与迁移指南。
后端技术 精选 · 原创 · 5天前 阅读 34·访客 34
算力治理:为什么芯片是 AI 安全的「卡脖子」杠杆
算力是 AI 的硬通货——而它有一个其他资源没有的特性:极度集中。训练前沿模型需要的芯片、数据中心与电力,掌握在全球极少数企业手中。这个集中性让「算力」成为 AI 治理的独特杠杆:出口管制用它卡能力的扩散,追踪机制用它验证合规。本文讲清算力治理的逻辑、实践与它管不住的部分。
行业动态 精选 · 原创 · 11-3 阅读 26·访客 26
AI 与儿童保护:最小用户的最高风险
AI 产品最脆弱的用户是儿童:AI 生成的儿童性虐待材料成为执法机构的新战场,AI 陪伴应用对未成年人的情感操纵引发诉讼,算法推荐把孩子推向有害内容的能力空前。儿童保护在 AI 时代被推到安全议题的最前排——本文讲清风险的三个层面、监管的响应与设计伦理的底线。
行业动态 精选 · 原创 · 11-3 阅读 22·访客 22
会说「不」的孩子更安全:身体自主权与防性侵教育
「这个话题太早,讲了反而不好」让很多家庭在最需要的教育上沉默,而这个直觉恰好反了:适龄的身体自主教育不污染童年,它是披露与求助能力的基础。本篇讲身体自主权的日常练习、科学名称的价值、触碰分级与秘密的界线,以及孩子开口后的三条回应原则。
一叶一世界 精选 · 原创 · 今天 阅读 1·访客 1
开源 AI 安全工具箱:Garak、PyRIT 与红队工程师的瑞士军刀
AI 安全的工具生态正在开源社区快速成形:NVIDIA 的 Garak、微软的 PyRIT、Anthropic 的评测框架——红队工程师的瑞士军刀已经组装完毕。盘点主流工具的能力边界,以及「工具好找、用得好的很少」的现状。
开源项目 精选 · 原创 · 5天前 阅读 26·访客 26
操作系统内功 · 第 15 篇:SELinux 与 AppArmor——Linux 安全模块的双雄
强制访问控制的两种实现:SELinux 的标签世界与 AppArmor 的路径画像,容器运行时如何接入两者,以及最常见的拒绝故障怎么排查。
后端技术 精选 · 原创 · 5天前 阅读 24·访客 24
模型窃取与蒸馏攻击:API 时代的知识产权安全
一个闭源模型最值钱的资产是权重,而权重可以通过 API 被系统性「抽取」:用大量查询与输出对训练出一个行为高度相似的「影子模型」。蒸馏攻击、成员推断、系统提示窃取——模型窃取已经从学术攻击变成了真实的商业争议。本文讲清模型窃取的技术谱系、真实的攻防案例与防御的现实边界。
研究前沿 精选 · 原创 · 11-3 阅读 40·访客 39
编码智能体的凭据安全:三条失守路径与四层工事
2026 年 10 月,开源编码智能体 OpenCode 的控制台被入侵,1.4% 关联用户的 Anthropic、OpenAI、Google API 密钥可能外泄。本文从这起事件出发,把编码智能体的凭据失守路径拆成三条——指令文件劫持、运行时反馈注入、存储与供应链薄弱——每条都配真实事件与实验数据,再给出从短时效凭据到出口管控的四层防御工事,以及一份今天就能动手的工程清单。
智能体 精选 · 原创 · 11-1 阅读 103·访客 102