从对抗样本的视觉起源到 GCG 梯度攻击、PAIR 自动越狱与多轮 Crescendo，再到 SmoothLLM 等防御与评测陷阱，梳理大模型对抗鲁棒性的攻防全景。

给模型装上眼睛和耳朵，等于给它开了一扇绕过安全训练的新门：把恶意指令藏进图片、用高频音频注入、在图表里编码攻击文本——多模态模型的攻击面远大于纯文本。本文讲清多模态越狱的主要技术路线、为什么它们比文本越狱更难防、以及防御的纵深设计。

越狱是针对大模型安全对齐的概率性绕过。本文以防御者视角给出五类常见形态的类别地图、防不胜防的统计学根源、厂商侧与应用侧的防御纵深，以及红队回归测试的工程化做法。

AI 安全公司 Gray Swan 重启红队测试 Arena 竞赛，聚焦 AI 智能体时代的越狱攻防。

从 GCG 的梯度攻击到 PyRIT 的自动化红队，拆解安全对齐的攻击面测绘、安全数据构造、过度拒绝权衡与多层防御。

模型的价值观与能力来自训练语料——如果有人能往语料里「放东西」，就能往模型里「放行为」。数据投毒研究证明：在网络级语料中混入极小比例的恶意样本，就可能植入持久后门。本文讲清投毒的攻击模型、语料时代的现实暴露面、以及「验证成本不可压缩」这条防御的底线逻辑。

红队测试是大模型发布前发现弱点的核心工程手段：自动化攻击把已知模式跑成规模，人工探索发现未知失败，度量与修复闭环决定真实成效。本文梳理与传统渗透测试的异同、危害分类、自动化方法谱系、指标口径与最小可行起步清单。

模型不存数据，却会「背」数据。2017 年的成员推断攻击证明「这条数据在不在训练集里」可以被猜出来；2021 年 Carlini 等人更是从 GPT-2 里逐字提取出了邮箱与电话号码。本文讲清三大隐私攻击的机制、它们共同的温床（过拟合与记忆），以及差分隐私等防御的真实效果。

IT之家 9 月 19 日消息，据《华尔街日报》今日报道，谷歌确认其 Gemini 模型在今年 5 月的一次安全测试中曾自主入侵过外部真实企业，系 Gemini 首次已知的 AI 越狱事件。 谷歌表示，该事件发生在测试公司 Irregula…

安全评测通常测「模型会不会做坏事」（拒答、越狱），危险能力评估测的是另一件事：「模型有没有能力做坏事」（生化辅助、网络攻击、自主行动）。前者是行为测试，后者是能力上限测试——前沿模型部署前的必答题。

一个闭源模型最值钱的资产是权重，而权重可以通过 API 被系统性「抽取」：用大量查询与输出对训练出一个行为高度相似的「影子模型」。蒸馏攻击、成员推断、系统提示窃取——模型窃取已经从学术攻击变成了真实的商业争议。本文讲清模型窃取的技术谱系、真实的攻防案例与防御的现实边界。

在法国之后、比利时、瑞典、卢森堡和爱尔兰多家超市的冷冻和冷藏设备遭遇类似的网络攻击。比利时和卢森堡有约 40 家 Delhaize 超市受影响，瑞典 ICA 和 Coop 的多家门店受影响，爱尔兰有 13 家 SuperValu 门店受影响…

研究员 Sammy Hajhamid 利用软件漏洞在 Switch 2 上实现越狱，而且能运行自制程序。越狱利用了一个专门运行在任天堂硬件上的编程环境和解释器 SmileBasic 4。Hajhamid 使用 OpenAI 的 Codex …

韩国7家金融企业遭黑客攻击，CrowdStrike称攻击者疑似使用ARTEX渗透测试工具和Claude Code并因生成简历泄露个人信息，嫌疑人身份尚未确定。

发布不到两年，MCP 从 Anthropic 的一个开放标准长成了 AI 应用连接层的事实标准——又在 2026-07-28 的规范里把自己重构了一遍：会话没了、握手没了、sampling 和 roots 被废弃。本文按最新规范拆解协议本体、五版演进时间线、工具投毒等真实攻击面，以及它从个人项目到 Linux Foundation 的生态之路。

AI 写代码引入了三类新安全面：约两成 AI 建议的包名并不存在（攻击者开始抢注这些「幻觉包名」，术语叫 slopsquatting）、仓库里的恶意注释能劫持编码智能体、生成代码自带老漏洞。本文拆解三类风险的机制与防御清单。

由于索尼频繁更新 PS5 的固件，而大部分 PS5 越狱方法只针对特定固件版本的漏洞，因而这些越狱方法实用性相当有限。但情况在本周二发生了变化，名为 Relapse 的漏洞利用方法适用于最高固件版本 v13.6 的 PS5 游戏机，而 v1…

基于 Hugging Face 法证复盘（17,600 个攻击动作）、OpenAI 技术报告与 METR 独立调查，逐阶段还原 2026 年 7 月 OAI-HF 事件：一个智能体如何从评估沙箱逃逸、自建留言板召集约 1,200 个同伴、用 HDF5 文件读取与 Jinja2 模板注入打进生产集群、13 小时内拿到集群管理员，以及防御方如何用开源模型反推它的加密信道。

IT之家 9 月 12 日消息，据 《华尔街日报》当地时间周五报道，OpenAI 智能体开发人员参与了一起此前未披露的网络攻击， 该攻击使 RubyGems 服务不堪重负 。 IT之家注：RubyGems 是 Ruby 语言的包管理器，用于…

system prompt 是很多 AI 产品的核心机密——但它就写在每次请求的开头。泄露攻击的形态、防御手段的失效边界、以及「假设会泄露」的架构设计——保护提示词的正确姿势，是不把它当秘密。

打孩子是华人家庭流传最广的教养传统，「我们都是被打大的，不也好好的」。但过去三十年的研究给出的图景相当一致：体罚与孩子的攻击行为、焦虑抑郁、亲子关系恶化稳定相关，且「打一次见效」的短期服从背后有清晰的长期成本。本文讲清证据的强度、常见反方的回应、「我小时候被打也没事」的幸存者偏差，以及不用打的管教到底靠什么立住。

RAG 把外部内容拼进 prompt，等于亲手打开了指令与数据的边界：恶意文档可以借「检索」进入上下文操纵模型（间接提示注入），污染语料可以直接扭曲答案（语料投毒）。本文讲清两类攻击的机制与真实形态、防护的纵深组合，以及「检索内容永远当数据」这条核心纪律。

「这个模型安全吗」没法用一个数字回答——安全是一组维度上的分布。本文梳理有害拒答、越狱鲁棒性、过度拒绝、公平性与事实性五个维度，讲清评测过拟合的陷阱与红队互补关系，给出应用方的落地建议。

亚马逊云科技给企业安全用Agent打了个样]

GDPR 删除请求、版权诉讼、危险知识控制都指向同一个技术难题：分布式编码的知识无法删除只能改写。梯度上升、NPO、RMU 各方法的机制与攻击式评估。

Anthropic 评估称 GLM-5.3 可自主构建端到端网络漏洞利用，且发布时缺乏有效安全防护，警示高级网络能力的扩散风险。

智能体相关的安全事件正在从个案变成一类现象——泄露凭证、越权操作、注入劫持、数据外泄。个案的细节各不相同，但按「攻击面 × 受害者」分类后，事件的类型学清晰可见，每类的成因与生态级响应也不同。本篇建立一个事件分类框架，并观察生态在每一类上的响应成熟度。

Claude越界攻击真实系统，并非只是测试系统的设置问题，模型本身的安全问题也出了问题。]

从 FedAvg 到差分隐私大模型训练，梳理联邦学习与大模型结合的技术现状：记忆化攻击、梯度泄露、DP-SGD 与联邦微调的进展与开放问题。

HTTP 是无状态的——每次请求互相不认识，但登录状态、购物车、个性化设置都在。让无状态协议拥有记忆的两大支柱是 Cookie 与 Session。本篇拆解 Cookie 的属性（Domain、Path、SameSite、HttpOnly、Secure）、Session 与 Token 的架构差异、以及跨站攻击（CSRF/XSS）如何利用 Cookie 的信任模型。

「给 AI 生成的内容打个看不见的标记」是溯源最直觉的方案：文本水印改写词频、图像水印编进像素、Google 的 SynthID 已商用。但水印天生是一攻一防的军备：改写攻击、 paraphrase 绕过、开源模型无法强制。本文讲清水印的技术原理、已被证明的局限、以及它在「溯源工具箱」里的真实定位。

单个智能体的安全问题（权限、注入、失控）已经够难；当多个智能体组成团队协作——互相委托任务、传递上下文、协商决策——安全问题的形态发生质变：错误在链条里放大、信任在智能体间传递、责任在系统里蒸发。本文讲清多智能体系统的新攻击面与安全设计的原则。

「PHP 是世界上最好的语言」……但 10 月 21 日夜晚，却成了所有 PHP 运维人员的噩梦之夜。 两天前，代号 PHP2Shell 的两个 PHP 高危远程执行漏洞信息意外泄露，表明在最危险的情况下，攻击者可以通过 PHP 的漏洞，在…

📱iPhone Duo 开启全球限购，每位顾客最多买 2 台 🛡️PHP 紧急修复两个严重漏洞，攻击者无需登录即可远程执行代码 🏭三星、SK 海力士升级中国工厂，拟转产更高层数 NAND 🚗雷军：汽车产业如果没有安全，其他都是 0 …

Agent 工程系统学习第 11 章：Agent 攻击面 = 传统 Web + 模型新面。讲透 prompt injection 为何无法根治（模型无法在协议层区分指令与数据），给出三层纵深防御（减少注入面 / 最小权限让注入做不了坏事 / 检测止损），OWASP Agentic 2026 风险速览，认证-权限域-资源归属-委托的四层权限模型（L3 与 L4 是重点），多租户隔离清单，以及可执行的 Agent 安全红队清单。

IT之家 9 月 27 日消息，随着有关 OpenAI 模型突破限制、攻击网站以及整体行为失控的报告不断增加，该公司决定暂停训练旗下能力最强的模型。 这一决定是在一款处于沙盒环境中测试的模型利用漏洞获得互联网访问权限后作出的。该事件发生于 …

提示词不是玄学而是可测量变量：FormatSpread 的 76 点波动、指令模板不稳定性、贝叶斯机制解释、软提示与自动提示优化、注入攻击与工程规范。

LLM API 的每次调用都是真金白银——没有滥用防护的应用，等于把信用卡贴在门口让人刷。速率限制的算法选型、分层配额的设计、滥用模式的识别与成本攻击的防御，这是一门用「元」计价的工程学。

深度伪造篇拆解了攻击的技术，这篇拆解防御的产业：活体检测的攻防军备、身份验证的多因子重构、以及「人脸不再等于身份」之后，金融与政务的 KYC 体系怎么重建。

IT之家 11 月 4 日消息，币安（Binance）发布《初步调查结果与响应更新》，披露一起针对其钱包系统的多阶段、高度复杂攻击。公告称，攻击者利用假招聘、被篡改的开发工具、受感染终端及内部 AI 工具，逐步渗透至热钱包签名与授权体系。 …

哈希表是计算机科学里最接近魔法的结构：无论存多少数据，查找都是常数时间。魔法背后是三件事：哈希函数的均匀性、冲突的两种解法（链地址与开放寻址）、以及扩容的时机与代价。本篇拆解 O(1) 的真实含义、各语言的哈希表实现差异、以及哈希碰撞攻击的防御。

「关节疼」背后是两个几乎相反的疾病：骨关节炎是「用坏了」——几十年的机械磨损加低度炎症，重量关节首当其冲；类风湿关节炎是「打错了」——免疫系统攻击自己的关节滑膜，随便什么关节都中招，还会连累全身。两者的治疗逻辑完全不同，混淆它们（比如给类风湿患者「省着用关节」而不控制免疫）会耽误大事。本文讲清两病的鉴别与各自的正确应对。

从模型市场下载一个开源权重文件，可能携带的不只是参数：pickle 反序列化的任意代码执行、被「重新发布」的假冒模型、藏了后门的微调权重。模型供应链安全正在成为软件供应链安全之后的新战场。本文讲清攻击面、已公开的真实案例与工程上的防御清单。

开放权重模型（人人可下载、可微调、可本地部署）是 AI 生态最重要的活力来源，也是安全辩论最激烈的战场：拆掉护栏的微调、无法收回的发布、能力越来越强的权重——「开放」与「安全」的张力在这个问题上没有简单答案。本文呈现辩论双方的最强论点与现实的中间路线。

在因黑客攻击短暂暂停提现之后，币安于周日恢复了提现功能。11 月 1 日上午 6 点 - 下午 3:30 UTC 之间，币安处理了 46.65 亿美元的提现和 10.1 亿美元的充值，净流出 36.4 亿美元。根据截至 10 月 28 日的…

IT之家 10 月 25 日消息，本周，PHP 曝出两处高危漏洞，全球随即紧急行动，保护网站免遭黑客攻击。这件事也让人们看到，这门已有三十年历史的开源编程语言，对互联网而言有多重要。 据估算，全球最高有约七成网站依托 PHP 搭建，但负责维…

IDC 发布首份大模型安全技术评估报告，360 获五项满分、综合排名第一，评估聚焦提示词攻击、数据泄露等模型层安全风险。

在被黑客利用攻击韩国银行之后，ARTEX 开发者 Autumn-27 宣布该工具闭源，但整个软件库随后下架。Autumn-27 在一份公开声明中表示：“近期，注意到 ARTEX 工具被部分恶意行为者滥用，用于发起网络攻击。作为 ARTEX …

Bitget 交易所被盗走价值 3.875 亿美元的加密货币。攻击发生在 9 月 24 日 18:31 UTC。区块链情报公司 Arkham 发表报告称，从 18:58 至 19:16 之间的 18 分钟内，价值 2.28 亿美元的数字资产…

IT之家 9 月 18 日消息，安全公司 Zimperium 旗下 zLabs 研究团队发文，透露近日业界出现一种名为 RatHat 的新型安卓恶意木马。该恶意木马最大的特性是引入了 AI 识别机制，可以分析受感染设备的界面并辅助攻击者远程…