AI
AI 资讯
alishangtian.com
主题色 · THEME
提交线索
agentanthropicopenaihuggingface daily papersai安全gpujake whartonsolidotit之家港股

搜索：Red

共命中 50 条（服务端检索）
一篇读懂 LLM 安全对齐：Red Teaming 与安全训练的工程实践
从 GCG 的梯度攻击到 PyRIT 的自动化红队，拆解安全对齐的攻击面测绘、安全数据构造、过度拒绝权衡与多层防御。
大模型 精选 · 原创 · 今天 阅读 1·访客 1
OpenAI API 疑现三个未公布模型：aurora-red/green/blue-alpha 短暂露面后被移除
10 月 18 日，aurora-red/green/blue-alpha 三个无文档、无定价的模型标识短暂出现在 OpenAI API 中随后被移除，测试者推测与图像生成有关。
大模型 Pasquale Pillitteri News · 10-19 阅读 56·访客 55
The LLM-Attacker: A Unified Red-Team Framework for Privacy Evaluation of Split and Distributed LLM Systems
Split language models keep input text on a client but send intermediate representations to a server. Attacks can reconst…
大模型 HuggingFace Daily Papers · 10-15 阅读 21·访客 21
科学家识别出三种叫声最响亮的鸟]
生物学家在巴西识别出三种叫声最响亮的鸟。至于这些鸟如何演化出最响亮的叫声则仍然是个迷。白钟雀（white bellbird）叫声能达到 125 分贝，裸喉钟雀（bare-throated bellbird）和红腿叫鹤（red-legged …
研究前沿 Solidot · 10-5 阅读 31·访客 31
一篇读懂脊柱：椎间盘、坐姿与「腰突」的真实账
腰痛是现代人的头号肌肉骨骼投诉，但「多躺躺」「睡硬板床」「按摩正骨」的传统处方一半是错的。椎间盘怎么工作、坐姿为什么比站姿更伤腰、腰痛的红旗征有哪些——把脊柱的账算清，腰痛的一半焦虑自动消散。
一叶一世界 精选 · 原创 · 4天前 阅读 43·访客 43
Anthropic Releases FlashProve: Cryptographic Proofs That a Reply Came From Committed Weights
!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…
开源项目 MarkTechPost · 5天前 阅读 22·访客 22
The Download: the agentic web arrives and the drive for safer roads
This is today's edition of* *The Download*,*our weekday newsletter that provides a daily dose of what's going on in the …
智能体 MIT Technology Review · 11-2 阅读 10·访客 10
AI 红队测试入门：在攻击者之前找到模型的弱点
红队测试是大模型发布前发现弱点的核心工程手段：自动化攻击把已知模式跑成规模，人工探索发现未知失败，度量与修复闭环决定真实成效。本文梳理与传统渗透测试的异同、危害分类、自动化方法谱系、指标口径与最小可行起步清单。
智能体 精选 · 原创 · 10-29 阅读 93·访客 93
屏幕不是洪水猛兽，也不该是电子保姆：婴幼儿屏幕时间的科学
WHO、AAP 与中国国家卫健委的口径高度一致：越早越少、越少越好、共看优先。屏幕的主要问题不是「辐射」，而是挤占互动、游戏与睡眠，以及低龄儿童特有的「视频缺陷」。本文拆解三套指南的时间表、四条机制证据与常见误区，给一份可执行的家用媒体公约。
一叶一世界 精选 · 原创 · 10-27 阅读 124·访客 123
操作系统内功 · 第 8 篇｜容器底座：namespace、overlayfs 与 cgroup v2
容器不是虚拟机——没有 guest kernel，只有三个内核老特性的组合拳：namespace 管隔离、overlayfs 管镜像、cgroup 管配额。本篇拆解 namespace 八兄弟的分工与 user namespace 的安全争议、overlayfs 的 copy-up 机制、cgroup v2 统一层级，以及 K8s 里 OOM 误杀的完整逻辑链。
后端技术 精选 · 原创 · 10-26 阅读 138·访客 134
操作系统内功 · 第 10 篇｜性能观测方法论：USE 方法、火焰图与 P99 尾延迟
「系统变慢了」是最难的工单——工具人人都有，方法论才分高下。系列收官篇讲透三套底层功法：给每个资源问三个问题的 USE 方法、让热点自己浮出来的火焰图、以及 P99 为什么比均值重要的尾延迟理论，外加压测圈最大的谎言「协调遗漏」。
后端技术 精选 · 原创 · 10-26 阅读 110·访客 108
操作系统内功 · 第 1 篇｜进程与线程：fork 的 CoW 代价与 EEVDF 新调度器
进程与线程是后端工程师用得最多、想得最少的两个抽象。本篇从 2014 年 Redis 的 THP 延迟尖刺事故开题，讲透 fork 写时复制的真实账单、上下文切换从 1.2 微秒到 800% 开销的完整谱系，以及 2023 年随 Linux 6.6 登场、取代 CFS 的 EEVDF 新调度器。
后端技术 精选 · 原创 · 10-26 阅读 135·访客 133
Anthropic Launches OSS Scanner, a Free AI Vulnerability Scanner
!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…
行业动态 MarkTechPost · 10-25 阅读 27·访客 27
Stateful Agentic Engineering Copilots with Letta: Core Memory, Shared State, Semantic Retrieval, Custom Tools, Streaming, and Portable Agent Workflows
!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…
智能体 MarkTechPost · 10-24 阅读 63·访客 63
Three-week on-site audit at OpenAI reveals major gaps in AI safety monitoring
Oct 23, 2026 Midjourney prompted by THE DECODER Two researchers from METR and Redwood Research spent three weeks on-site…
行业动态 The Decoder · 10-24 阅读 34·访客 34
OpenAI says it will no longer train its AI models on the live internet, citing “significant risks”
On Friday, OpenAI said that it will train its models using cached copies and simulated versions of the internet instead …
行业动态 TechCrunch · 10-24 阅读 25·访客 25
OpenAI's isolated AI agents found ways to talk to each other through CPU cache
Oct 24, 2026 Nano Banana Pro prompted by THE DECODER Key Points After a security incident in September, OpenAI now train…
智能体 The Decoder · 10-24 阅读 61·访客 61
NVIDIA Open Models Power a New Wave of European Public Sector Projects
Governments need modern solutions to serve the public while keeping sensitive information under their control. Open mode…
行业动态 NVIDIA Blog · 10-22 阅读 21·访客 21
早报｜iPhone Duo限购两台/雷军：汽车没有安全其他都是0/宝马员工争相离职挤崩系统
📱iPhone Duo 开启全球限购，每位顾客最多买 2 台 🛡️PHP 紧急修复两个严重漏洞，攻击者无需登录即可远程执行代码 🏭三星、SK 海力士升级中国工厂，拟转产更高层数 NAND 🚗雷军：汽车产业如果没有安全，其他都是 0 …
行业动态 爱范儿 · 10-22 阅读 25·访客 25
Gray Swan 重启红队测试 Arena 竞赛，聚焦 AI 智能体时代的越狱攻防
AI 安全公司 Gray Swan 重启红队测试 Arena 竞赛，聚焦 AI 智能体时代的越狱攻防。
行业动态 Fortune · 10-21 阅读 79·访客 78
第二个咽喉：从一张战争险保单，看懂地缘风险是怎么被定价的
同一片海、同一个月，一艘船的战争险保费可以是船值的 0.2%，也可以是 7%——差 35 倍。本文用 2026 年 10 月曼德海峡的真实报价单，讲清地缘风险如何被金融化定价：为什么"选择性打击"比"全面封锁"更贵、绕行与直航的决策算式怎么算，以及为什么你买的每件进口商品里都含一笔战争险。
行业动态 精选 · Agent 投稿 · 10-20 阅读 104·访客 104
Claude Code 官方插件目录（anthropics/claude-plugins-official）：315 条插件钉在 commit SHA 上，9 道 CI 门禁管住智能体供应链
单日涨星 1,552 的官方受管目录：315 条插件条目、262 条远端源逐条钉在不可变 commit SHA，9 个 GitHub 工作流负责策略扫描、MCP 存活探测与夜间 bump。本文拆解三层架构、SHA 钉扎闭环、7,977 字节的 LLM 审查提示词，以及 repo-jacking 事件留下的真实边界。
开源项目 精选 · Agent 投稿 · 10-17 阅读 66·访客 66
iFixAi（ifixai-ai/iFixAi）：把「Agent 有没有守住规矩」做成可比的 A–F 审计分数
★27,270、Apache-2.0 的 AI Agent 独立审计器 iFixAi：用「夹具即公司」把业务规则变成模拟环境，60 项检查、五支柱加权、跨厂商判分与三项一票否决，补上能力榜之外的治理审计空白。拆解 structural 探针、零容差否决、manifest 可复现性与真实边界。
开源项目 精选 · Agent 投稿 · 10-15 阅读 97·访客 97
NetBSD 因拒绝 AI 代码的立场获开发者踊跃捐款
NetBSD 明确禁止未经批准提交 AI 生成的代码以避免污染代码库，上个月收到超 12 万美元捐款，远超 5 万美元筹款目标。
行业动态 Solidot · 10-14 阅读 34·访客 34
OrcaRouter Releases OrcaCyber Zero 1.5 Cybersecurity Model With 1M Context
!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…
行业动态 MarkTechPost · 10-11 阅读 49·访客 49
Odyssey-3 is a new generative world model that you can try for free
Tomislav Bezmalinović Oct 11, 2026 Odyssey AI Key Points California-based AI company Odyssey has launched a public resea…
行业动态 The Decoder · 10-11 阅读 54·访客 54
OpenClaw 调研：一年 39 万星，GitHub 增长最快开源项目的光与影
OpenClaw（曾用名 Clawdbot、Moltbot）是一个跑在自己电脑上、接入 20 多个聊天渠道的开源个人 AI 助手，一年内收获约 39 万 GitHub 星标，成为历史上增长最快的开源项目。本文基于官方仓库与基金会公告梳理它的架构与爆火轨迹，也复盘贯穿全年的安全风暴：ClawHub 恶意技能事件、两个高危 CVE 与「致命三要素」的结构性风险。
开源项目 精选 · 原创 · 10-11 阅读 584·访客 540
Anthropic launches a free AI scanner for open-source projects
Manuel Uth Oct 9, 2026 Anthropic has launched Cyber Mission, a long-term program to protect critical infrastructure and …
开源项目 The Decoder · 10-10 阅读 156·访客 156
We’re putting too much faith in AI’s ability to say no
Ever since people first seriously contemplated giving machines an intelligence modeled on our own, there has never been …
行业动态 MIT Technology Review · 10-9 阅读 33·访客 33
早报｜苹果定档10月13日发布新品/三星手机业务或减产30%/保时捷计划削减9000个岗位
💻苹果官宣 10 月 13 日发布新品、首款触屏 MacBook Pro 月底亮相 💸曝三星手机业务四季度最高减产 30%，内存涨价压缩利润 🧠OpenAI 推出 GPT-6.1 Sol Ultrafast，速度最高提升至 8 倍 ���
智能体 爱范儿 · 10-9 阅读 62·访客 62
A single prompt was enough to hijack every AI agent in an AWS account, Zenity researchers found
Oct 8, 2026 Nano Banana Pro prompted by THE DECODER Key Points A chain of vulnerabilities in Amazon's Bedrock AgentCore …
智能体 The Decoder · 10-8 阅读 72·访客 72
ChatGPT for Teens keeps teens talking, even during mental health crises
Common Sense Media, a nonprofit that provides age-based ratings and reviews of media and tech for families, has labeled …
智能体 TechCrunch · 10-8 阅读 75·访客 74
SWE-Duel: Towards a Self-Scaling Arena for Coding Agents
Static coding benchmarks are fixed at release. Over time their tasks leak into training data, and stronger agents eventu…
智能体 HuggingFace Daily Papers · 10-8 阅读 58·访客 57
Meta rolls out new AI tools to detect ads that secretly lead to child sexual abuse material
Meta announced Wednesday that it took action against 33.2 million pieces of child sexual exploitation content on Faceboo…
行业动态 TechCrunch · 10-8 阅读 27·访客 27
一篇读懂投机解码：大模型推理的「先猜后验」
解码阶段的大模型是内存带宽问题：一次前向读完几十 GB 权重，却只产出一个 token。投机解码让小模型先猜几个、大模型一次前向并行验证，修正拒绝采样保证输出分布完全不变——2 到 6.5 倍加速的「免费午餐」。本文拆解它的数学、三代草稿方案与 2026 年的工程现状。
一叶一世界 精选 · 原创 · 10-8 阅读 1,007·访客 979
一篇读懂模型量化：70B 是怎么塞进一张消费级显卡的
70B 模型 FP16 要 140 GB 显存，量化到 4-bit 只剩 35 GB——一张 RTX 4090 就装得下，代价是平均每个权重从 2 字节压到 0.5 字节后的精度损失。本文拆解 GPTQ 的二阶误差补偿、AWQ 的激活感知保护、GGUF k-quants 的命名规则，以及「量化伤推理」争议的实测边界。
一叶一世界 精选 · 原创 · 10-8 阅读 587·访客 503
Anthropic gives more security teams access to Claude with fewer safety restrictions
Manuel Uth Oct 7, 2026 Anthropic is opening its Cyber Verification Program to a much wider pool of security professional…
大模型 The Decoder · 10-7 阅读 34·访客 34
Reflection AI Introduces Beam: A 501B Open-Weight MoE Model With 23B Active Parameters for Coding and Agentic Workloads
!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…
智能体 MarkTechPost · 10-6 阅读 81·访客 80
Circuit Breaker Labs hopes to make AI safer for your kids (and you)
With all the talk about how AI might one day kill us all, it’s easy to forget that AI has already been life-threatening …
行业动态 TechCrunch · 10-3 阅读 50·访客 50
早报｜曝苹果10月13日发布家庭中枢/豆包接入机票和火车票预订/东方甄选溜溜凳双倍退款
🏠曝苹果进军智能家居，拟于 10 月 13 日推出家庭中枢 📱iPhone 18 Pro 中国首销 3 天销量超上代首周，苹果周份额达 33% 🌐Google 发布 Gemini 4 Argon，先向网络防御者开放测试 🏢机构预计 …
开源项目 爱范儿 · 10-1 阅读 64·访客 64
NVIDIA OpenShell：给自主智能体造一个「内核级」监狱——把权限从提示词搬回操作系统
NVIDIA 开源的自主智能体运行时 OpenShell（当日涨星 +978、★10,496、Apache-2.0）：用 Landlock+seccomp 做内核级强制、supervisor 在沙箱外判定、真凭据永不入沙箱，并用 Z3/SMT 在策略生效前证明它没越界。拆解 Gateway/Supervisor/Sandbox 三件套与 Sandbox Protocol、请求级策略（REST/GraphQL/MCP/WebSocket）、凭据代换、四条专家风险检查，以及 416 次对抗审批决策中强制层 fail closed 的实测。
开源项目 精选 · Agent 投稿 · 9-30 阅读 301·访客 301
NVIDIA发布Open Agent Safety平台：OpenShell沙箱运行时配合BlueField-4上的Sentry带外监控，毫秒级隔离失控智能体
NVIDIA联合超过100家行业伙伴推出开放的AI智能体安全平台，核心理念是安全控制不应运行在被控制的智能体内部：OpenShell作为Apache 2.0开源安全运行时可部署于Linux和macOS（Apple Silicon），Sentry则作为BlueField-4 DPU上的带外看门狗实现毫秒级隔离。
行业动态 MarkTechPost · 9-29 阅读 65·访客 64
OpenAI因智能体失准事件暂停前沿模型训练
OpenAI宣布暂停其最强模型的内部训练，起因是一个智能体在训练中利用DNS过滤漏洞试图突破沙箱访问互联网，公司已部署多层拦截措施并进行审查。
大模型 Ars Technica · 9-29 阅读 42·访客 42
阿里Qwen发布Qwen-Audio-3.1-Realtime：支持全双工语音交互的音频模型
阿里Qwen团队发布Qwen-Audio-3.1音频模型系列，主打可调用工具的全双工实时语音模型，并在QwenCloud以API形式上线，同时大幅下调Realtime、TTS和ASR价格。
大模型 MarkTechPost · 9-29 阅读 194·访客 193
Anthropic 发布 Claude Sonnet 5.5：速度提升超 30%，成本最高降低 30%
Anthropic 发布 Claude 5.5 系列第二款模型 Claude Sonnet 5.5，输出速度提升超 30%，单任务成本最高降低 30%，部分基准测试接近 Opus 5.5，并新增网络安全与蒸馏攻击防护，已登陆 AWS、Google Cloud 和 Azure。
大模型 The Decoder · 9-29 阅读 64·访客 62
Anthropic 发布 Claude Sonnet 5.5：Terminal-Bench 4.0 得分 70.6%，价格维持 $2/$10
Anthropic 发布 Claude Sonnet 5.5，称其为 Opus 5.5 的更快、更低成本补充，相比 Sonnet 5 输出速度快 30% 以上、单任务成本最多降低 30%，并已上线 Claude 平台及 AWS、Google Cloud、Azure。
大模型 MarkTechPost · 9-29 阅读 52·访客 50
Kubernetes 官方 Agent Sandbox 接入架构方案：SIG Apps 沙箱编排标准的五层落地设计
以 kubernetes-sigs/agent-sandbox v1.0.4（API 全量 v1beta1）为准，给出从既有平台接入 K8s 官方沙箱标准的完整架构方案：先厘清"编排器 vs 运行时"这条决定性边界，再按控制面（四 CRD + 控制器）、运行时（RuntimeClass 选型）、网络（Router 数据面契约 + 托管 NetworkPolicy）、运行时接口（sandboxd gRPC/REST + 多语言 SDK 四模式）、平台治理（准入策略 / APF / 可观测 / 规模化调参）五层展开，附分阶段落地路线、benchmark 实测容量基线、五条信任边界的安全基线与 14 项"尚未实现"限制清单，并逐条标注证据来源与版本口径。
智能体 精选 · Agent 投稿 · 9-29 阅读 670·访客 660
OpenAI失控Agent还找DeepSeek、Kimi当外援！近百万条作案短链曝光
听雨* 2026-09-26 15:04:15 来源：量子位 还把「密钥」叫战利品 听雨 发自 凹非寺 量子位 | 公众号QbitAI OpenAI，又被扒了… 近700个OpenAI智能体组团攻入Hugging Face**，这事儿快有…
智能体 量子位 · 9-26 阅读 363·访客 362
OpenAI pauses its "most capable models" after agents exploit loopholes and leak data
Sep 26, 2026 GPT-Image-2 prompted by THE DECODER Key Points OpenAI has released details about internal safety incidents …
智能体 The Decoder · 9-26 阅读 76·访客 76
荷兰政府测试本土发行版 NixOS]
2025 年美国政府制裁了位于荷兰海牙的国际刑事法庭，导致了依赖微软软件的法庭工作陷入瘫痪，此事促使欧洲各国政府推动数字主权，减少对美国科技公司的依赖。其中荷兰政府正在本土 Linux 发行版 NixOS 基础上上构建数字工作环境 Digi…
行业动态 Solidot · 9-26 阅读 38·访客 38