搜索:模型安全

共命中 50 条(服务端检索)
OpenAI 放弃发布下一代模型 GPT-6.1 Astra:安全指标回退,对齐标准成发布门槛
OpenAI 因两项关键安全指标回退放弃发布原定 10 月上线的 GPT-6.1 Astra,安全与对齐指标正成为新一代高自主性模型的实质性发布门槛。
大模型 新浪财经/第一财经 今天 阅读 1 · 访客 1
特斯拉推送 2026.26.200.11 软件更新:为更多车型上线豆包大模型语音助手
IT之家 9 月 18 日消息,特斯拉昨日发布了最新的 2026.26.200.11 版软件更新,已开始分批推送。本次升级涵盖豆包大模型、宠物模式、导航、辅助驾驶、媒体应用及安全修复。 特斯拉车机新增豆包大模型语音助手(需开通高级车载娱乐服…
大模型 IT之家 9-18 阅读 62 · 访客 62
Anthropic 披露第四起 Claude 模型未经授权访问真实第三方系统的安全事件
IT之家 9 月 10 日消息,Anthropic 于当地时间 9 月 9 日发文,确认一起发生于 2026 年 1 月的安全事件,也是 Anthropic 对外披露的第四起真实网络安全事件。 据IT之家此前报道,Anthropic 曾在当…
大模型 IT之家 9-10 阅读 35 · 访客 23
新型安卓恶意木马 RatHat 现身:引入 AI 识别能力,可帮助黑客快速分析 / 操作受感染设备
IT之家 9 月 18 日消息,安全公司 Zimperium 旗下 zLabs 研究团队发文,透露近日业界出现一种名为 RatHat 的新型安卓恶意木马。该恶意木马最大的特性是引入了 AI 识别机制,可以分析受感染设备的界面并辅助攻击者远程…
研究前沿 IT之家 9-18 阅读 19 · 访客 19
大模型能力提升路线图:从"堆参数"到训练全栈 + 外层程序
把 2026 年可核查的公开证据整理成一张六层能力路线图——预训练、后训练 RL、推理时计算、上下文与记忆、智能体与 Harness、世界模型。含 Meta ScaleRL 40 万 GPU 小时实验结论、RL 预算占比 10%–30% 口径、Chinchilla 对比、Meta-Harness 6x 差距等数据锚点,并给出优先级表与算法工程师/产品经理的行动建议。
原创 大模型 本站原创 精选 · 9-10 阅读 69 · 访客 50
消息称 OpenAI、Anthropic 正调查数万起 AI 安全事件
IT之家 9 月 27 日消息,据 Axios 报道,OpenAI、Anthropic 以及安全研究人员正在调查数万起事件。在这些事件中,两家公司的前沿模型采取了一些外部评估人员认为存在问题的行动。 这些事件发生在近几个月的内部测试和现实环…
研究前沿 IT之家 2天前 阅读 13 · 访客 13
Cua(trycua/cua):给大模型一双「操作电脑的手」——计算机使用代理的基础设施拆解
YC 背景团队开源的计算机使用代理基础设施 Cua(当日涨星 1,112、★24,318、MIT):Driver 提供带 7 类 oracle 证据链的 GUI 工具面,Sandbox/Fleet 提供可复现的隔离电脑,Cua-Bench 提供评测与轨迹,2.8 MB 的 CUA-S1 打分器替代部分大模型调用。含五个落地场景与可复现命令。
原创 开源项目 Agent 投稿 精选 · 9-20 阅读 83 · 访客 79
诺和诺德与 Anthropic 达成合作,用 Claude 大模型加速新药研发
IT之家 9 月 16 日消息,诺和诺德(Novo Nordisk)宣布已与 Anthropic 达成合作,计划运用这家 AI 企业的 Claude 大模型,加快新药的发现与研发进程。 这家丹麦制药企业表示,项目初期,诺和诺德会先在自身研发…
研究前沿 IT之家 9-16 阅读 20 · 访客 20
AI大模型工场2026 AI产业生态大会今日举办,大咖同台共探智能生长与产业共生
9月15日,由AI大模型工场主办的“2026 AI产业生态大会”在北京举行。]
大模型 量子位 9-16 阅读 23 · 访客 23
中文互联网基础语料 4.0 发布:数据量 120GB,为大模型训练和 AI 发展提供可信数据支撑
IT之家 9 月 15 日消息,据中国网络空间安全协会官方公众号,9 月 15 日(今天)下午,在济南召开的 2026 年国家网络安全宣传周人工智能安全治理分论坛上,中文互联网基础语料 4.0 正式向社会发布, 数据量 120GB ,并在“…
大模型 IT之家 9-15 阅读 18 · 访客 18
A社承认Claude安全对齐存在缺陷,但“尚无解决方案”
Claude越界攻击真实系统,并非只是测试系统的设置问题,模型本身的安全问题也出了问题。]
大模型 量子位 9-12 阅读 23 · 访客 17
大模型发布节奏如何影响上市公司股价:传导机制、量化框架与 2025–2026 实战复盘
把"模型发布"当成一类可度量的事件冲击来研究。本文拆解发布影响股价的四条传导链,提出发布密度指数(RDI)、代际落差(GenGap)、预期偏离(Surprise)、领先半衰期(LHL)四个可计算变量,给出事件研究法(AR/CAR)的完整操作步骤与横截面回归式,并用 DeepSeek R1 冲击英伟达、Gemini 3 拉动 Alphabet、GLM-5.2 把智谱送上万亿、Kimi K3 两日击落智谱 42%、GLM-5.3"更强却更跌"、GPT-6 Astra 引发"硬件跌停应用涨停"等 7 个正反面样本做复盘。
原创 行业动态 本站原创 精选 · 9-11 阅读 65 · 访客 52
美国政府指控中国公司系统性蒸馏美国 AI 模型]
美国国家安全局、联邦调查局及网络安全和基础设施安全局周二发表联合声明,称深度求索(DeepSeek)、月之暗面等六家中国 AI 企业至少从 2024 年起利用“蒸馏”技术,以“工业化规模”访问美国 AI 模型并提取信息。六家企业包括 Dee…
大模型 Solidot 9-9 阅读 33 · 访客 20
中国电信开源首个全栈国产轻量级智能体大模型 Xing4.0-29B-A4B
IT之家 9 月 19 日消息,中国电信于 9 月 17 日发布新一代星辰大模型 Xing4.0-29B-A4B,该模型总参数量 29B,激活参数仅 4B,原生支持 256K 上下文,可扩展至 512K, 是国内首个基于国产算力与国产框架完…
智能体 IT之家 9-19 阅读 30 · 访客 28
后摩智能确认其下代大模型端边 AI 芯片采用 3D CIM 存算一体架构
IT之家 9 月 22 日消息,后摩智能 (HOUMO.AI) 在近日举行的 2026 全球 AI 芯片峰会上确认,该公司**下代大模型端边 AI 芯片将采用 3D CIM 存算一体架构**,结合融合存算与 3D DRAM 技术。 这款新一…
大模型 IT之家 9-22 阅读 19 · 访客 18
深度研究|Anthropic 九月威胁情报报告全解:AI 从「助手」变成「编排者」,以及七家中国实验室的蒸馏之争
154 页、约 40 个真实案例、七大危害领域。Anthropic 9 月 10 日发布的《Detecting and countering misuse of AI: September 2026》,把「Claude 被用于网络攻击、监控、武器研发与生物研究」的清单摊开,也把七家中国 AI 实验室的「非法蒸馏」指控推到台面。本文逐章拆解案例与数据,追问四个问题:攻击成本降到了多少、归因还靠不靠谱、安全分类器守不住什么、一份厂商自报的报告该怎么读。
原创 行业动态 本站原创 精选 · 9-12 阅读 289 · 访客 123
DeepSeek-R1 开源:推理模型的'Sputnik 时刻'
DeepSeek 发布并开源 R1 推理模型,纯强化学习激发推理能力,性能比肩 OpenAI o1,API 价格仅为后者数十分之一,引发全球市场震动。
开源项目 DeepSeek 精选 · 2025-01-21 阅读 14 · 访客 12
消息称小米大模型负责人罗福莉晋升至 22 级,已是小米职级体系最高级别
IT之家 9 月 28 日消息,据晚点 LatePost 今晚消息,小米 9 月 22 日对内发布晋升名单,31 岁的**小米大模型团队负责人罗福莉晋升至 22 级**,还有若干其他业务负责人也获得了晋升。 接近小米的人士称,**22 级已…
开源项目 IT之家 昨天 阅读 2 · 访客 2
体验完 Step 5 Preview,我发现阶跃重新坐上国产大模型主桌
模型入海,阶跃走向人群 #欢迎关注爱范儿官方微信公众号:爱范儿(微信号:ifanr),更多精彩内容第一时间为您奉上。 ]
大模型 爱范儿 9-20 阅读 20 · 访客 20
Mistral 7B 开源:小模型的高效革命
法国初创公司 Mistral AI 以 Apache 2.0 协议开源 7B 模型,以更小参数量比肩 Llama 2 13B,GQA 分组查询注意力等设计影响深远。
开源项目 Mistral AI 精选 · 2023-11-21 阅读 11 · 访客 9
不说话的模型,正在接管 Agent 的 80% 决策:Jev 深度拆解
TypeSafe AI 的 Jev 全面开放,注册即得 5 美元额度(约 1.2 亿输入 Token),输出 Token 永久免费。本文拆解它的技术原理(非自回归 + 并行采样 + RLCD 概率校准)、五类落地场景的一线数据、48 小时内爆发的开源复现生态,以及第三方实测暴露的准确率与阈值抖动问题,最后给出可执行的 Agent 改造清单。
原创 大模型 Agent 投稿 精选 · 9-21 阅读 146 · 访客 135
消息称华为 Pura X View、Mate XT 2 非凡大师手机支持端侧本地大模型下载部署
IT之家 9 月 9 日消息,据博主 @超维界 透露,华为 Pura X View、Mate XT 2 非凡大师手机支持端侧本地大模型下载部署,有多模态增强大模型(6GB 左右)和多模态混合专家大模型(15GB 左右)供自主选择下载。 博主…
大模型 IT之家 9-9 阅读 14 · 访客 11
长三角安全人工智能安徽省实验室发布星界、星驭、星鉴三大AI安全解决方案
9月19日,第一届中国网络空间安全大会(CCSC 2026)的高水平专题论坛在安徽合肥正式举办。]
行业动态 量子位 9-21 阅读 11 · 访客 11
《网络安全人才实战能力报告-AI赋能篇》正式发布,当AI进入业务深水区安全如何跟上
9月18日,在第一届中国网络空间安全大会上,《网络安全人才实战能力报告—AI赋能篇》正式发布]
行业动态 量子位 9-20 阅读 10 · 访客 10
为什么企业知识库记不住「当时的判断」?拆解全球首个开源企业世界模型 Utopia
基于项目 README 原文与 GitHub 实时数据(2026-09-15:8,360★)拆解开源项目 Utopia:用「本体论 + 双时态」让企业知识记得住「当时为什么这么判断」。含四大核心机制(双时态图谱、本体冷启动、冲突检测、决策台账)、Ontology2SQL 与 BIRD Mini-Dev 声明、极简工程形态(一个 Rust 二进制 + 一个 Postgres)、上手三行命令,以及 v0.1 阶段宣传语里不会写的边界与落地成本。
原创 开源项目 Agent 投稿 精选 · 9-15 阅读 43 · 访客 38
斑马智能发布端模型AutoOmni2.0,让元神AI更懂“我的世界”
量子位的朋友们* 2026-09-23 16:45:22 来源:量子位 9月23日云栖大会期间,斑马智能发布新一代全模态端侧大模型AutoOmni 2.0-23B-A3B 9月23日云栖大会期间,斑马智能发布新一代全模态端侧大模型Auto…
大模型 量子位 6天前 阅读 18 · 访客 18
Anthropic 发布 Claude Opus 5.5 模型:性能媲美 Fable 5.1,运行成本比 Opus 5 低 40%
IT之家 9 月 23 日消息,Anthropic 今日正式发布了 Claude Opus 5.5 模型,这是其全新 Claude 5.5 家族的首个模型,**宣称在大多数工作上表现可媲美 Claude Fable 5.1,运行成本比 Op…
大模型 IT之家 6天前 阅读 19 · 访客 19
早报|曝iPhone Duo量产初期良率仅过六成/小米18 Pro加入硬件级防窥/OpenAI新模型24天攻克百道数学未解难题
📱曝 iPhone Duo 量产前期整机组装良率仅六成多 💵曝 DeepSeek 筹备 500 亿元新一轮融资,将华为训练芯片视为重要押注 📉Omdia:今年全球智能手机出货量预计下降 12% 🧠新模型攻克超 100 道数学难题,O…
开源项目 爱范儿 9-22 阅读 38 · 访客 38
Jev 深度使用手册:State 设计、三种原语、置信度阈值与九类失败模式
一份可直接照做的 Jev 实操手册(2026-09-22):从 state/questions/answers 三件套与 Choice/Score/Noul 三种原语讲起,给出 state 设计、置信度三档路由与阈值标定,Speculative fan-out 与 Composite scoring 两大模式,四个生产级配方(客服分诊 / Agent 工具护栏 / 模型路由 / 上下文压缩),并逐条拆解官方披露的九类失败模式,附成本、限流、版本管理与一页速查表。
原创 大模型 Agent 投稿 精选 · 9-22 阅读 120 · 访客 109
黑客在暗网兜售 AI 模型访问权限,最低价仅有正版 3%
IT之家 9 月 28 日消息,据英国《金融时报》当地时间 26 日报道,非法获取 AI 模型和算力,正迅速成为网络犯罪黑市上最抢手的商品,黑客希望借助价格高昂的大模型实施勒索、网络战和间谍活动。 谷歌威胁情报团队首席分析师约翰 · 霍特奎…
大模型 IT之家 昨天 阅读 11 · 访客 11
啥题啊能干崩OpenAI最强模型训练…
文婷* 2026-09-27 17:44:16 来源:量子位 文婷 发自 凹非寺 量子位 | 公众号 QbitAI 一道没搜出答案的**找人题**,竟然把OpenAI最强模型的相关训练干停了! 事情有多离谱呢?请看大屏幕——OpenAI一…
研究前沿 量子位 2天前 阅读 9 · 访客 9
OpenAI 奥尔特曼、 Anthropic 阿莫迪罕见“同台”,呼吁全球合作应对 AI 安全
IT之家 9 月 24 日消息,据彭博社报道,OpenAI CEO 萨姆 · 奥尔特曼和 Anthropic CEO 达里奥 · 阿莫迪罕见地共同出席联合国安全理事会会议,呼吁世界各国领导人合作应对人工智能问题。会议重点讨论了日益受到关注的…
行业动态 IT之家 5天前 阅读 11 · 访客 11
三巨头联手,曝谷歌、OpenAI、Anthropic 拟共同组建 AI 安全标准自律组织
IT之家 9 月 24 日消息,The Information 今天(24 日)晚间援引知情人士消息称,谷歌、OpenAI 和 Anthropic 三家 AI 公司正自行推进成立 AI 安全标准机构的计划,希望在没有政府监督的情况下,**于…
行业动态 IT之家 5天前 阅读 8 · 访客 8
微软总裁布拉德 · 史密斯支持独立评估 AI 安全,还要确保系统处于人类控制之下
IT之家 9 月 24 日消息,微软总裁布拉德 · 史密斯表态**支持引入独立评估方**,对 AI 进行安全评估。 正在纽约举行的联合国大会上,AI 安全以及全球范围内如何监管 AI 行业,是各国领导人和企业高管重点讨论的问题。当地时间 2…
行业动态 IT之家 5天前 阅读 10 · 访客 10
李飞飞谈 AI 安全:不能只让开发者评估自己的系统
北京时间 9 月 23 日,据彭博社报道,AI 先锋李飞飞呼吁由独立机构和公共部门对 AI 进行更多监督。她认为,对于能力日益强大的 AI 系统,其安全评估不应完全交由开发这些系统的公司负责。 作为斯坦福大学教授、World Labs 联合…
研究前沿 IT之家 6天前 阅读 22 · 访客 21
陶哲轩代表SAIR Foundation宣布正式启动“开放数学模型计划”
让开放模型与可负担的算力成为数学研究的共享基石]
研究前沿 量子位 9-19 阅读 11 · 访客 11
安全顾虑成普及关键:外媒调查显示超七成受访者不愿令 OpenClaw 等 AI 工具完全控制自己的电脑
IT之家 9 月 18 日消息,大语言模型(LLM)问世仅数年,但如今已经逐渐走出聊天窗口。从回答问题、修改邮件,到如今 OpenClaw 诞生,可代替用户操作电脑,减少大量重复劳动, 但 OpenClaw 本身也是双刃剑,其虽然可以帮助人…
智能体 IT之家 9-18 阅读 21 · 访客 21
美国政府网站使用了阿里巴巴的千问模型]
美国《联邦公报》(Federal Register)网站被发现提供了基于阿里巴巴开放权重模型通义千问(Qwen)的 AI 搜索工具,具体部署时间未知,在被社媒用户注意到之后该工具于周三下线。此前 FBI 曾指控阿里巴巴蒸馏了 Anthrop…
开源项目 Solidot 9-18 阅读 19 · 访客 19
OpenAI 披露 GPT-5.6 Sol 异常行为:AI 模型会留下指令要求“未来版本的自己”隐瞒自身错误
IT之家 9 月 18 日消息,OpenAI 发文,披露研究团队在训练最新模型 GPT-5.6 Sol 的过程中,研究人员发现了一项异常行为:模型曾通过对话摘要向未来版本的自己留下指令,要求后续模型隐瞒自身错误以及与预期行为不一致的表现。目…
智能体 IT之家 9-18 阅读 20 · 访客 19
安全研究人员利用 Claude 成功入侵 OpenAI ]
Hacktron 安全团队组合利用 OpenAI 的 SSO(单点登录)配置错误以及其社区论坛使用的 Discourse 软件 libheif 软件包堆缓冲区溢出漏洞,成功控制了多名 OpenAI 员工的 ChatGPT 账户。利用这些账户…
研究前沿 Solidot 9-18 阅读 11 · 访客 11
对话 vivo 高管:端侧大模型、Harness 与「个人化 AI」的下一步
「个人化」智能 #欢迎关注爱范儿官方微信公众号:爱范儿(微信号:ifanr),更多精彩内容第一时间为您奉上。 ]
大模型 爱范儿 9-17 阅读 17 · 访客 17
OpenAI 奥尔特曼回应监管:相信行业能安全开发,不会伤害公众
北京时间 9 月 16 日,据彭博社报道,OpenAI CEO 萨姆 · 奥尔特曼 (Sam Altman) 表示,他相信 AI 公司能够安全地开发这项技术,不会给广大民众造成重大伤害。 奥尔特曼周二在旧金山举行的 Dreamforce 大…
行业动态 IT之家 9-16 阅读 23 · 访客 22
微软宣布将 xAI 旗下 Grok 模型整合进 Office 三件套,为用户提供 OpenAI 以外模型选择
IT之家 9 月 14 日消息,微软去年开始逐步放弃 Microsoft 365 Copilot 仅使用 OpenAI 模型的策略,先后将 Anthropic 的 Claude 模型引入 Researcher、Copilot Studio …
大模型 IT之家 9-14 阅读 34 · 访客 18
谷歌 DeepMind 安全研究员离职,称 AI 五年内造成巨大危害的概率高得吓人
IT之家 9 月 13 日消息,谷歌 DeepMind 研究员乔希 · 恩格尔斯(Josh Engels)已离开公司的通用人工智能安全团队,加入独立 AI 评估机构 METR。他表示,自己认为未来五年内 AI 系统造成巨大危害的概率“高得吓…
研究前沿 IT之家 9-13 阅读 21 · 访客 17
一周连发6个模型!这家公司把具身智能的闭环跑通了
模型可以开源,部署经验不能]
开源项目 量子位 9-10 阅读 16 · 访客 10
OpenAI 将为美国政府机构提供 AI 模型五折优惠,终止每年 1 美元试点项目
IT之家 9 月 10 日消息,据彭博社报道,美国总务管理局(GSA)发布声明称,OpenAI 将终止一项政府机构试点项目。该项目允许政府机构每年仅花 1 美元 (IT之家注:现汇率约合 6.7 元人民币) 使用其模型;新方案改为按用量计费…
行业动态 IT之家 9-10 阅读 11 · 访客 9
大模型搜索增强生成技术
检索增强生成的核心流程:向量化、检索、重排与生成
原创 大模型 原创博客 精选 · 2024-04-09 阅读 41 · 访客 40
实时世界模型进入“全科生”阶段,PixVerse R2先交卷!
梦瑶* 2026-09-23 14:08:50 来源:量子位 实时性和通用能力,世界模型可以全都要 这年头,实时生成的世界模型越来越会「造世界」了。 画面更夯,控制更细,但一旦走到实时生成这一步,继续往上做能力,就会有个很难绕开的坎: 能…
大模型 量子位 6天前 阅读 16 · 访客 16
全球AI视频榜单第一梯队再添中国力量:智象发布首款物理规律导向视频模型
智象未来(HiDream.ai)正式发布首个原生全模态视频生成模型 HiDream-O1-Video-1.0]
大模型 量子位 9-15 阅读 16 · 访客 16
全球首个3D原生城市世界模型ABot-Earth 0.7发布,构建AI理解真实世界的入口
9月10日,阿里巴巴集团旗下高德正式发布全球首个3D原生城市世界模型ABot-Earth 0.7。]
智能体 量子位 9-10 阅读 13 · 访客 9