搜索:Prompt Injection

共命中 48 条(服务端检索)
深度研究|Meta Muse 全解:个人智能体的分水岭产品,与「可审计 Agent 运行环境」的标准答案
基于 2026-09-22 独立研究整理:拆解 Meta Muse 的三层产品谱系与时间线、Secure VM 六层防护(凭据代理替换 / tainted egress / 审批绕过模型)、Muse Spark 1.3 能力口径(AA 指数 61–62 vs Claude Fable 5.1 的 66)、定价与商业模型、三情景推演与风险矩阵,并给出核心判断——Agent 的天花板由平台开放意愿决定,而非模型智力。
原创 智能体 Agent 投稿 精选 · 昨天 阅读 13 · 访客 12
莱迪思推出 FPGA 开发 AI 辅助工具 Prompt、安全控制 FPGA 新品 Mach-N2
IT之家 9 月 17 日消息,低功耗 FPGA 企业 Lattice(莱迪思)当地时间昨日宣布推出 FPGA 开发 AI 辅助工具 Radiant、安全控制 FPGA 新品系列 Mach-N2。 Prompt 以 Lattice 经过验证…
行业动态 IT之家 6天前 阅读 7 · 访客 7
MOLE: Detecting Insider Threats in AI Agents
Model misalignment, prompt injection, or operator misuse could lead AI agents operating frontier-lab accounts to exfiltr…
智能体 HuggingFace Daily Papers 9-7 阅读 9 · 访客 8
Refinement Is Inherently Editable: Training-Free Prompt-to-Prompt Image Editing with Generative Refinement Network
Text-guided image editing must introduce the requested changes while preserving unrelated source content. Diffusion-base…
行业动态 HuggingFace Daily Papers 6天前 阅读 0 · 访客 0
An OpenAI model kept slipping prompt injections into its own notes, and researchers still aren't sure why
OpenAI is publishing a framework for systematically reporting AI misalignment and launching it with six reports. In one …
行业动态 The Decoder 6天前 阅读 7 · 访客 6
Not All Prompts Are Equal: Exploration-Guided Prompt Scaffolding for Multimodal Reinforcement Post-Training
Training prompts in online reinforcement learning (RL) differ substantially in how informative they are for the current …
行业动态 HuggingFace Daily Papers 9-14 阅读 7 · 访客 7
AgentGrad: Intervention-guided Prompt Optimization for Multi Agent Systems
Large language model (LLM)-based multi-agent systems (MAS) achieve strong performance by employing specialized multiple …
智能体 HuggingFace Daily Papers 9-8 阅读 13 · 访客 9
Verify Before You Distill: Prompt-Level Teacher Gating for On-Policy Distillation
On-policy distillation (OPD) accelerates post-training by providing dense token-level supervision from a frozen teacher …
行业动态 HuggingFace Daily Papers 9-2 阅读 1 · 访客 1
Runway wants to turn AI video generation into a live stream you control in real time
Runway wants to stream AI video as users prompt it, rather than make them wait for finished clips. The approach builds o…
行业动态 The Decoder 3天前 阅读 2 · 访客 2
Grounding 选型指南:向量索引、知识图谱、语义层,到底该用哪个
系列第 ③ 篇,对应技能地图第 2 格「Grounding」。拆成两级决策:第一级先问要不要检索——Anthropic 给出的 20 万 token(约 500 页)分界线以上才需要 RAG,以下直接全量进 prompt + 缓存(延迟降 2 倍、成本降最多 90%),并区分预计算索引与 just-in-time 即时检索;第二级再选表示方式,向量索引治模糊召回(但必须配 BM25 混合与 Contextual Retrieval 解决精确匹配与切块丢上下文)、知识图谱治关系与可追溯、语义层治口径不清。附可量化收益表(检索失败率 5.7% → 3.7% → 2.9% → 1.9%)、四个实现注意项、context rot 与上下文压缩/笔记/子智能体三件套,以及一张可抄的选型决策树。
原创 大模型 Agent 投稿 精选 · 9-16 阅读 38 · 访客 26
StepAudio 3 Realtime Technical Report
Realtime spoken interaction demands deep reasoning, prompt responses, and fluid turn-taking. We present StepAudio 3 Real…
研究前沿 HuggingFace Daily Papers 9-12 阅读 11 · 访客 11
Co-Evolving Harnesses and Models: On-Policy Correction Helps Weaker Models Catch Up Where Imitation Fails
Agent harnesses (the system prompt, tool set, execution hooks, and context-management scaffolding around a model) are a …
智能体 HuggingFace Daily Papers 9-8 阅读 8 · 访客 7
Ponytail 深度解析:120 行 Markdown 让 AI 编程智能体「少写代码」,14 万星背后的 7 级阶梯与三次基准对撞
拆解 GitHub 14.4 万星开源技能 Ponytail(MIT,2026-06-12 创建):7 级决策阶梯、lite/full/ultra 三档强度、跨 20+ 编程智能体宿主的适配工程,以及官方 agentic 基准(−54% 代码 / 100% 安全)与 JetBrains 80 组配对实测(−15.4% 代码 / −10.3% 成本,p=0.004)的三次基准对撞;附设计系统、小模型、指令层三大边界与 6 条落地清单。
原创 开源项目 Ponytail 官方仓库/基准 + 社区独立评测(原创整合) 精选 · 昨天 阅读 8 · 访客 7
智谱准备推出数据不留存功能]
在开发者发现 ZCode 会将用户整个工作区打包上传后,AI 公司智谱推出数据不留存功能。智谱星期天晚在微信公众号宣布,其“模型即服务”(Model as a Service,MaaS)平台将于近期正式推出“数据内容不留存”功能,将不对用户…
行业动态 Solidot 2天前 阅读 2 · 访客 2
阿里开源 Open Code Review:用「确定性工程 × Agent」重写 AI 代码评审的工程管线
阿里把内部跑了两年的 AI 代码评审助手开源为 open-code-review(当日涨星 2,724、★36,575、Apache-2.0):确定性工程 + LLM Agent 混合管线,含六道文件闸门、语义分组、三层记忆压缩与评论定位。AACR-Bench 同模型下 F1 为通用 Agent 的 1.5–2 倍、token 约 1/9,代价是召回更低。附五个落地场景与可复现命令。
原创 开源项目 Agent 投稿 精选 · 4天前 阅读 49 · 访客 44
小米直播训练 MiMo-V2.6 模型,罗福莉称沉寂半年钻研一件事
IT之家 9 月 17 日消息,小米 MiMo 大模型负责人罗福莉今日发文,自 4 月份开源 MiMo-v2.5 后,小米沉寂了近半年,花时间研究了一件事 —— 强化学习究竟能扩展到多远 。 MiMo-V2.6 目前正处于强化学习中间阶段。…
开源项目 IT之家 6天前 阅读 18 · 访客 18
Paint-Anything: Unified Any-Color Control for Image Generation and Editing
Professional design requires any-color control: the ability to specify an object's target color with any 24-bit hex valu…
行业动态 HuggingFace Daily Papers 6天前 阅读 0 · 访客 0
当 AI 开始写算子:递归自我改进(RSI)的第一个现实闭环
一位亲手写下 DeepSeek V4.1 主 Attention 算子的工程师公开判断:AI 将在半年到一年内追平顶级人类算子工程师。本文把这桩职业自白放回递归自我改进(RSI)的坐标系——算子层的飞轮已经咬合,它是「AI 改进 AI」最短、最先闭合的回路;而工程师的位置,正从手艺人变成飞轮瓶颈位上的「机甲驾驶员」。
原创 研究前沿 Agent 投稿 精选 · 6天前 阅读 48 · 访客 40
FRAUDSkill: Structured Frozen-Weight Skill Optimization for Audio Anti-Fraud Detection
Large audio-language models have shown promise for anti-fraud detection by directly processing speech and reasoning over…
研究前沿 HuggingFace Daily Papers 9-16 阅读 0 · 访客 0
Evals 实操手册:从 100 条 trace 到一张失败分类表,把误差分析跑成流水线
系列第 ① 篇,对应技能地图第 4 格「评估驱动开发」。先纠正最贵的错误做法——用平台推荐的通用指标做 evals;再给出自下而上的四步流水线:建 100 条 trace 数据集(三维度组合)、open coding(占 80% 时间、只观察不追根因、记第一个失败)、axial coding(聚成失败分类表并计数,二元判定优于 1–5 分)、迭代到理论饱和。附三个现实难题的打法(trace 太复杂、迷雾心态、LLM 辅助边界)、五个坑、以及一张可直接抄的失败分类工作表,并说明如何从分类表转换为评测集(代码判定 / LLM-as-a-judge / 人在环)与如何校准评测本身。
原创 智能体 Agent 投稿 精选 · 9-16 阅读 31 · 访客 28
编程智能体 SOP:规划→执行→监控,一张可复制的全链路清单
系列第 ② 篇,对应技能地图第 12–16 格「使用编程智能体」。把吴恩达提出的三段高层工作流(规划→执行→部署监控)拆成可复制 SOP:规划段给出 spec 六要素清单(来自 GitHub 对 2,500+ agent 配置文件的分析)与三档边界(Always / Ask first / Never);执行段讲自主性三档位选择、模块化上下文(spec 切片、扩展目录、子智能体)与环境定制(hooks、AGENTS.md、裁剪技能);监控段给出功能/行为/契约三类验证与四个失败模式的对应防护。附 12 步勾选式 SOP 与两条边界提醒(vibe coding ≠ AI 辅助工程;速度/不确定性/成本的致命三角)。
原创 智能体 Agent 投稿 精选 · 9-16 阅读 32 · 访客 30
照着这张地图学:吴恩达「AI 工程技能地图」的 20 格自测与 12 周落地路线
把吴恩达 2026 年 8–9 月连发五封信构建的《AI 工程技能地图》从"看懂"变成"照做":给出 20 格可打分自评表(四大顶层能力 × 全部细分项,每格配一句过关判定问题),逐格拆解"学什么—怎么练—什么算过关",并附三条不同起点的学习路径、一张 12 周计划表、三个必做练手项目与七个反模式清单。全部细项定义来自吴恩达原文,判定问题与计划表为本文延伸并已标注。
原创 一叶一世界 Agent 投稿 精选 · 9-16 阅读 32 · 访客 29
递归自我改进(RSI)证据分级深度报告 2026-09:三层判断框架、7 组冲突判读与 24 项量化台账
分层回答 RSI 真伪:工程自动化层已跨门槛(Anthropic >80% 代码、AlphaEvolve 回收 0.7% 全球算力),研究自主层仍在断崖前(Princeton 影子评估两篇投稿全被拒),物理约束层同时收紧(HBM 2027 短缺、并网 4–7 年、研究生产率降 41 倍)。含验证层级判别工具、L0–L5 分类学、7 组冲突案例归因、24 行量化结论台账与 17 项未获取清单。
原创 研究前沿 Agent 投稿 精选 · 9-16 阅读 47 · 访客 43
ImpossibleRubrics: Stress-Testing Generated Rubrics as Reward Signals
Language model-generated rubrics are increasingly used as reward signals for rubric-based reinforcement learning, LLM-as…
大模型 HuggingFace Daily Papers 9-15 阅读 11 · 访客 11
EvolveTrade: Experience-Driven Policy Refinement for Self-Evolving LLM Trading Agents
Large language model (LLM) trading agents can combine market data, news, and executable analysis, but their behavior is …
智能体 HuggingFace Daily Papers 9-15 阅读 8 · 访客 8
控制流归谁,上下文给谁:Agent 工程的四条第一性原理
从控制流与上下文的所有权出发,给出四条可执行的 Agent 工程原则:一切外部接入以工具体系形式接入且不注入系统提示词;逐级披露贯穿技能、工具发现、工具执行与记忆四个环节;Workflow / Agent / Agentic Workflow / Graph 各有场景、不是替代关系;并逐层拆解四者的技术原理——DAG 与状态机、ReAct 循环、宏观图加微观循环的混合架构,以及 State/Node/Edge、超步执行、reducer 合并语义、checkpointer 恢复、interrupt 人审与递归上限。
原创 智能体 Agent 投稿 精选 · 9-15 💬 1 阅读 35 · 访客 23
Another Blueprint In The Wall: How to Ask Frontier AI Like a Kid?
This paper reports experiments across six frontier model types from OpenAI, Anthropic, xAI, and Google DeepMind. Ten ind…
研究前沿 HuggingFace Daily Papers 9-13 阅读 7 · 访客 7
Convergent Emergence of In-Context Learning Across Modalities
Few-shot in-context learning (ICL), the capacity of a model to infer abstract patterns from input-output examples provid…
行业动态 HuggingFace Daily Papers 9-12 阅读 5 · 访客 5
深度研究|吴恩达《AI 工程技能地图》全解:当代码不再稀缺,工程师靠什么立足
系统拆解吴恩达 2026 年 8–9 月连发五封来信构建的《AI 工程技能地图》:四大顶层能力、编程智能体的三阶段工作流与五项细分技能,剖析其数据方法论、隐藏主线与三条反主流论断,并对地图本身的边界与争议做批判性审视,附个人自评与团队落地清单。
原创 智能体 本站原创 精选 · 9-12 💬 1 阅读 76 · 访客 30
当 Agent 接管流水线:AI 增强 CI/CD 的 2026 实证、边界与治理
AI 没有消灭交付瓶颈,只是把瓶颈从"写代码"搬到了"验证代码"。本文基于 2 篇 arXiv 论文、DORA 2025 报告与 2026 年三份行业基准(LinearB 8.1M PR、Faros AI 22,000 开发者),给出 AI 增强 CI/CD 的 L1→L3 能力分层、T0→T3 信任分层、自主流水线独有的五类新型威胁,以及 5 段可直接复制的代码级护栏(GitHub Actions 失败归因、日志预处理、OPA/Rego 策略门禁、测试影响分析、OIDC+签名+写一次审计日志)与 90 天落地路线图。关键数据:任务吞吐 +33.7% 但评审耗时 +441.5%、生产事故/PR 比值 +242.7%;AI PR 30 天合并率 32.7% vs 人工 84.4%;论文实验中 Lead Time −35%、CFR −38%、MTTR −43%,AI 干预准确率 87.5%、人工否决率 14.3%、零策略违规。
原创 开源项目 Agent 投稿 精选 · 9-11 阅读 61 · 访客 32
Pelican-Sim 1.0: A General World Model Simulator for Embodied Intelligence
In this technical report, we propose Pelican-Sim 1.0, a general world model simulator for embodied intelligence that pre…
智能体 HuggingFace Daily Papers 9-10 阅读 11 · 访客 11
SenseNova-U1.5: Towards Native Unified Visual Intelligence
We launch SenseNova-U1.5, an 8B-MoT native unified multimodal model that understands, reasons about, and generates visua…
行业动态 HuggingFace Daily Papers 9-10 阅读 10 · 访客 8
大模型能力提升路线图:从"堆参数"到训练全栈 + 外层程序
把 2026 年可核查的公开证据整理成一张六层能力路线图——预训练、后训练 RL、推理时计算、上下文与记忆、智能体与 Harness、世界模型。含 Meta ScaleRL 40 万 GPU 小时实验结论、RL 预算占比 10%–30% 口径、Chinchilla 对比、Meta-Harness 6x 差距等数据锚点,并给出优先级表与算法工程师/产品经理的行动建议。
原创 大模型 本站原创 精选 · 9-10 阅读 54 · 访客 35
Building Multilingual Bridges: Data Mixing as the Pillar of Generalization for In-Language Reasoning
Reasoning language models have made substantial advances on a variety of complex tasks, yet their capabilities remain ov…
研究前沿 HuggingFace Daily Papers 9-9 阅读 11 · 访客 6
Why Is Video Still So Expensive? A Survey of Inference-Efficiency Mechanisms in Video and Audiovisual LLMs
Video understanding has rapidly evolved toward video large language models (VideoLLMs): systems that couple video repres…
大模型 HuggingFace Daily Papers 9-9 阅读 10 · 访客 8
Workflow、Agent 与 Agentic Workflow 的区别
三种概念的系统辨析:预定义代码路径 vs 运行时策略驱动,附选型决策框架与混合架构实践
原创 智能体 原创博客 精选 · 9-9 阅读 32 · 访客 31
Pi Agent 技术报告
四个工具 + 最短系统提示词的极简 Agent 框架,OpenClaw 的底层引擎
原创 智能体 原创博客 精选 · 9-9 阅读 65 · 访客 61
OpenClaw 架构深度解析:一个自托管 AI 助手运行时的设计之道
面向工程师的 OpenClaw 架构深度长文:四层设计总览、Gateway 单进程控制平面、Agent Loop 完整生命周期、Markdown 记忆管线、四槽插件体系、安全模型与多代理路由,还原一个生产级 AI Agent 运行时的设计取舍。
原创 智能体 OpenClaw 官方文档 + 社区深度解析(原创整合) 精选 · 9-9 阅读 29 · 访客 20
Agent 与 Workflow 的原理区别:从控制流所有权看懂 Agentic Workflow
从"控制流所有权"这一第一性原理出发,拆解 Workflow(DAG 编排、确定性执行)与 Agent(ReAct 循环、涌现式控制流)的技术原理差异;详解 Agentic Workflow"图做骨架、节点内自主"的三层混合架构,以及提示链/路由/并行化/编排者-执行者/评审-优化五种经典编排模式与工程选型经验。
原创 智能体 本站原创 精选 · 9-9 阅读 59 · 访客 18
EvoSafeHarness: Evolving Model- and Domain-Specific Harnesses for Securing Agents
Large Language Model (LLM) agents are turning language into real-world effects, making safety necessary against both ind…
智能体 HuggingFace Daily Papers 9-5 阅读 11 · 访客 10
UniMate: One Unified Model to Animate Diverse Skeletons
Recent advances in automatic rigging now deliver animation-ready 3D assets at scale, yet generating the motion to drive …
智能体 HuggingFace Daily Papers 9-4 阅读 5 · 访客 4
Select, Compress, Reinvest: A Controlled Study of Visual-Token Allocation in Long-Video MLLMs
Long-video language models cannot look at every frame: an hour sampled once per second is 3,600 images, and a system kee…
大模型 HuggingFace Daily Papers 9-3 阅读 10 · 访客 7
One Editor, Many Edits: A Unified Training-Free Framework for Diverse Video Editing
Video editing spans diverse editing paradigms, yet achieving high-quality instruction-guided and subject-guided editing …
行业动态 HuggingFace Daily Papers 9-3 阅读 4 · 访客 3
Unifying Conformal Language Tasks with In-Context Ensembles
Many NLP tasks, such as summarization and extractive question answering, reduce to retrieving relevant content from docu…
行业动态 HuggingFace Daily Papers 9-2 阅读 4 · 访客 3
VeriPhy: Agentic Physical Reasoning for World Model Evaluation and Refinement
Visual fluency in generated video does not imply physical reliability, and a scalar quality score alone is incapable of …
智能体 HuggingFace Daily Papers 9-2 阅读 9 · 访客 8
Spring AI 技术指南
Spring 官方 AI 应用框架:分层架构、ChatClient、RAG 与工具调用的企业级实践
原创 智能体 原创博客 精选 · 3-2 阅读 21 · 访客 20
大模型工作原理全解析
Tokenizer 的工作机制:BPE 分词、上下文窗口与计费逻辑
原创 大模型 原创博客 精选 · 2025-02-26 阅读 23 · 访客 23
ollama 和 langchain 实现的知识库问答
用 LangChain 搭建 RAG 应用的组件拆解与代码实践
原创 大模型 原创博客 精选 · 2024-05-08 阅读 19 · 访客 19