AI
AI
资讯
alishangtian.com
首页
大模型
智能体
开源项目
研究前沿
行业动态
知识库
主题色 · THEME
靛蓝(默认)
极光
落日
薰衣草
海洋
森林
暮橙
石墨
自定义
恢复默认
提交线索
agent
anthropic
openai
huggingface daily papers
ai安全
gpu
jake wharton
it之家
solidot
港股
搜索:
数据筛选
共命中 50 条(服务端检索)
数据筛选
与去重研究:数据质量对模型能力的影响
从 C4 去重的记忆化风险到 FineWeb-Edu 与 phi 系列的质量过滤,再到数据受限缩放定律,用实证数字回答「多干净的数据才值得训练」。
研究前沿
精选
· 原创 · 昨天
阅读 1
·
访客 1
机器人学习的数据瓶颈:从 Open X-Embodiment 到遥操作数据工厂
大语言模型吃的是万亿 token 网络文本,机器人能吃的真机数据却以「万条轨迹」计。本文梳理 Open X-Embodiment、DROID、AgiBot World 三代数据集的规模演进,算一算遥操作采集的成本账,并分析人类视频、仿真与生成式合成三条补充路线。
研究前沿
精选
· 原创 · 10-7
阅读 383
·
访客 380
金融专题 53|金融数据工具地图:从行情软件到宏观数据库
研究的一半功夫在找对数据。这篇绘制一张金融数据工具地图:行情软件的分层、巨潮与 EDGAR 等公告原文渠道、统计局央行与 FRED 等宏观数据库、基金定期报告的数据读法,并拆解幸存者偏差、口径变更与前视偏差三个数据陷阱,给出选型原则。
一叶一世界
精选
· 原创 · 昨天
阅读 1
·
访客 1
合成数据研究:当模型开始互相教——从 phi 到「教科书质量」的数据工程
预训练数据墙(本库已有专篇)逼出了另一条路:用模型生成数据来训练模型。合成数据从「禁忌」(模型吃了自己会退化)进化为「主流」(前沿实验室的数据配方里都有它)。本篇拆解模型崩塌的警示、phi 系列的教科书路线、R1 式推理数据的可验证合成,以及合成数据的边界与风险。
研究前沿
精选
· 原创 · 11-3
阅读 39
·
访客 39
谁把大学生搞得这么廉价?——知乎热答的数据核查与深度研究
用教育部官方公报逐条核查知乎热答「谁把大学生搞得这么廉价」:本科同龄占比从 2000 年的 5.2% 升至 2020 年的 26.9%,稀有度稀释 5.2 倍——数据方向正确、三处细节有误,结论稳健;但稀缺性不决定价格,学历溢价从 1.7 倍压缩到 1.27 倍才是「变廉价」的真证据。扩招、产业升级滞后、家庭合成谬误与雇主门槛通胀四股合力,没有主谋。
一叶一世界
精选
· 用户投稿 · 10-28
阅读 94
·
访客 89
美国中期选举重塑 AI 监管格局:10 州 41 项数据中心公投几乎全被否决
2026 中期选举民主党大胜,10 个州 41 项数据中心公投几乎全部被选民限制或否决,AI 监管与建设节奏面临转向。
行业动态
The New York Times · 5天前
阅读 25
·
访客 24
向量数据库选型指南:从暴力搜索到 HNSW
RAG、推荐、去重的共同底层需求是「找最相似的 K 个向量」。本文从暴力搜索基线讲起,拆解 HNSW 与 IVF 两大 ANN 流派的原理与关键参数,分析召回率、内存、延迟的三角权衡,给出按数据量分层的务实选型决策。
后端技术
精选
· 原创 · 10-6
阅读 1,233
·
访客 1,229
一篇读懂时序数据库:Prometheus 与 TSDB 的存储结构
监控数据的特点:写入源源不断、按时间查、几乎不更新——这个特征催生了时序数据库(TSDB)的独特存储设计。Prometheus 的 TSDB、时间分片、索引结构与降采样——为什么监控系统都选 TSDB。
后端技术
精选
· 原创 · 5天前
阅读 38
·
访客 36
开源向量数据库深度对比:Qdrant、Weaviate、Milvus 与 Chroma
向量数据库是 RAG 的地基,开源方案有四巨头:Qdrant 的 Rust 性能、Weaviate 的模块化、Milvus 的云原生规模化、Chroma 的极简开发体验。本篇从架构、性能、生态与运维四个维度深度对比,帮你选对地基。
一叶一世界
精选
· 原创 · 6天前
阅读 33
·
访客 33
微调的数据工程:配比、去重、合成与过滤,决定成败的都在训练之前
LIMA 用 1000 条精选数据就调出了能打的模型,「数据质量压倒数量」从此有了实锤。本文拆解微调数据工程的四道工序——配比(防灾难性遗忘)、去重(MinHash 近重复)、合成(蒸馏优于自生成)、过滤(打分 + 多样性选择),给出可落地的迭代闭环。
大模型
精选
· 原创 · 10-7
阅读 404
·
访客 403
英伟达数据中心 GPU 产品线全景对比(2026):从 V100 到 Rubin 的七代算力跃迁
系统梳理英伟达数据中心级 GPU 从 Pascal 到 Rubin 的完整产品谱系,附七代完整规格对比表、中国市场特供线专题、AMD/Intel 竞品对比、选型指南与 TCO 数据,数据截至 2026 年 9 月。
行业动态
精选
· Proteus AI 深度研究 · 9-11
阅读 1,351
·
访客 791
数据投毒:训练语料里的供应链攻击
模型的价值观与能力来自训练语料——如果有人能往语料里「放东西」,就能往模型里「放行为」。数据投毒研究证明:在网络级语料中混入极小比例的恶意样本,就可能植入持久后门。本文讲清投毒的攻击模型、语料时代的现实暴露面、以及「验证成本不可压缩」这条防御的底线逻辑。
研究前沿
精选
· 原创 · 11-3
阅读 39
·
访客 39
数据墙 2026:预训练高质量数据的极限之争
Epoch AI 估算公开人类文本有效存量约 300 万亿 token,按现有训练节奏将在 2026–2032 年间耗尽。本文梳理数据墙的估算口径、合成数据的规模化与「模型崩溃」之争、版权诉讼如何把数据供给切成两半,以及 2026 年预训练数据策略的真实格局。
大模型
精选
· 原创 · 10-10
阅读 887
·
访客 802
特斯拉车展维权复盘:数据黑箱与公信力的拉锯
复盘 2021 年上海车展特斯拉车顶维权:「绝不妥协」的态度翻车、单方公布数据的公信力困境,以及画面冲击力如何压倒后续所有事实澄清。车主关系与数据透明,是智能汽车时代的新火药桶。
行业动态
精选
· 原创 · 今天
阅读 1
·
访客 1
Scaling Law 的边界:数据墙、算力墙与推理 Scaling 的新战场
预训练 Scaling 撞上数据墙与算力墙:公共语料储量估算、推理感知的缩放修正、o1 之后测试时计算的新缩放曲线与三墙之下的产业走向。
研究前沿
精选
· 原创 · 昨天
阅读 10
·
访客 10
智能体生态观察 · 第 36 篇|数据边界冲突:爬取协议、license 与开源社区的摩擦
AI 把「内容换流量」的旧交易打成了单方面取用。本文梳理爬取协议的失灵、平台的 API 收费与默认拦截反击、开源社区的许可更新与自治,最后推演数据边界的分层终局与从业者的应对清单。
智能体
精选
· 原创 · 昨天
阅读 4
·
访客 4
一篇读懂训练数据飞轮:用户反馈怎么变成训练信号
显式与隐式反馈的采集口径、从信号到偏好对与 DPO 的数据管道、讨好循环与反馈偏差的陷阱,以及度量飞轮健康度的四项指标:把用户交互变成模型迭代引擎。
大模型
精选
· 原创 · 昨天
阅读 3
·
访客 3
一篇读懂灰度数据迁移:不停机改表与数据回填
「给亿级大表加个字段」可以停机做,但业务不能停——不停机的 DDL、大表的数据回填、新旧结构的双写切换——数据迁移是把「结构变更」从手术台搬到跑步机上的工程学。
后端技术
精选
· 原创 · 5天前
阅读 30
·
访客 30
一篇读懂数据一致性校验:对账系统的设计与实现
分布式系统的数据一致性永远有漏洞——缓存与 DB、主库与从库、双写系统之间——对账系统是「一致性的最后防线」:定时比对、差异发现、修复闭环。拆解对账系统的设计:对什么、怎么对、发现差异怎么办。
后端技术
精选
· 原创 · 5天前
阅读 35
·
访客 35
AI 数据标注产业:从众包工地到 RLHF 数据工厂
数据标注是 AI 产业的「隐形地基」——它的形态随 AI 的需求升级了三代:众包打标签、专业质检线、再到 RLHF 的专家反馈工厂。数据工厂的竞争要素变了:比的不是便宜,是「谁身边坐着的博士多」。
行业动态
精选
· 原创 · 5天前
阅读 21
·
访客 21
一篇读懂结构化数据 RAG:表格、数据库与 Text-to-SQL
企业最有价值的知识往往不在文档里,在数据库里。Text-to-SQL 让 LLM 把自然语言变成查询语句,但这条路远比「生成一段 SQL」复杂。本篇拆解结构化数据 RAG 的完整管线:Schema 理解、SQL 生成、执行验证与错误恢复,以及它与向量 RAG 的本质差异。
一叶一世界
精选
· 原创 · 6天前
阅读 37
·
访客 37
数据中心的电力与冷却账:PUE、供电与散热的物理极限
AI 数据中心的耗电是传统机房的三倍以上:一张 H100 要 700W,一个 10 万卡集群就是一座小城市的用电。本篇拆解数据中心电力的账本构成(IT 负载、PUE、供电链路)、冷却的技术路线(风冷到液冷)、以及「电力成为 AI 瓶颈」的产业含义。
行业动态
精选
· 原创 · 6天前
阅读 27
·
访客 27
一篇读懂结构化数据 RAG:表格、数据库与 Text-to-SQL
企业最有价值的知识往往不在文档里,在数据库里。Text-to-SQL 让 LLM 把自然语言变成查询语句,但这条路远比「生成一段 SQL」复杂。本篇拆解结构化数据 RAG 的完整管线:Schema 理解、SQL 生成、执行验证与错误恢复,以及它与向量 RAG 的本质差异。
一叶一世界
精选
· 原创 · 6天前
阅读 37
·
访客 37
RAG 的隐私工程:个人信息保护与数据脱敏检索
RAG 知识库里存着企业的内部文档、员工的个人信息、客户的敏感数据——RAG 的检索过程必须保护这些隐私。本篇拆解 RAG 隐私工程的三个层面(入库脱敏、检索权限、输出过滤)以及 GDPR 等法规的合规要求。
一叶一世界
精选
· 原创 · 6天前
阅读 36
·
访客 35
AI 的能源账:数据中心、电力与新的产业博弈
AI 的尽头是电力——训练要电、推理要电、冷却要电,数据中心正在成为全球电力需求增长最快的板块之一。科技公司签核电、买风电、自建电厂,电力公司成了 AI 产业链的隐形玩家。本文算清 AI 的能源账:电花在哪、账单有多大、以及「算力向电力富集区迁移」的产业重构。
行业动态
精选
· 原创 · 11-3
阅读 32
·
访客 32
一篇读懂分布式训练:数据并行、张量并行与流水线并行怎么分工
训练一个百亿级模型,单卡的显存装不下权重也跑不动计算——分布式训练把模型与数据摊到成百上千张卡上。本篇拆解三种基础并行(数据并行、张量并行、流水线并行)的机制与通信代价、ZeRO 对数据并行的改造、以及「多大模型配哪种并行」的组合决策。
大模型
精选
· 原创 · 11-3
阅读 30
·
访客 30
元数据过滤:让时间、部门与版本进得了检索
「最新版的报销制度是什么」——语义检索能命中所有版本的报销制度,但只有元数据知道哪份是最新的。过滤条件(时间、部门、版本、类型)与语义检索是互补的两轴,合不好会出现「过滤后召回骤降」的经典翻车。本文讲清 pre/post-filter 的取舍、过滤条件的抽取与兜底。
大模型
精选
· 原创 · 11-2
阅读 30
·
访客 30
一篇读懂模型隐私攻击:成员推断、模型逆向与训练数据提取
模型不存数据,却会「背」数据。2017 年的成员推断攻击证明「这条数据在不在训练集里」可以被猜出来;2021 年 Carlini 等人更是从 GPT-2 里逐字提取出了邮箱与电话号码。本文讲清三大隐私攻击的机制、它们共同的温床(过拟合与记忆),以及差分隐私等防御的真实效果。
研究前沿
精选
· 原创 · 10-25
阅读 68
·
访客 68
DuckDB:把分析型数据库塞进进程里,为什么 2026 年成了数据工程的默认件
进程内 OLAP 数据库 DuckDB:一条 SQL 直接查本地 CSV、Parquet 与远端对象存储,单文件落库,PyPI 月下载超 5000 万。本文讲清它的列式向量化引擎、与 SQLite、pandas、ClickHouse 的分工、2026 年的生态大事(v2.0 在路上、DuckLabs 并入 AWS),以及上手要点与真实短板。
开源项目
精选
· 原创 · 10-10
阅读 529
·
访客 518
大模型的数据泄漏面:训练记忆、上下文残留与 PII 防护
大模型的数据泄漏横跨训练记忆、上下文残留与日志供应链三条路径。本文给出应用侧 PII 脱敏流水线、多租户检索越权这一隐蔽坑的对策,以及按输入-输出-日志-训练四段分别设防的思路。
大模型
精选
· 原创 · 10-6
阅读 410
·
访客 377
智能体生态观察 · 第 23 篇|数据护城河:反馈飞轮、私有数据与壁垒幻觉
「数据是 AI 时代的护城河」是过去几年最流行的创业叙事,但反馈飞轮有统计陷阱,私有数据有成本与合规边界,模型每迭代一次就洗牌一次。本文拆解数据壁垒的真实成分与幻觉成分,给出一套判断什么是可持续数据优势的框架。
智能体
精选
· 原创 · 昨天
阅读 6
·
访客 6
一篇读懂多轮对话训练:多轮对话数据的构造、训练与评测
多轮能力不是单轮能力的自然涌现——拆解多轮数据的三种构造法、loss 该算在哪一轮的关键决策与真实评测的坑。
大模型
精选
· 原创 · 昨天
阅读 6
·
访客 6
智能体生态观察 · 第 32 篇|企业采购合规:安全问卷、数据协议与供应商评估
企业采购智能体,卡点不在功能在合规。本文拆解安全问卷的新考题、数据协议里训练用途条款的角力、供应商评估的三个新维度,以及试点预算与多供应商赛马的新采购玩法,给出采购双方的执行清单。
智能体
精选
· 原创 · 昨天
阅读 2
·
访客 2
OpenAI 启动 Grid Protectors 计划:数据中心在电网高峰期让电
OpenAI 推出 Grid Protectors 计划,数据中心在电网紧张时让电,先在佐治亚州试点,号称可腾出约 70 万户家庭用电。
行业动态
The Verge · 5天前
阅读 14
·
访客 14
AI 基础设施创业的新窗口:从 GPU 云到「数据的工业化」
模型层被巨头锁死、应用层卷成红海,但 AI 基础设施层(Infra)的创业窗口反而变宽了:GPU 云的转租生意、推理加速的中间件、数据合成的工业化、评测与安全的流水线——四条新窗口各有各的护城河逻辑。
行业动态
精选
· 原创 · 5天前
阅读 19
·
访客 19
Google 为 TeraWulf 190 亿美元 Anthropic 数据中心租赁提供信用背书
Google 为 TeraWulf 约 190 亿美元的 Anthropic 肯塔基数据中心租赁提供信用背书,并同步签署 Fluor EPC 协议。
行业动态
Reuters · 5天前
阅读 22
·
访客 22
一篇读懂数据库连接池:为什么不能每个请求都建连接
数据库连接的建立涉及 TCP 三次握手、TLS 协商、MySQL 认证与会话初始化——高并发下每个请求都新建连接,数据库会被认证风暴打垮。连接池通过复用连接解决这个问题,但池的参数(大小、超时、空闲回收)设计不当反而成为瓶颈。本文讲清连接池的原理与调优。
后端技术
精选
· 原创 · 11-3
阅读 44
·
访客 44
一篇读懂预训练数据管线:清洗、去重与质量过滤的完整工艺
「模型的能力上限由预训练数据决定」——但决定数据质量的是一条 rarely 被完整讲述的管线:采集、抽取、清洗、去重、过滤、配比。本篇拆解每个环节的工艺与坑,解释「为什么各家模型的数据管线的差异就是能力的差异」,以及数据飞轮如何让这条管线成为持续资产。
大模型
精选
· 原创 · 11-3
阅读 33
·
访客 33
电科金仓发布 AI 数据库:让大模型看懂企业私有数据
10 月 30 日,电科金仓在北京发布 AI 数据库产品,让大模型能够看懂企业私有数据。
行业动态
新浪财经 · 10-30
阅读 22
·
访客 21
Scaling Laws 十问十答:算力、数据与参数的交换律
以十个问答讲清 Scaling Laws:幂律为什么可外推、Chinchilla 如何修正参数与数据的配比、6ND 公式怎么当算力换算器、数据枯竭与推理时算力这两条新变量,以及这门「经验定律」对大公司与创业者的不同含义。
研究前沿
精选
· 原创 · 10-6
阅读 452
·
访客 449
国产数据库跑出AI新能力!OceanBase登顶国际Data Agent榜单
OceanBase团队提交的Data Agent方案登顶国际数据智能体基准Data Agent Benchmark]
智能体
量子位 · 9-21
阅读 92
·
访客 90
实时大数据分析利器 Apache Druid
Druid 连接池的架构设计与监控能力解析
后端技术
精选
· 原创博客 · 2020-05-24
阅读 245
·
访客 244
Anthropic Claude 被曝绕过付费墙,调取美国佐治亚州选民数据
IT之家 10 月 26 日消息,据 Axios 报道,Anthropic 旗下人工智能模型 Claude **绕过付费墙**(Paywall),在未经人类授权的情况下调取了美国佐治亚州原本对公众(付费)开放的选民数据。 Anthropic…
大模型
IT之家 · 10-26
阅读 39
·
访客 39
AI 存储的三层策略:数据集、checkpoint 与热数据
AI 集群的存储不是一个系统打天下:训练数据集要高吞吐顺序读、checkpoint 要低延迟写、推理热数据要低延迟随机读——三种负载三种策略。本篇拆解 AI 存储的三层架构、文件系统的选型、以及「存储成为训练瓶颈」的排查。
大模型
精选
· 原创 · 6天前
阅读 20
·
访客 20
一篇读懂分布式锁:Redis、ZooKeeper 与数据库的三条路
分布式锁是分布式系统的基础原语:多个实例竞争同一资源时,需要一个「跨进程的互斥机制」。Redis 的 SET NX、ZooKeeper 的临时顺序节点、数据库的唯一索引——三条路线各有性格。本文讲清三条路线的实现、各自的死锁风险与容错性、以及「到底选哪条」的决策框架。
后端技术
精选
· 原创 · 11-3
阅读 39
·
访客 39
RAG 的冷启动问题:没有历史数据时怎么建好检索系统
冷启动的缺是三种:缺查询、缺标注、缺反馈。本文给出合成 query-chunk 对的质量控制、企业里"前 RAG 时代"查询的挖掘、首日评测集的最小规模与金丝雀查询机制。
后端技术
精选
· 原创 · 昨天
阅读 6
·
访客 6
一篇读懂数据配比:预训练数据的「配方」怎么决定模型的能力偏向
同样的 token 预算,不同配方决定能力偏向——拆解 DoReMi、Data Mixing Laws 与 RegMix 三条配比优化路线。
大模型
精选
· 原创 · 昨天
阅读 9
·
访客 9
RAG 与实时数据流:流式索引与增量检索的工程设计
当知识源的变更频率从「周」变成「秒」,RAG 的索引链路必须重构为流式架构——CDC 采集、微批嵌入、幂等消费、读写一致性,一套完整的工程设计。
后端技术
精选
· 原创 · 昨天
阅读 4
·
访客 4
一篇读懂数据库备份与恢复:全量、增量与 PITR
备份是数据库运维的「最后防线」——但很多团队的备份从未恢复过。全量、增量、日志备份的三层体系,PITR(时间点恢复)的原理,以及「备份的可用性」只有靠恢复演练来证明。
后端技术
精选
· 原创 · 5天前
阅读 34
·
访客 34
操作系统内功 · 第 22 篇|O_DIRECT:绕过 Page Cache 的得与失——数据库为什么自管缓存
O_DIRECT 让 IO 完全绕过 Page Cache,把缓存管理与刷盘时机还给应用。本文讲清 Direct IO 的语义边界(对齐要求、无预读、无缓存合并)、它解决的双缓存问题、MySQL InnoDB O_DIRECT 与 PostgreSQL buffered 的路线分歧,以及 io_uring 时代 Direct IO 从小众走向主流的转折。
后端技术
精选
· 原创 · 11-3
阅读 49
·
访客 49