推理服务的 SLA 工程:SLO、错误预算与容量规划
推理服务向用户承诺「99.9% 可用、P99 延迟 2 秒」——承诺的背后是一套 SLA 工程:SLO 的定义、错误预算的运营、容量规划的科学。本篇拆解推理服务 SLA 的特有指标(TTFT/TPOT 的分位数)、错误预算的纪律、以及容量规划的三步法。
阅读全文 →
全部文章
ARCHIVE 共 443 条LLM周边一览
大语言模型的基本原理、发展脉络与能力边界总览
ollama 和 langchain 实现的知识库问答
用 LangChain 搭建 RAG 应用的组件拆解与代码实践
GPT-2模型微调
从零微调 GPT-2 的完整流程:数据准备、训练与效果评估
大模型搜索增强生成技术
检索增强生成的核心流程:向量化、检索、重排与生成
腾讯发布开源模型 Hy4:770B 参数、1M 上下文、Apache 2.0 许可
腾讯发布开源模型 Hy4:770B 总参数、49B 激活的 MoE 架构,1M+ 上下文,Apache 2.0 许可。
iOS 27.3 首个开发者预览版推送,国行 iPhone 苹果 Apple 智能将至
IT之家 11 月 4 日闪讯速报,苹果今日凌晨面向 iPhone 推送了 iOS 27.3 系统首个测试版本。
据IT之家此前报道,苹果智能(Apple Intelligence)及相关阿里千问大模型获得批准。苹果官方已宣布一系列 App…
OpenAI ChatGPT 最新数据:周活跃用户达 12 亿,两个月新增 2 亿
IT之家 11 月 4 日消息,当地时间 11 月 2 日 OpenAI 消费者产品负责人 Adam Fry 在纽约举行的一场 OpenAI 活动期间接受了 Big Technology 的采访。他透露,ChatGPT 每周活跃用户数量已经…
Rapid LLM development is outrunning the research meant to explain it, study finds
Nov 3, 2026
GPT-Image-2.5 prompted by THE DECODER
Stanford researchers Owen Queen and James Zou tested 50 widely cited c…
OpenAI 高管会议室发现“窃听”设备后,知情人士称员工多年不断反映安全漏洞
IT之家 11 月 4 日消息,今年 10 月,OpenAI 在一间高管会议室发现了被人偷偷安装的录音设备。多名前员工得知消息后却不觉得意外。
据路透社援引 5 名知情人士消息称,早在 2022 年底 ChatGPT 问世之前,就有员工对 …
谷歌调整 K-12 教育 AI 政策:Gemini、搜索等服务默认关闭
IT之家 11 月 4 日消息,当地时间 11 月 3 日,谷歌宣布将从 2027 年起调整面向 K-12(幼儿园至高中)教育用户的人工智能功能管理政策,学校管理员需要主动启用,学生账户才能使用 Gemini、NotebookLM、Gemi…
国行 Apple 智能首批上线核心功能汇总:AirPods 实时翻译登场,iPhone 可联手千问实现更多功能
IT之家 11 月 4 日消息,苹果今日凌晨面向 iPhone 推送了首个 iOS 27.3 开发者预览版,**如约为国行用户带来了「Apple 智能与 Siri」**。
IT之家在第一时间上手体验了国行 Apple 智能首批上线的核心功能…
国行「Apple 智能与 Siri」如约而至,iPhone 15 Pro 及更新机型升级 iOS 27.3 开发者预览版可用
IT之家 11 月 4 日消息,苹果官方今日面向 iPhone 发布了最新的 iOS 27.3 开发者预览版。
IT之家实测,在最新的 iOS 27.3 开发者预览版上,**国行「Apple 智能与 Siri」如约而至**,用户在更新最新版…