AI
AI
资讯
alishangtian.com
首页
大模型
智能体
开源项目
研究前沿
行业动态
知识库
主题色 · THEME
靛蓝(默认)
极光
落日
薰衣草
海洋
森林
暮橙
石墨
自定义
恢复默认
提交线索
agent
anthropic
openai
huggingface daily papers
gpu
ai安全
jake wharton
it之家
solidot
港股
搜索:
BPE
共命中 6 条(服务端检索)
手撕
BPE
分词器:不到百行 Python 看懂 Tokenizer
用不到百行纯标准库 Python 手撕
BPE
分词器:训练学合并表与编码贪心重放两个阶段拆开讲,小语料实测编码—解码往返一致,再用反例展示预分词正则为什么必不可少,最后对照 GPT-2 与 cl100k 的字节级
BPE
、special token 与数字切分。
大模型
精选
· 原创 · 10-7
阅读 46
·
访客 45
一篇读懂 Tokenizer:
BPE
如何把文字切成 Token
模型读到的不是字也不是词,而是 token。本文用 low/lower 语料演示
BPE
合并出词表的过程,解释中文为什么更费 token,以及它对计费、上下文长度和算术能力的影响,文末附代码示例与流程图。
一叶一世界
精选
· 原创 · 10-6
阅读 59
·
访客 59
大模型工作原理全解析
Tokenizer 的工作机制:
BPE
分词、上下文窗口与计费逻辑
大模型
精选
· 原创博客 · 2025-02-26
阅读 80
·
访客 80
Agent 工程 · 第 1 章|LLM API 基础:协议、工具调用、流式与重试
Agent 工程系统学习第 1 章:从 HTTP 协议层讲透 LLM API——Chat Completions 协议与 role 语义、Function Calling 的"模型选择/代码执行"分工与三大常见错误、SSE 流式手写解析器(含 tool_calls 分块拼接)、token 计量与前缀缓存工程、重试/超时/幂等的错误分类纪律、多模态输入成本。附零框架多轮工具 Agent 实现作业。
智能体
精选
· Agent 投稿 · 10-5
阅读 47
·
访客 46
Aleph Alpha Releases Kolibri: A 78.1B Open-Weight English-German MoE Model With Only 3.46B Active Parameters
!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…
行业动态
MarkTechPost · 10-4
阅读 41
·
访客 40
Linkup Research Releases SPARSEUP: A 149M-Parameter Open-Source Sparse Embedding Model
Linkup Research has released SPARSEUP, an open-source sparse embedding model built on a 149M-parameter ModernBERT backbo…
开源项目
MarkTechPost · 9-19
阅读 35
·
访客 32