粘贴文档,实时查看 RAG 切分结果与嵌入费用估算;文本不会上传。
还没有留言,抢先留下你的想法!
RAG 文本切分可视化工具让你粘贴文档,立刻看到不同切分策略(固定大小、递归、按句子、Markdown 标题)如何把文字分成块:每个块以交替底色标出,重叠的部分用另一种颜色标示,并统计块数、平均与最大 Token、重复率与在句中断开的块数。再输入嵌入模型与单价,就能估算嵌入费用与向量数据库的存储量。
没有放之四海而皆准的数字。太大的块会把多个主题混在同一个向量里、检索不精准;太小的块又会把答案拆散。常见的起点是几百个 Token 的块搭配一成左右的重叠,再用你真正会问的问题检查检索结果,回头调整。
重叠让相邻块共用一小段内容,避免恰好落在边界的信息被切断。代价是同样的文字会被嵌入并存储两次,直接增加嵌入费用与向量存储量,统计中的“重复率”就是在衡量这件事。
固定大小最简单、可预测,但可能切断句子;递归切分按段落、换行、句子、空格的顺序尽量在自然边界分段,是通用的好起点;按句子切分保证不在句中断开;Markdown 标题切分适合有结构的文档,会保留代码块并记录每块所属的标题路径。
本工具用粗略规则估算(英文约 4 字符 ≈ 1 Token、中日韩约 1 字 ≈ 1 Token),每个嵌入模型的 tokenizer 都不同,实际数字会有出入。把“Token(估算)”当作比较不同设置的相对基准;要精确数字或判断是否超过模型上限时,请用该模型的 tokenizer 再确认。
存储量 = 块数 × 向量维度 × 每维字节数(float32 为 4、float16 为 2、int8 为 1、二进制为 1/8)× 索引倍率 + 块数 × 每块附带数据。索引倍率代表 HNSW 等近似搜索索引相对于原始向量的额外空间,常见约 1.2 至 2,视参数而定,可自行调整。
不会。切分、统计与可视化全部在你的浏览器内执行;加载的 .txt/.md 文件也只在本地读取。工具不会调用任何嵌入 API,嵌入费用只是依你填的单价所做的试算。
按段落→换行→句子→空格的顺序切,尽量在自然边界分段(类似常见框架的默认做法)。
重叠比例 17%
| # | Token | 字符 | 内容预览 |
|---|---|---|---|
| 1 | 68 | 269 | # Retrieval-augmented generation Retrieval-augmented generation (RAG) combines a search step with a language model. Documents are split into chunks, each chunk· 句中结束 |
| 2 | 84 | 309 | ## Why chunking matters If chunks are too large, a single vector blurs several topics together. If they are too small, the answer may be spread across chunks t· 句中结束 |
| 3 | 112 | 171 | ## 中文與日本語の例 檢索增強生成會先把長文件切成較小的區塊,再把區塊轉成向量。區塊太大會混入多個主題;區塊太小又可能把答案拆散。検索拡張生成では、文書を適切な大きさに分割することが重要です。 ```python chunks = splitter.split_text(document) print(len(c· 句中结束 |
ANN 索引(如 HNSW)相对于原始向量的额外空间,常见约 1.2–2,视参数而定。
嵌入模型的维度与输入上限取自各家文档或模型配置(核对于 2026-10-20)。
Token 为估算值(英文约 4 字符 = 1 Token,中日韩约 1 字 = 1 Token),实际请以所用嵌入模型的 tokenizer 为准。所有处理都在你的浏览器内完成,文字不会上传。