es怎么做拆词的

发布时间:2026/8/25 16:25:24

es怎么做拆词的
ES 做拆词分词的核心是分词器它在索引文档和搜索时负责把长文本切成一个个独立的词term这样才能建立倒排索引实现高效的全文搜索。这个过程主要有三种角色输入: 我喜欢看科幻电影 ↓ [字符过滤器] → [分词器] → [令牌过滤器] ↓ 输出: [我, 喜欢, 看, 科幻, 电影] 核心概念三个组件各司其职组件作用示例字符过滤器预处理文本比如去掉HTML标签bhello/b→hello分词器按规则切分文本我喜欢→我喜欢令牌过滤器标准化分词结果如转小写、去停用词Cats→cat️ 如何配置和使用1. 使用内置分词器最常用比如用ik_smart做粗粒度分词或者用ik_max_word做细粒度分词POST_analyze{analyzer:ik_smart,text:中华人民共和国国歌}结果类似[中华人民共和国, 国歌]。2. 为字段指定分词器PUT/library_books{mappings:{properties:{title:{type:text,analyzer:ik_max_word,// 索引时用细粒度分词search_analyzer:ik_smart// 搜索时用粗粒度分词}}}}3. 自定义分词器灵活但复杂PUT/my_index{settings:{analysis:{analyzer:{my_custom_analyzer:{type:custom,tokenizer:standard,char_filter:[html_strip],filter:[lowercase,stop]}}}}} 测试与调试测试现有分词器POST/library_books/_analyze{field:title,text:三体科幻小说}查看某个词在倒排索引中的位置GET/library_books/_termvectors/123{fields:[title],term_statistics:true}一个推荐的配置示例PUT/library_books{mappings:{properties:{title:{type:text,analyzer:ik_max_word,search_analyzer:ik_smart},author:{type:keyword// 不用分词精准匹配作者},content:{type:text,analyzer:ik_max_word}}}}需要注意分词器的选择会直接影响搜索结果一旦创建索引就不能修改建索引前最好多测试几种配置。⚠️ 关键提醒*分词器不是万能的人名、专业术语可能需要专门优化*性能细粒度分词ik_max_word索引会更大但搜索结果更全*调试工具用_analyzeAPI 手动测试确保符合业务预期

相关新闻

Golang 数据库连接池深度调优

Golang 数据库连接池深度调优

2026/8/25 16:25:24

数据库连接池深度调优一、为什么连接池是性能命门 在 Go 里写 db.Query("SELECT ...") 看起来简单,但每次查询背后都要经历: TCP 三次握手 → MySQL 认证 → 执行查询 → 收结果 → 四次挥手如果不复用连接,一个 100 QPS 的服务就要…

Elasticsearch 支持哪些类型的数据查询搜索方式?

Elasticsearch 支持哪些类型的数据查询搜索方式?

2026/8/25 16:25:24

Elasticsearch 提供了丰富且强大的查询方式,可以满足从简单的关键词匹配到复杂的多维分析等各种搜索需求。这些查询方式主要通过其 Query DSL 来定义,并且所有查询都可以在 query 或 filter 上下文中执行,以控制是否进行相关性算分。 Elastic…

ArcGIS Pro空间数据预处理实战:从地图到机器学习特征表的完整流程

ArcGIS Pro空间数据预处理实战:从地图到机器学习特征表的完整流程

2026/8/25 16:25:24

1. 先搞清楚“空间数据预处理”到底要解决什么问题如果你正在用 ArcGIS Pro 做机器学习,卡住你的往往不是模型本身,而是第一步:怎么把地图数据变成模型能“吃”的格式。很多人一上来就找算法、调参数,结果模型跑不起来&#xff0c…

AI Agent 面试题 353:A2A协议的服务发现和注册机制详解

AI Agent 面试题 353:A2A协议的服务发现和注册机制详解

2026/8/25 17:05:28

🔥 AI Agent 面试题 353:A2A协议的服务发现和注册机制详解摘要:本文深入解析了「A2A协议的服务发现和注册机制详解」这一 AI Agent 领域的核心面试题。文章从 A2A 协议 的基本概念出发,系统性地剖析了 服务发现、注册机制 等关键技…

AI Agent 面试题 343:MCP协议的Sampling机制如何实现Agent间的协作?

AI Agent 面试题 343:MCP协议的Sampling机制如何实现Agent间的协作?

2026/8/25 17:05:28

🔥 AI Agent 面试题 343:MCP协议的Sampling机制如何实现Agent间的协作?摘要:本文深入解析了「MCP协议的Sampling机制如何实现Agent间的协作?」这一 AI Agent 领域的核心面试题。文章从 MCP 协议 的基本概念出发&#x…

AI Agent 面试题 341:Function Calling中如何处理大型返回值的截断和摘要?

AI Agent 面试题 341:Function Calling中如何处理大型返回值的截断和摘要?

2026/8/25 17:05:28

🔥 AI Agent 面试题 341:Function Calling中如何处理大型返回值的截断和摘要?摘要:本文深入解析了「Function Calling中如何处理大型返回值的截断和摘要?」这一 AI Agent 领域的核心面试题。文章从 Function Calling 机…

CLI命令行界面:从基础原理到高效开发与运维实践

CLI命令行界面:从基础原理到高效开发与运维实践

2026/8/25 17:05:28

1. 从“图形化”到“命令行”:为什么说CLI是效率的终极形态如果你还在用鼠标点点点,在层层叠叠的菜单里寻找一个功能,或者被某个软件突然改版的界面搞得晕头转向,那你可能真的需要停下来,重新认识一下你面前的电脑了。…

【TDengine】TDengine 如何实现数据的分布式存储和负载均衡?

【TDengine】TDengine 如何实现数据的分布式存储和负载均衡?

2026/8/25 17:05:28

TDengine 3.4.x 分布式存储与负载均衡机制深度解析 问题原文:“TDengine 如何实现数据的分布式存储和负载均衡?” 解析范围:本文将深入剖析 TDengine 3.4.x 版本中数据分布式存储的核心机制——VGroup(虚拟节点组),以及其背后的负载均衡策略。我们将从设计哲学、元数据管…

LLM智能体开发:如何用“少即是多”原则提升推理与代码生成效率

LLM智能体开发:如何用“少即是多”原则提升推理与代码生成效率

2026/8/25 16:55:25

1. 项目概述:当“少即是多”成为AI智能体的新范式最近在折腾大语言模型(LLM)应用开发的朋友,可能都听过一个词:Agentic。它不再是实验室里的概念,而是正在成为构建下一代AI应用的核心架构思想。简单说&…

[光学原理与应用-521]:对光的错误理解与纠偏

[光学原理与应用-521]:对光的错误理解与纠偏

2026/8/24 19:53:32

首先光是一种能量的载体和形态,宏观上观察到的光是由无数个微观的光量子组成的,每个光子在产生的瞬间,其在真空的空间中以确定不变的速度沿着一个初始的方向一直向前,在微观层面,每个光量子的运动轨迹是以波函数所展现…

SIP通话转接原理与REFER方法实战解析

SIP通话转接原理与REFER方法实战解析

2026/8/24 19:56:07

1. 通话转接不是“挂断再拨号”,而是SIP会话的动态重定向你有没有遇到过这样的场景:客服坐席A正在和客户通电话,突然需要把这通对话无缝转给专家坐席B,客户完全感知不到中间的断连——既没听到忙音,也没被要求重新拨号…

Kolla-ansible单节点OpenStack部署实战:从环境准备到排坑指南

Kolla-ansible单节点OpenStack部署实战:从环境准备到排坑指南

2026/8/24 21:16:09

1. 为什么选择Kolla-ansible来部署单节点OpenStack?如果你正在寻找一种能把OpenStack从“概念”快速变成“可用的实验环境”的方法,那么Kolla-ansible几乎是当前最主流、最省心的选择。我见过太多人卡在手动编译依赖、配置服务、处理版本冲突的泥潭里&am…

三步把QQ空间历史说说导出到本地:GetQzonehistory 极简指南

三步把QQ空间历史说说导出到本地:GetQzonehistory 极简指南

2026/8/25 0:04:34

三步把QQ空间历史说说导出到本地:GetQzonehistory 极简指南 【免费下载链接】GetQzonehistory 获取QQ空间发布的历史说说 项目地址: https://gitcode.com/GitHub_Trending/ge/GetQzonehistory Meta Description:GetQzonehistory 是一个QQ空间历史说…

洛谷 P7912:[CSP-J 2021 T4] 小熊的果篮 ← 双向链表

洛谷 P7912:[CSP-J 2021 T4] 小熊的果篮 ← 双向链表

2026/8/25 0:04:35

【题目来源】 https://www.luogu.com.cn/problem/P7912 【题目描述】 小熊的水果店里摆放着一排 n 个水果。每个水果只可能是苹果或桔子,从左到右依次用正整数 1,2,…,n 编号。连续排在一起的同一种水果称为一个“块”。小熊要把这一排水果挑到若干个果篮里&#x…

Transformers.js 网页端图像抠图实战:零后端 3 行代码返回透明 PNG

Transformers.js 网页端图像抠图实战:零后端 3 行代码返回透明 PNG

2026/8/25 0:04:35

Transformers.js 网页端图像抠图实战:零后端 3 行代码返回透明 PNG 【免费下载链接】transformers.js State-of-the-art Machine Learning for the web. Run 🤗 Transformers directly in your browser, with no need for a server! 项目地址: https:/…

摆脱论文困扰!盘点2026年全网爆红的的AI论文写作工具

摆脱论文困扰!盘点2026年全网爆红的的AI论文写作工具

2026/8/22 2:02:26

一天写完毕业论文在2026年已不再是天方夜谭。2026年最炸裂、实测能大幅提速的AI论文写作工具,覆盖选题构思、文献整理、内容生成、格式排版等核心场景,真正帮你高效搞定论文难题。 一、全流程王者:一站式搞定论文全链路(一天定稿首…

导师推荐!2026最新AI论文工具测评与实用推荐

导师推荐!2026最新AI论文工具测评与实用推荐

2026/8/22 4:13:47

2026年真正好用的AI论文工具,核心看生成的论文质量、低AI味、格式正确、学术适配四大指标。综合实测,千笔AI、ThouPen、豆包、DeepSeek、Grammarly 是当前最值得推荐的梯队,覆盖从免费到付费、从中文到英文、从文科到理工的全场景需求。 一、…

告别游戏崩溃:XCOM 2模组管理器的智能革命

告别游戏崩溃:XCOM 2模组管理器的智能革命

2026/8/22 1:32:34

告别游戏崩溃:XCOM 2模组管理器的智能革命 【免费下载链接】xcom2-launcher The Alternative Mod Launcher (AML) is a replacement for the default game launchers from XCOM 2 and XCOM Chimera Squad. 项目地址: https://gitcode.com/gh_mirrors/xc/xcom2-lau…