Python社区  »  Elasticsearch

ElasticSearch应用篇-搜索效果

极客小智 • 1 月前 • 55 次点击  

一、 集群搜索问题

1. 问题:如何聚合多个节点或分片的数据生成返回结果

在对Mysql进行分库分表的时候,经常会遇到一个问题:如果查询的数据分散在多张表中,因为涉及到组合多种表的数据,将会非常麻烦;对于有些分页场景,更是一个灾难,所以对Mysql分库分表的时候经常会基于查询维度来尽量避免跨表查询的场景。

ElasticSearch也是分布式的,当数据分散与多个节点或者分片上时,他是如何解决数据聚合问题的呢?另外,搜索基本都需要排序,如何解决排序问题呢?

2. ES整体流程

假设有N个分片,数据可能分散在这N个分片上,ES搜索时,整体操作过程是:

S1: 客户端将会同时向N个分片发起搜索请求。

S2: 这N个分片基于本分片的内容独立完成搜索,然后将符合条件的结果全部返回。

S3: 客户端将返回的结果进行重新排序和排名,最后返回给用户。

有经验的开发很容易看出来,这里有两个问题:

数量问题。假设每次返回10条记录,那么这N个分片独立执行查询以后,每个分片最多都会返回10条数据给客户端,然后客户端在进行排序返回给用户。这个过程中返回的数据量(最大是10*N)会远大于用户请求需要的数据量。

排名问题。计算分值使用的词频和文档频率等信息都是基于自己分片的数据进行的,不同分片中这些数据不同,直接导致各个分片算出来的分数不具有统一参考性,影响排名准确性。正确的做法是基于整体的词频、逆向文档频率等信息来算分数。

3. 查询方式

ElasticSearch查询的时候可以指定搜索类型: QUERY_AND_FEATCH、QUERY_THEN_FETCH(默认的搜索方式)、DFS_QUERY_THEN_FEATCH、DFS_QUERY_AND_FEATCH。

1) QUERY_AND_FEATCH **

向索引的所有分片(shard)都发出查询请求,各分片返回的时候把元素文档(document)和计算后的排名信息一起返回。

这种搜索方式是最快的,只需要去shard查询一次,但是各个shard返回的结果的数量之和可能是用户要求的size的n倍。

2) QUERY_THEN_FETCH

先向所有的shard发出请求,各分片只返回排序和排名相关的信息(注意,不包括文档document),然后按照各分片返回的分数进行重新排序和排名,取前size个文档;接着去相关的shard取document。

这种方式返回的document与用户要求的size是相等的。

3) DFS_QUERY_AND_FEATCH

在进行真正的查询之前,先把各个分片的词频和文档频率收集一下,然后进行词搜索的时候,各分片依据全局的词频率和文档频率进行搜索和排名。

接着按照QUERY_AND_FEATCH的方式查询。

4) DFS_QUERY_THEN_FEATCH

和上面一种方式一样,也是先收集词频和文档频率,然后再按照QUERY_THEN_FEATC的方式查询。

这种查询要前后交互三次,速度最慢,但是排名最准确。

二、 相关度搜索问题

1. 问题:ES是如何将相关度高的内容能放在前面的?

在原理篇我们知道,当将一个文档保存到ElasticSearch会根据分词的结果创建倒排索引,这种结构是零散的,即每一个Term都会对应Posting List。查询的时候也是先经过分词,然后根据倒排索引查询。

这里就有一个问题,ElasticSearch是如何将匹配度最高的内容放在前面的?如下图所示,匹配效果最好的内容放到了返回结果的最前面。

2. 相关度

Lucene 使用布尔模型(Boolean model)查找匹配文档,并使用权重来实现相关度搜索。

1) 布尔模型

就是在查询中使用 AND、OR、NOT(即与或非)来匹配文档。

2) 权重

权重由三个因素决定:词频、逆向文档频率、字段长度归一值

词频

指的是词在文档中出现的频度是多少,频度越高,权重越高。

词频=该词在文档中出现次数的平方根。

逆向文档频率

指的是词在集合所有文档里出现的频率是多少,频次越高,权重越低。

逆向文档频率=索引中文档数量除以所有包含该词的文档数,然后求其对数。

字段长度归一值

指的是字段的长度是多少,字段越短,字段的权重越高 。

字段长度归一值 = 字段中词数平方根的倒数。

3) 向量空间模型

通常我们都是搜索多个字段,这样就需要合并多词权重,这个由向量空间模型实现。

具体合并过程基本都是数学上的算法,没有详细研究,有兴趣的小伙伴可以到网上找一下。

3. 相关度搜索

ES其实就是基于相关度的算法来计算分数,将分数大的放在前面。

Python社区是高质量的Python/Django开发社区
本文地址:http://www.python88.com/topic/74411
 
55 次点击  
分享到微博