elasticsearch:IF&IDF算法、向量空间模型——笔记，elasticsearchif

elasticsearch:IF&IDF算法、向量空间模型——笔记，elasticsearchif

大数据，数据量辣么多，要查询的话谁在前面谁在后面？数据又不能贿赂搜索框，再说Wuli es可是铁面无私、全心全意为人民服务的boy，所以面对这种情况，我们有一套狠复杂的算法，打分排序算法公式什么的，我就不说了，直接上中文：

先说搜索过滤的时候，boolean model

类似and这种逻辑操作符，先过滤出包含指定term的doc

query "hello world" --> 过滤 --> hello / world / hello & world
bool --> must/must not/should --> 过滤 --> 包含/不包含/可能包含
doc --> 不打分数 --> 正或反 true or false --> 为了减少后续要计算的doc的数量，提升性能

IF/IDF打分

  打分算法：查询语句和文档间匹配程度，根据打分规则对结果排序
        影响因素：文档内容匹配较多稀有查询关键词、文档含较少的term且term多是稀有的-高分
            文档权重：索引时设置
            域权重：field boost：查询的时候给域设置的
            调整因子：文档中包含查询关键字个数；多、大
            逆文档频率：Inerse document frequency ：基于term，告诉打分公式一个词的稀有程度
                频率：多少个文档出现了该词
                打分公式提升稀有词文档的权重
            长度归一化：length norm：基于域
                由给定域中term的个数决定（索引文档时已计算出）
                跨域的文本越长，权重越低
            词频：基于term，term出现频率；越大分越高
            查询归一化因子：query norm：基于查询语句=查询语句中每个查询词权重的平方和

还是上盘公式吧：

简单来说就是某个词在很多文档中都出现了，那么他的分数就会低：and or，某个词在某个文档中出现次数比较多那么给他打的分数就会比较高：阿狸


这些和我们的标题有什么关系呐？打分呐设计到IF IDF 算法

单个term在doc中的分数

query: hello world --> doc.content
doc1: java is my favourite programming language, hello world !!!
doc2: hello java, you are very good, oh hello world!!!

hello对doc1的评分

TF: term frequency 

找到hello在doc1中出现了几次，1次，会根据出现的次数给个分数
一个term在一个doc中，出现的次数越多，那么最后给的相关度评分就会越高

IDF：inversed document frequency

找到hello在所有的doc中出现的次数，3次
一个term在所有的doc中，出现的次数越多，那么最后给的相关度评分就会越低

length norm

hello搜索的那个field的长度，field长度越长，给的相关度评分越低; field长度越短，给的相关度评分越高

最后，会将hello这个term，对doc1的分数，综合TF，IDF，length norm，计算出来一个综合性的分数

hello world --> doc1 --> hello对doc1的分数，world对doc1的分数 --> 但是最后hello world query要对doc1有一个总的分数 --> vector space model

向量空间模型vector space model

多个term对一个doc的总分数

hello world --> es会根据hello world在所有doc中的评分情况，计算出一个query vector，query向量

hello这个term，给的基于所有doc的一个评分就是2
world这个term，给的基于所有doc的一个评分就是5

[2, 5]

query vector

doc vector，3个doc，一个包含1个term，一个包含另一个term，一个包含2个term

3个doc

doc1：包含hello --> [2, 0]
doc2：包含world --> [0, 5]
doc3：包含hello, world --> [2, 5]

会给每一个doc，拿每个term计算出一个分数来，hello有一个分数，world有一个分数，再拿所有term的分数组成一个doc vector

画在一个图中，取每个doc vector对query vector的弧度，给出每个doc对多个term的总分数

每个doc vector计算出对query vector的弧度，最后基于这个弧度给出一个doc相对于query中多个term的总分数
弧度越大，分数月底; 弧度越小，分数越高

如果是多个term，那么就是线性代数来计算，无法用图表示

http://www.roncoo.com/course/lecturer/88201702211053216216