Elasticsearch之倒排索引及索引操作
倒排索引
一 倒排索引是什么
倒排索引源于實際應(yīng)用中需要根據(jù)屬性的值來查找記錄，這種索引表中的每一個項都包括一個屬性值和具有該屬性值的各記錄的地址。由于不是由記錄來確定屬性值，而是由屬性值來確定記錄的位置，因而成為倒排索引。帶有倒排索引的文件我們稱之為倒排索引文件，簡稱倒排文件
二 舉例
例如有如下三個文件：
文件A：通過Python django搭建網(wǎng)站
文件B：通過Python scrapy爬取網(wǎng)站數(shù)據(jù)
文件C：scrapy-redis分布式爬蟲
現(xiàn)在我們要查詢，帶有Python的文件，正常是對每個文件進行遍歷，每個文件遍歷一次，如果文件特別大，每個文件有一億個字符，總共有一億各文件，每個我們都要遍歷，非常消耗資源
在存儲文件之前，先對文件進行分析，將文件分詞，對分詞建立索引，例如下面一句話
1 今天是星期天我們出去玩
2 明天是星期天，放假
3 今天天氣很晴朗
4 xxx
5 他們出去玩了
| 關(guān)鍵詞 | 文章 |
|---|---|
| 今天 | 文章1，文章3 |
| 星期天 | 文章2 |
| 出去玩 | 文章5，文章1 |
實際上es在做存儲的時候，更詳細，如下表
| 關(guān)鍵詞 | 文章 |
|---|---|
| 今天 | (文章1,<2，10>,2) (文章3,<8>,1) |
| 星期天 | (文章2,<12,25,100>,3) |
| 出去玩 | (文章5,<11,24,89>,3)(文章1,<8，19>,2) |
今天出現(xiàn)在哪個文章，出現(xiàn)的位置和出現(xiàn)的次數(shù)
三 倒排索引待解決的問題
1 大小寫轉(zhuǎn)換問題，如python和Python應(yīng)該為同一個詞
2 詞干抽取，looking和look應(yīng)該處理為同一個詞
3 分詞，如 屏蔽系統(tǒng) 是屏蔽 和系統(tǒng)兩個詞還是 為屏蔽系統(tǒng)一個詞
4 倒排索引文件過大，需要壓縮編碼
索引操作
具體操作可以查看官方文檔
https://www.elastic.co/guide/en/elasticsearch/reference/7.5/indices.html>
官方2版本的中文文檔
https://www.elastic.co/guide/cn/elasticsearch/guide/current/index-settings.html
一 索引初始化
#新建一個lqz2的索引，索引分片數(shù)量為5，索引副本數(shù)量為1
PUT lqz2
{
"settings": {
"index":{
"number_of_shards":5,
"number_of_replicas":1
}
}
}
'''
number_of_shards
每個索引的主分片數(shù)，默認(rèn)值是 5 。這個配置在索引創(chuàng)建后不能修改。
number_of_replicas
每個主分片的副本數(shù)，默認(rèn)值是 1 。對于活動的索引庫，這個配置可以隨時修改。
'''
二 查詢索引配置
#獲取lqz2索引的配置信息 GET lqz2/_settings #獲取所有索引的配置信息 GET _all/_settings #同上 GET _settings #獲取lqz和lqz2索引的配置信息 GET lqz,lqz2/_settings
三 更新索引
#修改索引副本數(shù)量為2
PUT lqz/_settings
{
"number_of_replicas": 2
}
#如遇到報錯：cluster_block_exception，因為
#這是由于ES新節(jié)點的數(shù)據(jù)目錄data存儲空間不足，導(dǎo)致從master主節(jié)點接收同步數(shù)據(jù)的時候失敗，此時ES集群為了保護數(shù)據(jù)，會自動把索引分片index置為只讀read-only
PUT _all/_settings
{
"index": {
"blocks": {
"read_only_allow_delete": false
}
}
}
四 刪除索引
#刪除lqz索引 DELETE lqz
以上就是Elasticsearch之倒排索引及索引操作的詳細內(nèi)容，更多關(guān)于Elasticsearch倒排索引索引操作的資料請關(guān)注腳本之家其它相關(guān)文章！
相關(guān)文章
這篇文章主要介紹了python的一些使用建議技巧分享，幫助大家更好的理解和學(xué)習(xí)python，感興趣的朋友可以了解下2020-08-08
這篇文章主要介紹了解決tensorflow 釋放圖,刪除變量問題，具有很好的參考價值，希望對大家有所幫助。一起跟隨小編過來看看吧2020-06-06
Pycharm 實現(xiàn)下一個文件引用另外一個文件的方法
今天小編就為大家分享一篇Pycharm 實現(xiàn)下一個文件引用另外一個文件的方法，具有很好的參考價值，希望對大家有所幫助。一起跟隨小編過來看看吧2019-01-01
Python 中將秒轉(zhuǎn)換為小時、分鐘和秒的示例代碼
這篇文章主要介紹了在 Python 中將秒轉(zhuǎn)換為小時、分鐘和秒,本篇文章將討論使用 Python 中的四種不同方法來使用、管理秒并將其轉(zhuǎn)換為天、小時、分鐘和秒，需要的朋友可以參考下2023-05-05
python解決Missing 1 required positional ar
這篇文章主要介紹了python解決Missing 1 required positional argument報錯問題,具有很好的參考價值,希望對大家有所幫助,如有錯誤或未考慮完全的地方,望不吝賜教2023-12-12
這篇文章主要為大家詳細介紹了OpenCv實現(xiàn)繪圖功能，文中示例代碼介紹的非常詳細，具有一定的參考價值，感興趣的小伙伴們可以參考一下2021-05-05
這篇文章主要介紹了再談Python中的字符串與字符編碼（推薦），具有一定的參考價值，有需要的可以了解一下。2016-12-12
這篇文章主要給大家介紹了關(guān)于如何利用 python 對目錄下的文件進行過濾刪除的相關(guān)資料，文中通過示例代碼介紹的非常詳細，對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值，需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧。2017-12-12
基于Django OneToOneField和ForeignKey的區(qū)別詳解
這篇文章主要介紹了基于Django OneToOneField和ForeignKey的區(qū)別詳解，具有很好的參考價值，希望對大家有所幫助。一起跟隨小編過來看看吧2020-03-03
Django REST framework 分頁的實現(xiàn)代碼
這篇文章主要介紹了Django REST framework 分頁的實現(xiàn)代碼，文中通過示例代碼介紹的非常詳細，對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值，需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2019-06-06