在今天的文章里，我们来主要介绍一下 Elasticsearch 的 refresh 及 flush 两种操作的区别。如果我们从字面的意思上讲，好像都是刷新的意思。但是在 Elasticsearch 中，这两种操作是有非常大的区别的。本指南将有效解决两者之间的差异。我们还将介绍 Lucene 功能的基础知识，例如重新打开（reopen) 和提交 (commit)，这有助于理解 refresh 和 flush 操作。

Refresh 及 Flush

乍一看，Refresh 和 Flush 操作的通用目的似乎是相同的。两者都用于使文档在索引操作后立即可供搜索。在 Elasticsearch 中添加新文档时，我们可以对索引调用 _refresh 或 _flush 操作，以使新文档可用于搜索。要了解这些操作的工作方式，您必须熟悉 Lucene中的 Segments，Reopen 和 Commits。Apache Lucene 是 Elasticsearch 中的基础查询引擎。

Lucene 中的 Segments

在 Elasticsearch 中，最基本的数据存储单位是 shard。但是，通过 Lucene 镜头看，情况会有所不同。在这里，每个 Elasticsearch 分片都是一个 Lucene 索引 (index)，每个 Lucene 索引都包含几个 Lucene segments。一个 Segment 包含映射到文档里的所有术语（terms) 一个反向索引 (inverted index)。

下图显示了段的概念及其如何应用于 Elasticsearch 索引及其分片：

这种分 Segment 的概念是，每当创建新文档时，它们就会被写入新的 Segment 中。每当创建新文档时，它们都属于一个新的 Segment，并且无需修改前一个 Segment。如果必须删除文档，则在其原始 Segment 中将其标记为已删除。这意味着它永远不会从 Segement 中物理删除。

与更新相同：文档的先前版本在上一个 Segment 中被标记为已删除，更新后的版本保留在当前 Segment 中的同一文档 ID下。

Lucene 中的 Reopen

当调用 Lucene Reopen 时，将使累积的数据可用于搜索。尽管可以搜索最新数据，但这不能保证数据的持久性或未将其写入磁盘。我们可以调用 n 次重新打开功能，并使最新数据可搜索，但不能确定磁盘上是否存在数据。

Lucene 中的 Commits

Lucene 提交使数据安全。对于每次提交，来自不同段的数据将合并并推送到磁盘，从而使数据持久化。尽管提交是持久保存数据的理想方法，但问题是每个提交操作都占用大量资源。每个提交操作都有其自己的内部 I/O 操作以及与其相关的读/写周期。这就是为什么我们希望在基于 Lucene 的系统中一次又一次地重新使用重新打开功能以使新数据可搜索的确切原因。

Elasticsearch 中的 Translog

Elasticsearch 采用另一种方法来解决持久性问题。它在每个分片中引入一个事务日志（transaction log）。已建立索引的新文档将传递到此事务日志和内存缓冲区中。下图显示了此过程：

Elasticsearch 中的 refresh

当我们把一条数据写入到 Elasticsearch 中后，它并不能马上被用于搜索。新增的索引必须写入到 Segment 后才能被搜索到，因此我们把数据写入到内存缓冲区之后并不能被搜索到。新增了一条记录时，Elasticsearch 会把数据写到 translog 和 in-memory buffer (内存缓存区)中，如下图所示:

在此期间，该文档不能被搜索，但是我们还是可以通过 ID 使用 GET 来获得该文档。如果希望该文档能立刻被搜索，需要手动调用 refresh 操作。在 Elasticsearch 中，默认情况下 _refresh 操作设置为每秒执行一次。在此操作期间，内存中缓冲区的内容将复制到内存中新创建的 Segment 中，如下图所示。结果，新数据可用于搜索。

这个 refresh 的时间间隔可以由 index 设置中 index.refresh_interval 来定义。只有在 buffer 的内容写入到 Segement 后，这个被写入的文档才变为可以搜索的文档。通常 buffer 里的内容被写入到 Segment 里去，有三个条件：

由索引中的设置所指定的 refresh_interval 启动的周期性的 refresh。在默认的情况下为 1s。这使对索引的最近更改可见以进行搜索。默认为 1s。可以设置为 -1 以禁用刷新。在 Elasticsearch 7.0 发布之后，如果未明确设置此设置，则至少在 index.search.idle.after 秒之后仍未看到搜索流量的分片在收到搜索请求之前将不会接收后台刷新。命中空闲分片的搜索将等待下一次后台刷新（在1秒内）。此行为旨在在不执行搜索时在默认情况下自动优化批量索引。为了退出此行为，应将显式值 1s 设置为刷新间隔。
在导入文档时强制 refresh：PUT twitter/_doc/1?refresh=true
当 In Memory Buffer 满了，在默认的情况下为 node Heap 的 10%

这个过程会产生一个叫 Lucene flush 的操作，也会生产一个 segment。执行完 refresh 后的结果如下：

我们可以看出来，在 In-meomory buffer 中，现在所有的东西都是空的，但是 Translog 里还是有东西的。

refresh 的开销比较大,我在自己环境上测试 10W 条记录的场景下 refresh 一次大概要 14ms，因此在批量构建索引时可以把 refresh 间隔设置成 -1 来临时关闭 refresh, 等到索引都提交完成之后再打开 refresh, 可以通过如下接口修改这个参数:

curl -XPUT 'localhost:9200/test/_settings' -d '{"index" : {"refresh_interval" : "-1"}
}'

另外当你在做批量索引时,可以考虑把副本数设置成0，因为 document 从主分片 (primary shard) 复制到从分片 (replica shard) 时,从分片也要执行相同的分析、索引和合并过程,这样的开销比较大，你可以在构建索引之后再开启副本，这样只需要把数据从主分片拷贝到从分片:

curl -XPUT 'localhost:9200/my_index/_settings' -d ' {"index" : {"number_of_replicas" : 0}
}'

执行完批量索引之后,把刷新间隔改回来:

curl -XPUT 'localhost:9200/my_index/_settings' -d '{"index" : {"refresh_interval" : "1s"}
}'

你还可以强制执行一次 refresh 以及索引分段的合并:

curl -XPOST 'localhost:9200/my_index/_refresh'
curl -XPOST 'localhost:9200/my_index/_forcemerge?max_num_segments=5'

Translog 及持久化存储

但是，translog 如何解决持久性问题？每个 Shard 中都存在一个 translog，这意味着它与物理磁盘内存有关。它是同步且安全的，因此即使对于尚未提交的文档，您也可以获得持久性和持久性。如果发生问题，可以还原事务日志。同样，在每个设置的时间间隔内，或在成功完成请求（索引，批量，删除或更新）后，将事务日志提交到磁盘。

Elasticsearch 中的 Flush

Flush 实质上意味着将内存缓冲区中的所有文档都写入新的 Lucene Segment，如下面的图所示。这些连同所有现有的内存段一起被提交到磁盘，该磁盘清除事务日志（参见图4）。此提交本质上是 Lucene 提交（commit）。

Flush 会定期触发，也可以在 Translog 达到特定大小时触发。这些设置可以防止 Lucene 提交带来的不必要的费用。

结论

在本指南中，我们探索了两个紧密相关的 Elasticsearch 操作，_flush 和 _refresh 显示了它们之间的共性和差异。我们还介绍了 Lucene 的基础架构组件-重新打开（reopen) 并提交 (commits) - 这有助于掌握 Elasticsearch 中 _refresh 和 _flush 操作的要点。

简而言之，_refresh 用于使新文档可见以进行搜索。而 _flush 用于将内存中的段保留在硬盘上。 _flush 不会影响 Elasticsearch 中文档的可见性，因为搜索是在内存段中进行的，而不是 _refresh 会影响其可见性。

参考：

【1】Guide to Refresh and Flush Operations in Elasticsearch | Qbox HES

【2】Elasticsearch translog文件介绍 | EZLippi-浮生志

Elasticsearch：Elasticsearch 中的 refresh 和 flush 操作指南相关推荐

【Elasticsearch】Elasticsearch：Elasticsearch中的refresh和flush操作指南
1.概述转载:https://www.cnblogs.com/sanduzxcvbnm/p/12092561.html 在今天的文章里,我们来主要介绍一下Elasticsearch的refresh及 ...
【ES系列】ELASTICSEARCH中的REFRESH和FLUSH
起因:增删改之后,马上查找,数据不会发生变化发现elasticsearch执行增删改之后,是不会立即进行刷新的,需要配置refresh这个参数 Lucene的一个Index会由一个或多个sub-in ...
elasticsearch中 refresh 和flush区别【转】
elasticsearch中有两个比较重要的操作:refresh 和 flush refresh操作当我们向ES发送请求的时候,我们发现es貌似可以在我们发请求的同时进行搜索.而这个实时建索引并可以 ...
NodeJS同步MySQL上游数据到ElasticSearch数据库中
NodeJS同步MySQL上游数据到ElasticSearch数据库中项目地址: https://github.com/Miazzy/xdata-elasticsearchs-service.git ...
【Elasticsearch】在 Elastic Cloud 上的 Elasticsearch 服务中，如何针对日志和指标用例确定热温架构的规模
1.概述转载:在 Elastic Cloud 上的 Elasticsearch 服务中,如何针对日志和指标用例确定热温架构的规模主要是需要翻墙,比较麻烦. 希望深入了解 Amazon Elasti ...
es的refresh和flush介绍
elasticsearch中有两个比较重要的操作:refresh 和 flush refresh操作当我们向ES发送请求的时候,我们发现es貌似可以在我们发请求的同时进行搜索.而这个实时建索引并可以 ...
Elasticsearch - Elasticsearch 优化（十五）
一.硬件选择 Elasticsearch 的基础是 Lucene,所有的索引和文档数据是存储在本地的磁盘中具体的路径可在 ES 的配置文件../config/elasticsearch.yml 中配 ...
[Elasticsearch] Elasticsearch权威指南翻译目录
为了方便大家能够更加快速地找到自己需要参考的那部分,对已经翻译完成的部分根据权威指南的目录做了相应目录,希望能够有所帮助. 起步(Getting Started) 1. 你懂的,为了搜索英文原文链接 ...
C#中对注册表的操作指南
C#中对注册表的操作指南 Windows 操作系统的注册表包含了很多有关计算机运行的配置方式,打开注册表我们可以看到注册表是按类似于目录的树结构组织的,其中第二级目录包含了五个预定义主键分别是:HKE ...

Elasticsearch：Elasticsearch 中的 refresh 和 flush 操作指南