一些问题

从MySQL转做ES的时候，有一些问题比较困扰：

1. 为什么es会丢数据；
2. 什么样的节点可以是coordinate node；
3. refresh index和flush index是什么操作；
4. memory buffer, filesystem cache都存在什么地方；
5. 集群中的节点如何配合写入的；
6. 数据怎么存放的；
7. 为什么写入到filesystem cache中就可以索引了；

写入概览

首先我们从分布式集群的角度分析下写入，采用系统默认的参数来说明。

集群有三个节点，都存储数据，indexA 有5个分片，2个复制集。数据如下分布
Node1: shard1
Node2: shard2, shard3, shard1-R1(shard1的复制集)
Node3: shard4, shard5, shard-R2(shard1的复制集)

为了简化问题，shard2,shard5等shard的复制集忽略问题了。现在以写入shard1为例说明问题。

ES集群结构

1. 首先客户端根据配置的连接节点，通过轮询方式连接到一个coordinate节点；

coordinate节点不是很master/client/data节点一个维度的描述，它就是指处理客户端请求的节点。这个描述和cassandra的coordinate节点是一个概念。集群中所有的节点都可以是coordinate节点。

2. coodinate节点通过hash算法计算出数据在shard1上 shard=hash(document_id)%(num_of_primary_shards)，然后根据节点上维护的shard信息，将请求发送到node1上；
3. node1 对索引数据进行校验，然后写入到shard中。具体细节见下一节 写入到shard；
4. 主节点数据写入成功后，将数据并行发送到副本集节点Node2, Node3；
5. Node2,Node3写入数据成功后，发送ack信号给shard1主节点Node1；
6. Node1发送ack给coordinate node；
7. coordinate node发送ack给客户端；

写入shard

上面第三步骤，shard内写入还需要详细分析下：

shard写入

1. 数据写入到内存buffer；
2. 同时写入到数据到translog buffer；
3. 每隔1s数据从buffer中refresh到FileSystemCache中，生成segment文件，一旦生成segment文件，就能通过索引查询到了；
4. refresh完，memory buffer就清空了；
5. 每隔5s中，translog 从buffer flush到磁盘中；
6. 定期/定量从FileSystemCache中,结合translog内容 flush index到磁盘中。做增量flush的；

各种数据库的单节点写入过程大同小异，一般都是写内存，记录操作日志（防止节点宕机，内存中的数据丢失）然后flush到磁盘，有个线程不断的merge 数据块。不过是写入的数据格式不同。

另外分布式或者主从式部署结构，又需要将写入的数据复制到不同的节点，这个过程比较复杂，每个数据库处理也有不同的逻辑。

ES写入的中间过程还多了一层buffer，我们知道buffer和cache虽然都是为了提高写入效率，但是工作原理不同。

Buffer（缓冲区）是系统两端处理速度平衡（从长时间尺度上看）时使用的。它的引入是为了减小短期内突发I/O的影响，起到流量整形的作用。比如生产者——消费者问题，他们产生和消耗资源的速度大体接近，加一个buffer可以抵消掉资源刚产生/消耗时的突然变化。（来自百度百科）

Cache（缓存）则是系统两端处理速度不匹配时的一种折衷策略。因为CPU和memory之间的速度差异越来越大，所以人们充分利用数据的局部性（locality）特征，通过使用存储系统分级（memory hierarchy）的策略来减小这种差异带来的影响。（来自百度百科）

所以写入到buffer中的数据，还是原始数据，还没有索引，搜索不到的。只有到Cache中还可以。

和MySQL,Cassandra,Mongo的写入对比

数据库写入过程都需要写入操作日志，复制集日志，不同的数据库不一样的处理方法。有些数据库是共用的，有些数据库则是分开的。

写操作日志的过程一般是直接写入磁盘的，因为它本身就是防止进程、机器宕机造成内存数据丢失，而用来恢复数据的。写入buffer中又会可能会导致数据的丢失。所以像ES、mysql innodb这种操作日志写buffer的也会提供配置项，来保证当事务成功后，操作日志会被刷盘的。不过ES的操作日志最小刷盘不能低于100ms。

下面是各个数据库的日志对比：

数据库	记录日志 ,刷磁盘	复制日志	备注
cassandra	commit log	commit log	commit log 直接写磁盘
mongo	journal	oplog	journal log写磁盘
mysql	redo logs	binlog	redo logs写buffer
ES	translog	translog	写buffer

完。