云HBase发布全文索引服务,轻松应对复杂查询
云HBase发布了“全文索引服务”功能，自2019年01月25日后创建的云HBase实例，可以在控制台免费开启此“全文索引服务”功能。使用此功能可以让用户在HBase之上构建功能更丰富的搜索业务，不再局限于KV简单查询，不再苦恼于设计各种rowkey，不再后怕日益变化的HBase复杂查询业务。“全文索引服务”为云HBase增强查询能力而设计，自动同步数据，用户只需重点关注如何使用强大的检索功能来丰富自己的业务架构。
为什么要增强HBase的检索能力
我们在使用HBase的时候都会面临一个问题，就是设计HBase的rowkey。可尽管我们工程师是多么的优秀，整理罗列了所有业务检索需求，并裁剪折中了这样那样的业务，缺依然不能设计一个全能的rowkey来满足各种业务查询需求。
例如在某物流管理系统中，我们需要对收件人姓名/手机/地址、寄件人姓名/手机/地址、运单编号/开始时间/结束时间、邮递员姓名/手机等条件，进行任意组合查询。这种复杂查询情况下，HBase原先的KV查询无法满足，尽管我们如何设计rowkey，都不能满足查询条件的任意性。另外，在这些查询中，可能会涉及到姓名/地址/手机号等条件的模糊查询，这也是HBase rowkey不能很好满足的。
又例如在某新零售业务中，需要对商品标题或者描述内容进行关键字查询，在HBase中我们只能使用模糊查询来实现，但模糊查询在HBase中是比较低效的。类似这种标题/描述内容中进行关键字查询业务，比较合适使用分词查询，这个功能HBase都无法提供满足。另外，在新零售查询业务中，为了提高用户体验，经常会提高搜索结果进行分类统计的需求，例如我们在电商网站中，搜索关键字“时尚”，在显示匹配此关键字结果的商品中，按照 衣服、电子、日用等类型进行了分类统计匹配结果，这样用户就可以选择对应的大类进行二次查询，快速查询到用户想要的商品，从而提高了用户体验。像这个功能，HBase也无法满足。
最终为了适应HBase系统的查询特点，对业务做了折中，只保留部分KV查询的业务，其他可以提高用户体验的各种查询业务被全部砍掉了。
总结下来，我们列出来了几个使用HBase进行查询业务设计时碰到的痛点：
无法满足任意条件组合查询
不能高效支持模糊查询
不支持关键字分词查询
不能高效支持多维度的排序/分页
不能对查询的结果集进行分类统计
云HBase全文索引服务，增强HBase检索能力
全文索引服务是为了增强HBase查询能力而设计，使得HBase除了强大的KV能力外，更加丰富了它的在复杂条件查询下的能力，具体抽象出来以下几个场景：
复杂条件任意查询
多维度排序
复杂条件分页
分词关键字查询
匹配结果集分类统计
常用min/max/avg/sum等stats统计
云HBase全文索引服务使用简单，只需要DDL阶段建立索引，后续自动进行数据索引同步，架构如下：
和自建的区别
功能云HBase启用全文索引自建HBase+indexer+solrHBase简单rowkey查询支持支持支持复杂查询支持支持不支持索引同步支持支持不支持乱序同步支持不支持———强一致支持不支持———xml动态列支持不支持———
另外，自建hbase+indexer+solr存在几个bug，导致很多用户反馈的自建这种架构丢数据现象；云HBase对此进行了许多bugfix和改进。
如何使用云HBase全文索引服务
云HBase全文索引服务的使用，启用此服务后，只需要简单DDL建立索引即可，插入同步无限管理，用户只需关注后续查询要使用HBase api/Solr api进行构建丰富的业务查询即可。下面我们来简单体验下整个流程。
开启服务
“全文索引服务”属于云HBase的免费扩展服务，自2019年1月25日后创建的云HBase实例控制台，实例左侧点击“全文索引服务”详情页进行服务开启即可，如下：
申请后的如下Solr访问地址以及WebUI连接，如图：
其中solr zk地址即可构造cloud solr client进行访问，此访问客户端自带负载均衡功能。Solr WebUI访问方式与云HBase WebUI访问一致，第一次访问是设置好用户密码与白名单，然后直接点上面的链接即可跳转到Solr的WebUI。
建立索引
下载索引管理客户端工具
wget http://public-hbase.oss-cn-hangzhou.aliyuncs.com/installpackage/solr-7.3.1-ali-1.0.tgztar zxvf solr-7.3.1-ali-1.0.tgz
修改solr-7.3.1-ali-1.0/bin/solr.in.sh文件的ZK_HOST如下：
ZK_HOST=zk1:2181,zk2:2181,zk3:2181/solr
zk地址即为上图控制台开通全文索引服务后的solr zk访问地址。
创建HBase表，开启replication同步机制
create 'solrdemo',{NAME=>'info', REPLICATION_SCOPE=> '1'}
创建Solr表democollection
第一步，修改并上传solrconfig.xml/schema，如果不需要修改，可使用demo默认config进行上传，如下：
solr-7.3.1-ali-1.0/bin/solr zk upconfig -d _democonfig -n democollection_config -z zk1:2181/solr
第二步，使用刚上传的配置创建democollection，如下：
curl "http://hostname:8983/solr/admin/collections?action=CREATE&name=democollection&numShards=1&replicationFactor=1&collection.configName=democollection_config"
其中hostname可以使用master3-1中缀的zk hostname进行替换。
配置HBase solrdemo表到Solr democollection表的字段映射索引关系
第一步，编辑index_conf.xml配置映射关系，例如：
配置描述了hbase表solrdemo的 info:q2 info:3 分别映射成solr democollection里面的name_s和age_i 字段。并指定以string解析info:q2 列保存到name_s字段中，以int解析info:q3 保存到age_i中。其中solr collection的name_s、age_i是何种类型，是根据solr collection的配置觉得，默认采用动态类型推断，即根据collection字段的名字后缀判断类型进行存储。常见类型_i、_s、_l、_b、_f、_d分别对应int/string/long/boolean/float/double。当然，用户也可以直接指定字段类型。最后一个update_version_l为固定写法，保存document级别的最新更新时间。
第二步，使用工具将 index_conf.xml 设置关联hbase表solrdemo和solr表democollection的索引映射关系，命令如下：
solr-7.3.1-ali-1.0/bin/solr-indexer add \ -n demoindex \ -f indexer_conf.xml \ -c democollection
到此，我们就完成了索引的关系映射，随后正常插入hbase即可，就不需要关心索引同步，它会自动同步hbase solrdemo表的对应字段到solr democollection表的对应字段中。如上例映射如下：
其中，HBase表的rowkey映射到Solr表里面的id字段。
查询检索
查询较为简单，依然完全兼容开源HBase API和Solr API的操作，根据业务使用solr进行条件查询，结果集中，id字段就是所有符合条件的hbase rowkey，我们只有这个id转换为rowkey，并使用HBase API读取属于这个行的原数据即可。流程图大致如下：
展望
索引管理更简单易用
SQL入口接入全文索引服务
全文引擎新一代更高效副本机制
除了异步索引，同步索引也会后续支持
本文为云栖社区原创内容，未经允许不得转载。
