最具影响力的数字化技术在线社区

168大数据

 找回密码
 立即注册

QQ登录

只需一步,快速开始

1 2 3 4 5
开启左侧

Elasticsearch学习笔记

[复制链接]
发表于 2017-12-12 17:03:01 | 显示全部楼层 |阅读模式

马上注册,结交更多数据大咖,获取更多知识干货,轻松玩转大数据

您需要 登录 才可以下载或查看,没有帐号?立即注册

x
在介绍Elasticsearch的用法之前先讲讲为什么要用它吧。首先学习搜索引擎,肯定不可避免的都听过lucene,solr和Elasticsearch都是基于它的。spinx文章很多,但是数据库的入侵性太强(插件模式)。Elasticsearch是当下最流行的分布式搜索引擎之一。solr也稍微玩过,文章也多。同时也希望能通过Elasticsearch进一步学习完善自己对于分布式的学习。更深入的同学可以考虑开始学习ELK(Elasticsearch, Logstash, Kibana)。
推荐:《Elasticsearch-definitive-guide》
看过这本书之后入门就成了很简单的事,书很浅显易懂,没什么特别难的地方。
其中有一个例子写的非常好,可以作为全局引导大家学习,摘抄一部分过来:
我们首先要做的是存储员工数据,每个文档代表一个员工。在Elasticsearch中存储数据的行为就叫做索引(indexing),不过在索引之前,我们需要明确数据应该存储在哪里。
在Elasticsearch中,文档归属于一种类型(type),而这些类型存在于索引(index)中,我们可以画一些简单的对比图来类比传统关系型数据库:
Relational DB -> Databases -> Tables -> Rows -> ColumnsElasticsearch -> Indices   -> Types  -> Documents -> Fields
Elasticsearch集群可以包含多个索引(indices)(数据库),每一个索引可以包含多个类型(types)(表),每一个类型包含多个文档(documents)(行),然后每个文档包含多个字段(Fields)(列)。

「索引」含义的区分


你可能已经注意到索引(index)这个词在Elasticsearch中有着不同的含义,所以有必要在此做一下区分:
  • 索引(名词) 如上文所述,一个索引(index)就像是传统关系数据库中的数据库,它是相关文档存储的地方,index的复数是indices indexes
  • 索引(动词) 「索引一个文档」表示把一个文档存储到索引(名词)里,以便它可以被检索或者查询。这很像SQL中的INSERT关键字,差别是,如果文档已经存在,新的文档将覆盖旧的文档。
  • 倒排索引 传统数据库为特定列增加一个索引,例如B-Tree索引来加速检索。Elasticsearch和Lucene使用一种叫做倒排索引(inverted index)的数据结构来达到相同目的。
默认情况下,文档中的所有字段都会被索引(拥有一个倒排索引),只有这样他们才是可被搜索的。
理解上面的索引介绍后,接下来就是很入门的开工工作了。安装Elasticsearch:
  • 安装JDK(下载地址)
  • 安装ElasticSearch(下载地址)
    • 解压,运行\bin\elasticsearch.bat.
    • 浏览器输入http://localhost:9200/,可以看到如图:
    • 安装成功。
  • 安装ElasticSearch – header plugin https://github.com/mobz/elasticsearch-head
    这个插件主要是用来管理索引数据和状态,文档中有详细说明,安装步骤也很简单,用命令行转bin目录下运行插件安装
    完成后,打开http://localhost:9200/_plugin/head/就可以看到下面这个管理界面
    2.png

  这样子安装算告一段落了,可以开始写点代码做点实事了,我用的是NEST这个Client工具,大家可以根据自己的语言选择工具。
  一般而言,我们用到搜索的功能都是全文索引,否则也没必要用搜索引擎了:

      
[AppleScript] 纯文本查看 复制代码
static void Main(string[] args)
        {
            //var person = new Person
            //{
            //    Id = System.Guid.NewGuid().ToString("N"),
            //    Firstname = "中文测试一下 天才",
            //    Lastname = "哈哈 蠢的不行?"
            //};
            //CraateIndex(person);
            var items = GetPagingForSearch<Person>("天才", "firstname", SortOrder.Descending, 0, 10);
            foreach (var item in items)
            {
                Console.WriteLine("item:" + Newtonsoft.Json.JsonConvert.SerializeObject(item));
            }

            Console.ReadLine();
        }

        public static IList<T> GetPagingForSearch<T>(string key, string orderbyKey, SortOrder orderType, int index, int size) where T : class
        {
            var client = GetClient();
            //query_string只是其中一种最常用查询,Operator枚举的Or和And可以根据全文检索的业务要求使用,以下查询就是为了最简单的分页全文检索接口
            var searchResults = client.Search<T>(s => s
                .Index("sample-index")
                .Type("sample-type")
                .Query(q => q.QueryString(qs => qs.Query(key).DefaultOperator(Operator.And)))
                .Sort(sort => sort.OnField(orderbyKey).Order(orderType))
                .From(index * size)       //分页页码
                .Size(size)      //分页尺寸
            );

            return searchResults.Documents.ToList();
        }

        public static void CraateIndex<T>(T model) where T : class
        {
            var client = GetClient();
            var index = client.Index(model, i => i
                .Index("sample-index")
                .Type("sample-type")
                .Id(System.Guid.NewGuid().ToString("N"))
                .Refresh()
                .Ttl("1m")
            );
        }

        public static ElasticClient GetClient()
        {
            var node = new Uri("http://localhost:9200");

            var settings = new ConnectionSettings(
                node,
                defaultIndex: "my-application"
            );

            return new ElasticClient(settings);
        }



运行结果:
3.png
[img]file:///C:/Users/Administrator/AppData/Roaming/Tencent/Users/262028225/QQ/WinTemp/RichOle/@1LH4V260UUP0JEJMQPVP[6.png[/img]
以上只用到了QueryString,当然它的查询方法远不只这些,具体的查询方法我这里就不班门弄斧了。推荐去看文档。附上NEST的文档:http://nest.azurewebsites.net/nest/quick-start.html

  Elasticsearch致力于隐藏分布式系统的复杂性。以下这些操作都是在底层自动完成的:
  • 将你的文档分区到不同的容器或者分片(shards)中,它们可以存在于一个或多个节点中。
  • 将分片均匀的分配到各个节点,对索引和搜索做负载均衡。
  • 冗余每一个分片,防止硬件故障造成的数据丢失。
  • 将集群中任意一个节点上的请求路由到相应数据所在的节点。
  • 无论是增加节点,还是移除节点,分片都可以做到无缝的扩展和迁移。
  
你可以看到以下默认的分片情况:
1.png

很明显以上分片都在同一个node上,而分片又组成了集群。其中node本身是有可能存在主分片和复制分片,而节点与节点之间又有可能通过分片联系。
还有一些很关键的集群模块,集群健康监控,Elasticsearch健康有三种状态:green、yellow或red。限制query执行时占用的JVM Heap sized等等。
对于分布式这块这里就不能再往下展开了,具体可学习文中提到的那本书,里面有详细介绍。而性能方面,由于现在公司的业务根本达不到这个数量级,暂时无法给出较好的对比。千百万级别,不管solr,还是ES都是OK的。上亿恐怕要斟酌和优化了。


楼主热帖
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

关闭

站长推荐上一条 /1 下一条

关于我们|小黑屋|Archiver|168大数据 ( 京ICP备14035423号|申请友情链接

GMT+8, 2024-4-19 05:41

Powered by BI168大数据社区

© 2012-2014 168大数据

快速回复 返回顶部 返回列表