Lucene 架构 总结

Lucene 总的来说是:

• 一个高效的,可扩展的,全文检索库。

• 全部用 Java 实现,无须配置。

• 仅支持纯文本文件的索引(Indexing)和搜索(Search)。

• 不负责由其他格式的文件抽取纯文本文件,或从网络中抓取文件的过程。

在 Lucene in action 中,Lucene 的构架和过程如下图,

说明 Lucene 是有索引和搜索的两个过程,包含索引创建,索引,搜索三个要点。
让我们更细一些看 Lucene 的各组件:

• 被索引的文档用 Document 对象表示。

• IndexWriter 通过函数 addDocument 将文档添加到索引中,实现创建索引的过程。

• 将文档添加到索引中,实现创建索引的过程。

• Lucene 的索引是应用反向索引。

• 当用户有请求时,Query 代表用户的查询语句。

• IndexSearcher 通过函数 search 搜索 Lucene Index。

• IndexSearcher 计算 term weight 和 score 并且将结果返回给用户。

• 返回给用户的文档集合用 TopDocsCollector 表示。

那么如何应用这些组件呢?
让我们再详细到对 Lucene API 的调用实现索引和搜索过程。

• 索引过程如下:

  • 创建一个 IndexWriter 用来写索引文件,它有几个参数,INDEX_DIR 就是索引文件所存放的位置,Analyzer 便是用来对文档进行词法分析和语言处理的。

  • 创建一个 Document 代表我们要索引的文档。

  • 将不同的 Field 加入到文档中。我们知道,一篇文档有多种信息,如题目,作者,修改时间,内容等。不同类型的信息用不同的 Field 来表示,在本例子中,一共有两类信息进行了索引,一个是文件路径,一个是文件内容。其中 FileReader 的SRC_FILE 就表示要索引的源文件。

  • IndexWriter 调用函数 addDocument 将索引写到索引文件夹中。

• 搜索过程如下:

  • IndexReader 将磁盘上的索引信息读入到内存,INDEX_DIR 就是索引文件存放的位置。

• 创建 IndexSearcher 准备进行搜索。

• 创建 Analyer 用来对查询语句进行词法分析和语言处理。

• 创建 QueryParser 用来对查询语句进行语法分析。

• QueryParser 调用 parser 进行语法分析,形成查询语法树,放到 Query 中。

• IndexSearcher 调 用 search 对 查 询 语 法 树 Query 进 行 搜 索 , 得 到 结 果TopScoreDocCollector。

以上便是 Lucene API 函数的简单调用。
然而当进入 Lucene 的源代码后,发现 Lucene 有很多包,关系错综复杂。
然而通过下图,我们不难发现,Lucene 的各源码模块,都是对普通索引和搜索过程的一种实现。
此 图 是 上 一 节 介 绍 的 全 文 检 索 的 流 程 对 应 的 Lucene 实 现 的 包 结 构 。 ( 参 照http://www.lucene.com.cn/about.htm 中文章《开放源代码的全文检索引擎Lucene》)

• Lucene 的 analysis 模块主要负责词法分析及语言处理而形成 Term。。

• Lucene 的 index 模块主要负责索引的创建,里面有 IndexWriter。

• Lucene 的 store 模块主要负责索引的读写。

• Lucene 的 QueryParser 主要负责语法分析。

• Lucene 的 search 模块主要负责对索引的搜索。

• Lucene 的 similarity 模块主要负责对相关性打分的实现。