Lucene.net
Lucene.net是Lucene的.net移植版本，是一个开源的全文检索引擎开发包，即它不是一个完整的全文检索引擎，而是一个全文检索引擎的架构，提供了完整的查询引擎和索引引擎，是一个高性能、可伸缩的文本搜索引擎库。它的功能就是负责将文本数据按照某种分词算法进行切词，分词后的结果存储在索引库中，从索引库检索数据的速度非常快。Lucene.net需要有索引库，并且只能进行站内搜索。（来自百度百科）
效果图
盘古分词
如何使用
将PanGu.dIl与PanGu.Lucenet.Analyzer. dl并加入到项目中
将Dict文件，拷贝到项目Bin文件夹里面
字典文件夹下载：https://pan.baidu.com/s/1HNiLp6bCcodN8vqlck066g 提取码: xydc
测试
可以看到，盘古分词相对Lucene.net自带的一元分词来说，是比较好的，因为一元分词不适合进行中文检索。
一元分词是按字拆分的，比如上面一句话，使用一元分词拆分的结果是："有","一","种","方","言","叫","做","不","老","盖","儿"。如果查找“方言”这个词，是找不到查询结果的。不符合我们的检索习惯，所以基本不使用。
拓展
上面的"不老盖儿"（河南方言），这里想组成一个词，那么需要创建"不老盖儿"词组并添加到字典里面。
使用DictManage工具：https://pan.baidu.com/s/1Yla2DBM74kSbno8cg5kvGw 提取码：tphe
解压，运行 DictManage.exe
然后打开 Dict 文件下的 Dict.dct 文件，并添加"不老盖儿"词组
然后查找就可以看到"不老盖儿"词组
然后保存覆盖原有的 Dict.dct 文件
刷新页面或者重新打开页面看下效果
Demo文件说明
简单实现
创建索引核心代码
1/// <summary> 2 /// 创建索引 3 /// </summary> 4 /// <returns></returns> 5 [HttpGet] 6 [Route("createIndex")] 7 public string CreateIndex() 8 { 9 //索引保存位置 10 var indexPath = Directory.GetCurrentDirectory() + "/Index"; 11 if (!Directory.Exists(indexPath)) Directory.CreateDirectory(indexPath); 12 FSDirectory directory = FSDirectory.Open(new DirectoryInfo(indexPath), new NativeFSLockFactory()); 13 if (IndexWriter.IsLocked(directory)) 14 { 15 // 如果索引目录被锁定（比如索引过程中程序异常退出），则首先解锁 16 // Lucene.Net在写索引库之前会自动加锁，在close的时候会自动解锁 17 IndexWriter.Unlock(directory); 18 } 19 //Lucene的index模块主要负责索引的创建 20 // 创建向索引库写操作对象 IndexWriter(索引目录,指定使用盘古分词进行切词,最大写入长度限制) 21 // 补充:使用IndexWriter打开directory时会自动对索引库文件上锁 22 //IndexWriter构造函数中第一个参数指定索引文件存储位置； 23 //第二个参数指定分词Analyzer，Analyzer有多个子类， 24 //然而其分词效果并不好，这里使用的是第三方开源分词工具盘古分词； 25 //第三个参数表示是否重新创建索引，true表示重新创建（删除之前的索引文件）， 26 //最后一个参数指定Field的最大数目。 27 IndexWriter writer = new IndexWriter(directory, new PanGuAnalyzer(), true, 28 IndexWriter.MaxFieldLength.UNLIMITED); 29 var txtPath = Directory.GetCurrentDirectory() + "/Upload/Articles"; 30 for (int i = 1; i <= 1000; i++) 31 { 32 // 一条Document相当于一条记录 33 Document document = new Document(); 34 var title = "天骄战纪_" + i + ".txt"; 35 var content = System.IO.File.ReadAllText(txtPath + "/" + title, Encoding.Default); 36 // 每个Document可以有自己的属性（字段），所有字段名都是自定义的，值都是string类型 37 // Field.Store.YES不仅要对文章进行分词记录，也要保存原文，就不用去数据库里查一次了 38 document.Add(new Field("Title", "天骄战纪_" + i, Field.Store.YES, Field.Index.NOT_ANALYZED)); 39 // 需要进行全文检索的字段加 Field.Index. ANALYZED 40 // Field.Index.ANALYZED:指定文章内容按照分词后结果保存，否则无法实现后续的模糊查询 41 // WITH_POSITIONS_OFFSETS:指示不仅保存分割后的词，还保存词之间的距离 42 document.Add(new Field("Content", content, Field.Store.YES, Field.Index.ANALYZED, Field.TermVector.WITH_POSITIONS_OFFSETS)); 43 writer.AddDocument(document); 44 } 45 writer.Close(); // Close后自动对索引库文件解锁 46 directory.Close(); // 不要忘了Close，否则索引结果搜不到 47 return "索引创建完毕"; 48 }
View Code
搜索代码
1/// <summary> 2 /// 搜索 3 /// </summary> 4 /// <returns></returns> 5 [HttpGet] 6 [Route("search")] 7 public object Search(string keyWord, int pageIndex, int pageSize) 8 { 9 Stopwatch stopwatch = new Stopwatch(); 10 stopwatch.Start(); 11 string indexPath = Directory.GetCurrentDirectory() + "/Index"; 12 FSDirectory directory = FSDirectory.Open(new DirectoryInfo(indexPath), new NoLockFactory()); 13 IndexReader reader = IndexReader.Open(directory, true); 14 //创建IndexSearcher准备进行搜索。 15 IndexSearcher searcher = new IndexSearcher(reader); 16 // 查询条件 17 keyWord = GetKeyWordsSplitBySpace(keyWord, new PanGuTokenizer()); 18 //创建QueryParser查询解析器。用来对查询语句进行语法分析。 19 //QueryParser调用parser进行语法分析，形成查询语法树，放到Query中。 20 QueryParser msgQueryParser = new QueryParser(Lucene.Net.Util.Version.LUCENE_29, "Content", new PanGuAnalyzer(true)); 21 Query msgQuery = msgQueryParser.Parse(keyWord); 22 //TopScoreDocCollector:盛放查询结果的容器 23 //numHits 获取条数 24 TopScoreDocCollector collector = TopScoreDocCollector.create(1000, true); 25 //IndexSearcher调用search对查询语法树Query进行搜索，得到结果TopScoreDocCollector。 26 // 使用query这个查询条件进行搜索，搜索结果放入collector 27 searcher.Search(msgQuery, null, collector); 28 // 从查询结果中取出第n条到第m条的数据 29 ScoreDoc[] docs = collector.TopDocs(0, 1000).scoreDocs; 30 stopwatch.Stop(); 31 // 遍历查询结果 32 List<ReturnModel> resultList = new List<ReturnModel>(); 33 var pm = new Page<ReturnModel> 34 { 35 PageIndex = pageIndex, 36 PageSize = pageSize, 37 TotalRows = docs.Length 38 }; 39 pm.TotalPages = pm.TotalRows / pageSize; 40 if (pm.TotalRows % pageSize != 0) pm.TotalPages++; 41 for (int i = (pageIndex - 1) * pageSize; i < pageIndex * pageSize && i < docs.Length; i++) 42 { 43 var doc = searcher.Doc(docs[i].doc); 44 var content = HighlightHelper.HighLight(keyWord, doc.Get("Content")); 45 var result = new ReturnModel 46 { 47 Title = doc.Get("Title"), 48 Content = content, 49 Count = Regex.Matches(content, "<font").Count 50 }; 51 resultList.Add(result); 52 } 53 54 pm.LsList = resultList; 55 var elapsedTime = stopwatch.ElapsedMilliseconds + "ms"; 56 var list = new { list = pm, ms = elapsedTime }; 57 return list; 58 }
View Code
盘古分词
1/// <summary> 2 /// 盘古分词 3 /// </summary> 4 /// <param name="words"></param> 5 /// <returns></returns> 6 public static object PanGu(string words) 7 { 8 Analyzer analyzer = new PanGuAnalyzer(); 9 TokenStream tokenStream = analyzer.TokenStream("", new StringReader(words)); 10 Lucene.Net.Analysis.Token token = null; 11 var str = ""; 12 while ((token = tokenStream.Next()) != null) 13 { 14 string word = token.TermText(); // token.TermText() 取得当前分词 15 str += word + " | "; 16 } 17 return str; 18 }
View Code
搜索结果高亮显示
1/// <summary> 2 /// 搜索结果高亮显示 3 /// </summary> 4 /// <param name="keyword"> 关键字 </param> 5 /// <param name="content"> 搜索结果 </param> 6 /// <returns> 高亮后结果 </returns> 7 public static string HighLight(string keyword, string content) 8 { 9 // SimpleHTMLFormatter：这个类是一个HTML的格式类，构造函数有两个，一个是开始标签，一个是结束标签。 10 SimpleHTMLFormatter simpleHTMLFormatter = 11 new SimpleHTMLFormatter("<font style=\"color:red;" + 12 "font-family:'Cambria'\"><b>", "</b></font>"); 13 // 创建 Highlighter ，输入HTMLFormatter 和 盘古分词对象Semgent 14 Highlighter highlighter = 15 new Highlighter(simpleHTMLFormatter, 16 new Segment()); 17 // 设置每个摘要段的字符数 18 highlighter.FragmentSize = int.MaxValue; 19 // 获取最匹配的摘要段 20 var str = highlighter.GetBestFragment(keyword, content); 21 return str; 22 }
View Code
对关键字进行盘古分词处理
1/// <summary> 2 /// 对关键字进行盘古分词处理 3 /// </summary> 4 /// <param name="keywords"></param> 5 /// <param name="ktTokenizer"></param> 6 /// <returns></returns> 7 private static string GetKeyWordsSplitBySpace(string keywords, PanGuTokenizer ktTokenizer) 8 { 9 StringBuilder result = new StringBuilder(); 10 ICollection<WordInfo> words = ktTokenizer.SegmentToWordInfos(keywords); 11 12 foreach (WordInfo word in words) 13 { 14 if (word == null) 15 { 16 continue; 17 } 18 result.AppendFormat("{0}^{1}.0 ", word.Word, (int)Math.Pow(3, word.Rank)); 19 } 20 return result.ToString().Trim(); 21 }
View Code