sphinx与mysql的配置 创建sphinx统计表,在coreseek_test库中执行。
1 2 3 4 5 CREATE TABLE sph_counter ( counter_id INTEGER PRIMARY KEY NOT NULL , max_doc_id INTEGER NOT NULL );
创建配置sphinx与mysql的配置文件# vi /usr/local/coreseek/etc/csft_mysql.conf
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 #MySQL数据源配置,详情请查看:http: #源定义 source main { type = mysql sql_host = localhost sql_user = root sql_pass = 123456 sql_db = coreseek_test sql_port = 3306 sql_query_pre = SET NAMES utf8 sql_query_pre = REPLACE INTO sph_counter SELECT 1 ,MAX(id) FROM hr_spider_company; sql_query = SELECT * FROM hr_spider_company WHERE id<=( SELECT max_doc_id FROM sph_counter WHERE counter_id=1 ) #sql_query第一列id需为整数 #title、content作为字符串/文本字段,被全文索引 (注:执行报错的话把下面的几行注释掉) sql_attr_uint = id #从SQL读取到的值必须为整数 sql_attr_uint = from_id #从SQL读取到的值必须为整数,不支持全文检索 sql_attr_uint = link_id #从SQL读取到的值必须为整数,不支持全文检索 sql_attr_uint = add_time #从SQL读取到的值必须为整数,不支持全文检索 sql_field_string = link_url #字符串字段(可全文搜索,可返回原始文本信息) sql_field_string = company_name #字符串字段(可全文搜索,可返回原始文本信息) sql_field_string = type_name #字符串字段(可全文搜索,可返回原始文本信息) sql_field_string = trade_name #字符串字段(可全文搜索,可返回原始文本信息) sql_field_string = email #字符串字段(可全文搜索,可返回原始文本信息) sql_field_string = description #字符串字段(可全文搜索,可返回原始文本信息) sql_query_info_pre = SET NAMES utf8 #命令行查询时,设置正确的字符集 sql_query_info = SELECT id,from_id,link_id,company_name,type_name,trade_name,address,description , FROM_UNIXTIME(add_time) AS add_time FROM hr_spider_company WHERE id=$id #命令行查询时,从数据库读取原始数据信息 } source delta : main { sql_query_pre = SET NAMES utf8 sql_query = SELECT * FROM hr_spider_company WHERE id>( SELECT max_doc_id FROM sph_counter WHERE counter_id=1 ) sql_query_post_index = REPLACE INTO sph_counter SELECT 1 ,MAX(id) FROM hr_spider_company } #index定义 index main { source = main #对应的source 名称 path = /usr/ local/coreseek/ var/data/my sql #请修改为实际使用的绝对路径,例如:/usr/ local/coreseek/ var/... docinfo = extern mlock = 0 morphology = none min_word_len = 1 html_strip = 0 #中文分词配置,详情请查看:http: charset_dictpath = /usr/ local/mmseg3/ etc/ #BSD、Linux环境下设置,/ 符号结尾 charset_type = zh_cn.utf-8 } index delta : main { source = delta path = /usr/ local/coreseek/ var/data/ delta } #全局index定义 indexer { mem_limit = 128 M } #searchd服务定义 searchd { listen = 9312 read_timeout = 5 max_children = 30 max_matches = 1000 seamless_rotate = 0 preopen_indexes = 0 unlink_old = 1 pid_file = /usr/ local/coreseek/ var/log/ searchd_mysql.pid #请修改为实际使用的绝对路径,例如:/usr/ local/coreseek/ var/... log = /usr/ local/coreseek/ var/log/ searchd_mysql.log #请修改为实际使用的绝对路径,例如:/usr/ local/coreseek/ var/... query_log = /usr/ local/coreseek/ var/log/ query_mysql.log #请修改为实际使用的绝对路径,例如:/usr/ local/coreseek/ var/... binlog_path = #关闭binlog日志 }
我的测试表名为hr_spider_company,你只需要根据实际需求更改为自己的表名即可。
调用命令列表:
启动后台服务(必须开启)# /usr/local/coreseek/bin/searchd -c /usr/local/coreseek/etc/csft_mysql.conf
执行索引(查询、测试前必须执行一次)/usr/local/coreseek/bin/indexer -c /usr/local/coreseek/etc/csft_mysql.conf --all --rotate
执行增量索引/usr/local/coreseek/bin/indexer -c /usr/local/coreseek/etc/csft_mysql.conf delta --rotate
合并索引/usr/local/coreseek/bin/indexer -c /usr/local/coreseek/etc/csft_mysql.conf --merge main delta --rotate --merge-dst-range deleted 0 0
(为了防止多个关键字指向同一个文档加上–merge-dst-range deleted 0 0)
后台服务测试# /usr/local/coreseek/bin/search -c /usr/local/coreseek/etc/csft_mysql.conf aaa
关闭后台服务# /usr/local/coreseek/bin/searchd -c /usr/local/coreseek/etc/csft_mysql.conf --stop
自动化命令:crontab -e
1 2 3 */1 * * * * /bin/sh /usr/local/coreseek/bin/indexer -c /usr/local/coreseek/etc/csft_mysql.conf delta --rotate */5 * * * * /bin/sh /usr/local/coreseek/bin/indexer -c /usr/local/coreseek/etc/csft_mysql.conf --merge main delta --rotate --merge-dst-range deleted 0 0 30 1 * * * /bin/sh /usr/local/coreseek/bin/indexer -c /usr/local/coreseek/etc/csft_mysql.conf --all --rotate
以下任务计划的意思是:每隔一分钟执行一遍增量索引,每五分钟执行一遍合并索引,每天1:30执行整体索引。
Sphinx扩展安装安装 Coreseek官方教程中建议php使用直接include一个php文件进行操作,事实上php有独立的sphinx模块可以直接操作coreseek(coreseek就是sphinx!)已经进入了php的官方函数库,而且效率的提升不是一点点!但php模块依赖于libsphinxclient包。
[第一步] 安装依赖libsphinxclient
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 configure: creating ./config.status config.status: creating Makefile config.status: error: cannot find input file: Makefile.in //处理configure报错 编译过程中报了一个config.status: error: cannot find input file: src/Makefile.in这个的错误,然后运行下列指令再次编译就能通过了: //从新configure编译
[第二步] 安装sphinx的PHP扩展
1 2 3 4 5 6 7 8 9 10 11 12 13 14 http://pecl.php.net/package/sphinx extension =sphinx.so
打开phpinfo看一下是否已经支持了sphinx模块。
php调用sphinx示例 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 <?php $s = new SphinxClient ; $s ->setServer ("127.0.0.1" , 9312 ); $s ->setMatchMode (SPH_MATCH_PHRASE); $s ->setMaxQueryTime (30 ); $res = $s ->query ("宝马" ,'main' ); $err = $s ->GetLastError (); var_dump (array_keys ($res ['matches' ])); echo "<br>" ."通过获取的ID来读取数据库中的值即可。" ."<br>" ; echo '<pre>' ; var_dump ($res ); var_dump ($err ); echo '</pre>' ;
调用示例二:支持分页
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 <?php header("Content-type: text/html; charset=utf-8" ); require("./sphinxapi.php" ); $s = new SphinxClient; $s ->setServer("192.168.252.132" , 9312 ); // SPH_MATCH_ALL, 匹配所有查询词(默认模式); SPH_MATCH_ANY, 匹配查询词中的任意一个; SPH_MATCH_EXTENDED2, 支持特殊运算符查询 $s ->setMatchMode(SPH_MATCH_ALL); $s ->setMaxQueryTime(30 ); // 设置最大搜索时间 $s ->SetArrayResult(false); // 是否将Matches的key用ID代替 $s ->SetSelect ( "*" ); // 设置返回信息的内容,等同于SQL $s ->SetRankingMode(SPH_RANK_BM25); // 设置评分模式,SPH_RANK_BM25可能使包含多个词的查询的结果质量下降。 // $s ->SetSortMode(SPH_SORT_EXTENDED); // 发现增加此参数会使结果不准确 // $s ->SetSortMode(SPH_SORT_EXTENDED,"from_id asc,id desc" ); // 设置匹配项的排序模式, SPH_SORT_EXTENDED按一种类似SQL的方式将列组合起来,升序或降序排列。 $weights = array ('company_name' => 20 ); $s ->SetFieldWeights($weights ); // 设置字段权重 $s ->SetLimits ( 0 , 30 , 1000 , 0 ); // 设置结果集偏移量 SetLimits (便宜量,匹配项数目,查询的结果集数默认1000 ,阀值达到后停止) // $s ->SetFilter ( $attribute , $values , $exclude =false ); // 设置属性过滤 // $s ->SetGroupBy ( $attribute , $func , $groupsort ="@group desc" ); // 设置分组的属性 $res = $s ->query('@* "汽车"' ,'main' ,'--single-0-query--' ); // 代码高亮 $tags = array(); $tags_name = array(); foreach($res ['matches' ] as $key =>$value ){ $tags [] = $value ['attrs' ]; $company_name [] = $value ['attrs' ]['company_name' ]; $description [] = $value ['attrs' ]['description' ]; } $company_name = $s ->BuildExcerpts ($company_name , 'main' , '汽车' , $opts =array() ); // 执行高亮,这里索引名字千万不能用* $description = $s ->BuildExcerpts ($description , 'main' , '汽车' , $opts =array() ); // 执行高亮,这里索引名字千万不能用* foreach($tags as $k =>$v ) { $tags [$k ]['company_name' ] = $company_name [$k ]; // 高亮后覆盖 $tags [$k ]['description' ] = $description [$k ]; // 高亮后覆盖 } // 高亮后覆盖 $i = 0 ; foreach($res ['matches' ] as $key =>$value ){ $res ['matches' ][$key ] = $tags [$i ]; $i ++; } $err = $s ->GetLastError(); echo '<pre>' ; var_export($res ); var_export($err ); echo '</pre>' ;
错误:FATAL: failedto lock pid file ‘/home/zhangjie_z.pt/local/sphinx/var/log/searchd.pid’:Resource temporarily unavailable (searchd already running?) 意思就是你已经打开了一个search进程,你需要找到相关进程号ps -e|grep searchd,然后kill PID杀死之前的进程,再启动新进程)
启动 searchd 服务时提示如下错误: index ‘test1’: search error: failed to open /var/lib/sphinx/test1.sph: sphinx 错误解决 index ‘test1’: search error: failed to open /var/lib/sphinx/test.sph:No such file or directory; NOT SERVING 这个错误可能是没有建立好索引导致的,所以 indexer --all
很重要