美文网首页
SolrCloud在生产环境中生成索引缓慢的问题

SolrCloud在生产环境中生成索引缓慢的问题

作者: 请叫我李半仙 | 来源:发表于2019-01-18 13:59 被阅读0次

索引生成系统之前一直很好,但最近生成速度却很慢,导致前些天的数据尚未更新,预算进行了以下操作
1.首先观测索引生成系统的日志,发现log在输入“开始创建”的时候等待了很长时间,于是将生产线程由1个调为3个,发现仍然很慢,于是开始检索生产代码,发现并没有什么问题
2.然后监测操作系统运行情况,查看了jvm,GC等情况,均无异常,然后netstat发现zk的连接数量很多,且大多数为WAIT状态的连接,果然这里有问题,于是查看zk日志,发现哪些wait的连接,不断连接-断开-再连接-再断开,猜测是因此导致正常的生产系统难以连接zk所致
3.想起前些天solr搜索系统添加了一个solr重连的机制,是不是不断重连机制未正常运转引起的,但发现zk的无效连接又不是java进程,不过抱着试一试的心态,还是暂时关闭了重连机制,但果然仍旧不行,zk一启动,无效链接便走起
4.于是开始从操作系统层面找问题,几经查询,发现是操作系统内核设置不当的原因,修改过后,果然不见了无效的链接
5.生产索引也开始变得正常,但是我发现索引在提交时依然很慢,查看代码,发现是使用的默认的硬提交的方式,改为软提交方式后,速度飞快,完美解决,而且NRT功能使得数据的更新展示更加及时
6.关于solr提交方式的原理分析,详见我另一篇博客:Solr的提交方式

相关文章

  • SolrCloud在生产环境中生成索引缓慢的问题

    索引生成系统之前一直很好,但最近生成速度却很慢,导致前些天的数据尚未更新,预算进行了以下操作1.首先观测索引生成系...

  • JW-SolrCloud

    SolrCloud是Solr提供的分布式搜索方案,用于大规模(高并发)、容错、分布式索引和检索能力时的环境。主要使...

  • 为何MySQL会选错索引

    在实际的生产环境中,给MySQL的字段加索引让查询的效率更高,我们往往会给MySQL的表字段加索引。MySQL具体...

  • es实战-深入内存以及熔断

    在 ES 生产环境中,性能问题一直是各厂商最头疼的问题,而其中的痛点就是内存相关。ES 作为当前搜索引擎市场的 N...

  • Mysql使用强制索引

    问题 生成环境,同一条sql在不同的从库执行,产生的执行计划不同,一个使用了索引,一个未使用索引 原因分析 分析是...

  • cross-env 环境配置

    场景 在开发过程中,通常会遇到这样的问题: 在开发环境、测试环境和生产环境中我们会用到不一样的接口 在生产环境出现...

  • 【iOS开发】设置多个schemes和configuration

    在开发过程中,我们一般会先在测试环境进行开发,确保功能没问题之后才放到生产环境。在测试和生产环境切换的过程中,我们...

  • @Resource注入失败

    生产环境 SpringBoot Hibernate 问题描述 在service层的LoginService中我使用...

  • 【0.1】服务器安装 摘要

    摘要   第一次记录是因为要上生产环境了,很多东西需要进行测试安装,我在测试环境中安装模拟一遍,那么在生成环境中可...

  • solr系列4——solr集群

    solrcloud 集群搭建(集成tomcat) 环境:JDK1.7.79 、 zookeeper3.4.8 、 ...

网友评论

      本文标题:SolrCloud在生产环境中生成索引缓慢的问题

      本文链接:https://www.haomeiwen.com/subject/dmtndqtx.html