记一次Kafka问题排查
问题
生产环境下发现某个数据库中的某张表同步。
由于我们使用的是canal
进行数据库的同步。
canal
中针对kafka
的主要配置如下:
canal.mq.partitionsNum=10
canal.mq.partitionHash=.*\\..*
该配置定义了根据库及表名,发送数据到指定的分区。最大分区数为10。
经过研究发现,未同步的表会将数据发送至分区5。至此发现主要的队列的分区5已不存在。
生产环境下发现某个数据库中的某张表同步。
由于我们使用的是canal
进行数据库的同步。
canal
中针对kafka
的主要配置如下:
canal.mq.partitionsNum=10
canal.mq.partitionHash=.*\\..*
该配置定义了根据库及表名,发送数据到指定的分区。最大分区数为10。
经过研究发现,未同步的表会将数据发送至分区5。至此发现主要的队列的分区5已不存在。
[Pivotal Greenplum® 6.4 Documentation · Pivotal Greenplum Download · Pivotal Greenplum Command Center 6.1.0 Documentation]
Pivotal Greenplum数据库是一个大规模并行处理(MPP)数据库服务器,它支持下一代数据仓库和大规模分析处理。通过自动分区数据并运行并行查询,它使服务器集群可以作为单个数据库超级计算机运行,其运行速度比传统数据库快数十倍或数百倍。 它支持SQL,MapReduce并行处理以及数据量,范围从数百GB到数百TB。
wordpress
的头像加载一般是最头疼的地方。原因有三,其一是头像缓存的服务器在国外。所以国内使用的话,网络慢得可怜;其二是可以使用国内的头像缓存服务,但是指不定哪天就给关闭了;其三,我们可以直接禁用该服务,目前如果我们需要此服务的话,就只能使用默认头像。所以我想到,是不是可以自己写一个服务去缓存这些头像。就像CDN
一样。
Gravatar是一图像跟随著您到访过的网站,当您在博客中留言或发表文章,它将会出现在您的名称旁。头像协助识别您在博客和论坛发表的文章,何乐而不为呢?
当然,我们也可以直接百度一下,查找本地缓存的例子。博主也查了一下。大部分的代码都年久失修,直接拿来用是不可能的。而他们的一些例子基本上都是写在插件里面,或者functions.php
里面。其实这样做也是不合理的,因为会导致页面加载时间变长。毕竟第一次载入还是有些耗时的。所以只有做成服务再加上懒加载技术,才是解决这样的问题最好的路径。