实时机票/火车票抓取系统整体架构

系统 1710 0

实时机票/火车票抓取系统是一个带有业余性质的系统,主要是作为技术的训练场。比如说ActiveMq,RMI,WebService,即使最原始的Socket也在这里一展拳脚。

大概可以分为几个模块:

  1. 对外服务模块 :WebService(Axis2),RMI的方式,原始Socket流方式(主要学习用),HTTP JSON方式。
  2. 日志监控 :提供对抓取的监控,监控抓取网站的规则变化,如果出现抓取错误等提供Email报警。
  3. 流量/性能监控 :经过改造后的系统粒度非常细,运用了责任链的方式来把整个流程串起来,这样可以实现比较细粒度的流量和性能监控,可以知道每个流程节点(Handler)的流量情况和性能情况,5分钟把数据刷到DB。最后以报表图的方式展现出来。实现限流/监控功能。
  4. 抓取工具 :顾名思议,作为业务最核心的部分,实现对网站规则的解析。

各模块讲完,上一张整体的架构图:

实时机票/火车票抓取系统整体架构

实时机票/火车票抓取系统整体架构


更多文章、技术交流、商务合作、联系博主

微信扫码或搜索:z360901061

微信扫一扫加我为好友

QQ号联系: 360901061

您的支持是博主写作最大的动力,如果您喜欢我的文章,感觉我的文章对您有帮助,请用微信扫描下面二维码支持博主2元、5元、10元、20元等您想捐的金额吧,狠狠点击下面给点支持吧,站长非常感激您!手机微信长按不能支付解决办法:请将微信支付二维码保存到相册,切换到微信,然后点击微信右上角扫一扫功能,选择支付二维码完成支付。

【本文对您有帮助就好】

您的支持是博主写作最大的动力,如果您喜欢我的文章,感觉我的文章对您有帮助,请用微信扫描上面二维码支持博主2元、5元、10元、自定义金额等您想捐的金额吧,站长会非常 感谢您的哦!!!

发表我的评论
最新评论 总共0条评论