说到流处理，Spark为我们提供了窗口函数，允许在滑动数据窗口上应用转换，常用场景如每五分钟商场人流密度、每分钟流量等等，接下来我们通过画图来了解SparkStreaming的窗口函数如何工作的，处理过程图如下所示：上图中绿色的小框框是一批一批的数据流，虚线框和实线框分别是前一个窗口和后一个窗口，从图中可以看出后一个窗口在前一个窗口基础上移动了两个批次的数据流，而我们真正通过算子操作的数据其实就是窗口内所有的数据流。在代码实现前了解下窗口操作常用的函数有：
系统 2019-09-27 17:52:34 1886
今天接到一个新的任务,要对一个140多M的csv文件进行数据处理,总共有170多万行,尝试了导入本地的MySQL数据库进行查询,结果用Navicat导入直接卡死....估计是XAMPP套装里面全默认配置的MySQL性能不给力,又尝试用R搞一下吧结果发现光加载csv文件就要3分钟左右的时间,相当不给力啊,翻了翻万能的知乎发现了Python下的一个神器包:Pandas(熊猫们?),加载这个140多M的csv文件两秒钟就搞定,后面的分类汇总等操作也都是秒开,太牛
系统 2019-09-27 17:52:33 1886
在上一篇文章中，我们讲了如何在linux上用python写一个守护进程。主要原理是利用linux的fork函数来创建一个进程，然后退出父进程运行，生成的子进程就会成为一个守护进程。细心观察的可能会发现，这个守护进程的运行身份是执行这个程序的用户，如果把这个守护程序加入到系统的服务项，那么这个守护程序的执行身份应该是root。一个情况出现了，root的权限比较大，如果通过这个root身份的守护程序来进行操作，危险性是比较大的。一种好的办法是生成一个身份为ro
系统 2019-09-27 17:52:32 1886
前序Thereshouldbeone-andpreferablyonlyone-obviouswaytodoit.――――theZenofPython意译：Python提倡用一种，而且最好是只有一种方法来完成一件事虽然Python有以上的提倡，但却在字符串格式化方面，没有做到这一点。字符串格式化敲黑板，划重点：在Python中有至少三种常见方式实现字符串格式化：%-formatting格式（Python2.6以前，推荐输出时使用）str.format()格
系统 2019-09-27 17:52:21 1886
本文实例讲述了python日志logging模块使用方法。分享给大家供大家参考，具体如下：一、从一个使用场景开始开发一个日志系统，既要把日志输出到控制台，还要写入日志文件importlogging#创建一个loggerlogger=logging.getLogger('mylogger')logger.setLevel(logging.DEBUG)#创建一个handler，用于写入日志文件fh=logging.FileHandler('test.log')
系统 2019-09-27 17:51:47 1886
2019-09-18-21:11:24(初学者不会学博客,望大家见谅见谅)今天学的内容是有关list.、dict、set集合的使用方法和注意事项list和dict在循环中不可删,而且list在迭代输出时进行删除是会导致索引跟着改变所以一般list不在循环过程中进行删除list和dict要进行删除时,应该把要删除的记录到另一个列表中,然后在进行删除深浅拷贝:浅拷贝只拷贝第一层的内容,而深拷贝是全部内容都进行了拷贝下面是总结的内容:一.重要知识点1.str.j
系统 2019-09-27 17:51:29 1886
B.py调用A.py的函数或类在同一个文件夹下调用函数：A.py文件：defadd(x,y):print('和为：%d'%(x+y))B.py文件：importAA.add(1,2)或fromAimportaddadd(1,2)调用类：A.py文件:classA:def__init__(self,xx,yy):self.x=xxself.y=yydefadd(self):print("x和y的和为：%d"%(self.x+self.y))B.py文件：fr
系统 2019-09-27 17:51:08 1886
生成器就是自己用python代码写的迭代器，生成器的本质就是迭代器。通过以下两种方式构建一个生成器：1、通过生成器函数2、生成器表达式生成器函数：函数deffunc1(x):x+=1returnxprint(func1(5))生成器函数deffunc1(x):x+=1yieldxg_obj=func1(5)print(g_obj.__next__())一个next对应一个yield。yieldVSreturnreturn结束函数，给函数的执行者返回值yie
系统 2019-09-27 17:50:36 1886
在Thread和Process中，应当优选Process，因为Process更稳定，而且，Process可以分布到多台机器上，而Thread最多只能分布到同一台机器的多个CPU上。Python的multiprocessing模块不但支持多进程，其中managers子模块还支持把多进程分布到多台机器上。一个服务进程可以作为调度者，将任务分布到其他多个进程中，依靠网络通信。由于managers模块封装很好，不必了解网络通信的细节，就可以很容易地编写分布式多进程
系统 2019-09-27 17:50:30 1886
这是我在CSDN的第一篇博客，假期刚自学Python，尝试爬取了一下豆瓣top250.希望可以有大佬指点感谢importrequestsfrombs4importBeautifulSoupdefgethtml(url):try:kv={'user-agent':'Mozilla/5.0(WindowsNT10.0;Win64;x64)AppleWebKit/537.36(KHTML,likeGecko)Chrome/59.0.3071.115Safari/
系统 2019-09-27 17:49:53 1886
