说到流处理，Spark为我们提供了窗口函数，允许在滑动数据窗口上应用转换，常用场景如每五分钟商场人流密度、每分钟流量等等，接下来我们通过画图来了解SparkStreaming的窗口函数如何工作的，处理过程图如下所示：上图中绿色的小框框是一批一批的数据流，虚线框和实线框分别是前一个窗口和后一个窗口，从图中可以看出后一个窗口在前一个窗口基础上移动了两个批次的数据流，而我们真正通过算子操作的数据其实就是窗口内所有的数据流。在代码实现前了解下窗口操作常用的函数有：
系统 2019-09-27 17:52:34 1957
2019-09-18-21:11:24(初学者不会学博客,望大家见谅见谅)今天学的内容是有关list.、dict、set集合的使用方法和注意事项list和dict在循环中不可删,而且list在迭代输出时进行删除是会导致索引跟着改变所以一般list不在循环过程中进行删除list和dict要进行删除时,应该把要删除的记录到另一个列表中,然后在进行删除深浅拷贝:浅拷贝只拷贝第一层的内容,而深拷贝是全部内容都进行了拷贝下面是总结的内容:一.重要知识点1.str.j
系统 2019-09-27 17:51:29 1957
简介这篇博文和分类看似没有多大关系，但是也是从上一篇衍生出来的产物，因为涉及到FQ工具Lantern，就算是给关注和支持的小伙伴们拓展一下眼界和知识面。而且好多人都阅读了上一篇没发现那个参考博客点不开吗？那是因为还没来的急，整理和编写，今天再试一下就可以。一个软件可能占用多个端口拥有多个目标IP，下面以FQ工具Lantern为例，说明端口查看方法：1.借助第三方软件查看如果你电脑上安装了360等优化工具，可能会自带查看网络状况的插件如下图：2.命令行窗口查
系统 2019-09-27 17:51:27 1957
walker经常用到当前时间和相对时间，用来统计程序执行的效率，简单记一下，便于copy。相对时间>>>importtime#相对时间>>>startTime=time.time()>>>'%.2fs'%(time.time()-startTime)'24.51s'格式化当前时间#格式化当前时间>>>time.strftime('%Y-%m-%d%H:%M:%S',time.localtime())'2016-01-0510:34:06'时间戳与时间的转换
系统 2019-09-27 17:50:52 1957
python程序运行中，可由程序抛出异常。异常触发：使用raise命令抛出异常，即可使用异常基类Exception，也可使用自定义异常类（继承Exception类）。classPoint:def__init__(self,x,y):self.x=xself.y=y#DefineaclasstoraiseLineerrorsclassLineError(Exception):#继承自基类Exceptiondef__init__(self,ErrorInfo)
系统 2019-09-27 17:50:11 1957
第四章，了不起的分支和循环4.1分支和循环Python主要依靠缩进来区分代码块4.2快速上手成绩按照分数来划分等级，90分以上为A，80~90为B，60~80为C，60以下为Dp4_1.pyscore=int(input("请输入一个分数："))if100>=score>=90:print("A")if90>score>=80:print("B")if80>score>=60:print("C")if60>score>=0:print("D")ifscor
系统 2019-09-27 17:50:06 1957
记录三种添加cookie保持接口登录状态的方法，方便自己回顾。1.简单粗暴式。此方法比较小白，前提是已经通过fiddler抓包等方式拿到了cookie，然后直接塞进去。importrequeststrainsUrl='http://XXX.com/trains'headers={"Content-Type":"application/json;charset=UTF-8",}cookies={"XXXthor":"XXXXXX105a42"}prames=
系统 2019-09-27 17:49:54 1957
推荐系统的相关知识我们已在前文中提到，在这篇文章中，我们会介绍如何用Python来搭建一个简单的推荐系统。本文使用的数据集是MovieLens数据集，该数据集由明尼苏达大学的Grouplens研究小组整理。它包含1,10和2亿个评级。Movielens还有一个网站，我们可以注册，撰写评论并获得电影推荐。接下来我们就开始实战演练。在这篇文章中，我们会使用Movielens构建一个基于item的简易的推荐系统。在开始前，第一件事就是导入pandas和numPy
系统 2019-09-27 17:49:46 1957
1.可传入参数：@app.route('/user/')#常用的不加参数的时候默认是字符串形式的@app.route('/post/')#常用的#指定int，说明是整型的@app.route('/post/')@app.route('/post/')@app.route('/login',methods=['GET','POST'])DEFAULT_CONVERTERS={'default':UnicodeConverter,'string':Unicod
系统 2019-09-27 17:49:32 1957
逐步指示这是提供给更喜欢阅读的人的视频文本版本。我们将创建一个类似黑客新闻或Reddit的社交新闻网站。它将被称为“钢铁传闻”，作为一个分享关于“钢铁侠”的有趣传闻和对其进行投票的地方。屏幕录像第一部分的概述：目标虚拟环境-从零开始!模型管理-梦想的工作#78基本的模板通用视图-新闻列表视图和新闻细节视图分页-免费！!设置虚拟环境我们将用virtualenv和virtualenvwrapper来建立一个虚拟开发环境。首先请确认你已经安装了它们：mkvirt
系统 2019-09-27 17:49:13 1957
