网络爬虫学习笔记（2）1资料《Python网络爬虫从入门到实践》唐松，陈志铨。主要面向windows平台下的python3。菜鸟教程-》python2笔记2-1Python基础（1）++python的列表还有一种只读格式——元组Tuple，它用（）进行赋值，且只能在初始化时赋值。列表有追加元素的内置方法append（）字典有内置方法keys()（获得所有键的值），values()元组用“()”标识，列表用“[]”标识，字典用“{}”标识type(变量)查看
系统 2019-09-27 17:52:44 2101
说到流处理，Spark为我们提供了窗口函数，允许在滑动数据窗口上应用转换，常用场景如每五分钟商场人流密度、每分钟流量等等，接下来我们通过画图来了解SparkStreaming的窗口函数如何工作的，处理过程图如下所示：上图中绿色的小框框是一批一批的数据流，虚线框和实线框分别是前一个窗口和后一个窗口，从图中可以看出后一个窗口在前一个窗口基础上移动了两个批次的数据流，而我们真正通过算子操作的数据其实就是窗口内所有的数据流。在代码实现前了解下窗口操作常用的函数有：
系统 2019-09-27 17:52:34 2101
walker经常用到当前时间和相对时间，用来统计程序执行的效率，简单记一下，便于copy。相对时间>>>importtime#相对时间>>>startTime=time.time()>>>'%.2fs'%(time.time()-startTime)'24.51s'格式化当前时间#格式化当前时间>>>time.strftime('%Y-%m-%d%H:%M:%S',time.localtime())'2016-01-0510:34:06'时间戳与时间的转换
系统 2019-09-27 17:50:52 2101
本文实例讲述了python实现ip代理池功能。分享给大家供大家参考，具体如下：爬取的代理源为西刺代理。用xpath解析页面用telnet来验证ip是否可用把有效的ip写入到本地txt中。当然也可以写入到redis、mongodb中，也可以设置检测程序当代理池中的ip数不够（如：小于20个）时，启动该脚本来重新获取ip，本脚本的代码也要做相应的改变。#!/usr/bin/envpython#-*-coding:utf-8-*-#@Version：1.0#@T
系统 2019-09-27 17:47:57 2101
本文实例讲述了python使用zip同时迭代多个序列。分享给大家供大家参考，具体如下：zip可以平行地遍历多个迭代器python3中zip相当于生成器，遍历过程中产生元祖，python2会把元祖生成好，一次性返回整份列表zip(x,y,z)会生成一个可返回元组(x,y,z)的迭代器>>>x=[1,2,3,4,5]>>>y=['a','b','c','d','e']>>>z=['a1','b2','c3','d4','e5']>>>foriinzip(x,y
系统 2019-09-27 17:47:13 2101
什么是twisted？twisted是一个用python语言写的事件驱动的网络框架，他支持很多种协议，包括UDP,TCP,TLS和其他应用层协议，比如HTTP，SMTP，NNTM，IRC，XMPP/Jabber。非常好的一点是twisted实现和很多应用层的协议，开发人员可以直接只用这些协议的实现。其实要修改Twisted的SSH服务器端实现非常简单。很多时候，开发人员需要实现protocol类。一个Twisted程序由reactor发起的主循环和一些回调
系统 2019-09-27 17:38:27 2101
1、raw_input()：raw_input()是python的内建函数，通过读取控制台的输入与用户实现交互。raw_input()可以让用户输入字符串（即等待用户输入内容），并存放到一个变量里。#!/usr/bin/envpython#-*-coding:utf-8-*-#将用户输入的内容赋值给变量useruser=raw_input("请输入用户名:")#将用户输入的内容赋值给变量pwdpwd=raw_input("请输入密码:")#打印输入的内容p
系统 2019-09-27 17:37:51 2101
http://blog.csdn.net/foolskindom/archive/2009/12/16/5018547.aspx2.2IMS实体和功能描述本节讨论IMS实体和关键功能。这些实体可以被粗略的分为六大类：会话控制和路由实体族（CSCFs）、数据库实体（HSS、SLF）、互联实体（BGCF、MGCF、IM-MGW、SGW）、服务相关实体（应用服务器、MRFC、MRFP）、支持性实体（THIG、SEG、PDF）和计费相关实体。需要理解一个非常重要的
系统 2019-08-29 22:36:36 2101
图像可能在生成、传输或者采集过程中夹带了噪声，去噪声是图像处理中常用的手法。通常去噪声用滤波的方法，比如中值滤波、均值滤波。但是那样的算法不适合用在处理字符这样目标狭长的图像中，因为在滤波的过程中很有可能会去掉字符本身的像素。一个采用的是去除杂点的方法来进行去噪声处理的。具体算法如下：扫描整个图像，当发现一个黑色点的时候，就考察和该黑色点间接或者直接相连接的黑色点的个数有多少，如果大于一定的值，那就说明该点不是离散点，否则就是离散点，把它去掉。在考察相连的
系统 2019-09-27 17:56:42 2100
本文实例讲述了Python实现的文轩网爬虫。分享给大家供大家参考，具体如下：encoding=utf8importpymysqlimporttimeimportsysimportrequestsimportos#捕获错误importtracebackimporttypes#将html实体化importcgiimportwarningsreload(sys)sys.setdefaultencoding('utf-8')frompyqueryimportPyQ
系统 2019-09-27 17:55:19 2100
