综述本系列文档用于对Python爬虫技术的学习进行记录总结。Python版本是3.7.4urllib库介绍它是Python内置的HTTP请求库，也就是说我们不需要额外安装即可使用，它包含四个模块(主要对前三个模块进行学习)：request:它是最基本的HTTP请求模块，我们可以用它来模拟发送一请求，就像在浏览器里输入网址然后敲击回车一样，只需要给库方法传入URL还有额外的参数，就可以模拟实现这个过程了。error:异常处理模块，如果出现请求错误，我们可以捕
系统 2019-09-27 17:54:27 2117
python字符串/列表/字典互相转换目录字符串与列表字符串与字典列表与字典字符串与列表字符串转列表1.整体转换str1='helloworld'print(str1.split('这里传任何字符串中没有的分割单位都可以，但是不能为空'))#输出：['helloworld']2.分割str2="helloworld"list2=list(str2)print(list2)#输出：['h','e','l','l','o','','w','o','r','l'
系统 2019-09-27 17:53:33 2117
OpenAIgym是强化学习最为流行的实验环境。某种程度上，其接口已经成为了标准。一方面，很多算法实现都是基于gym开发；另一方面，新的场景也会封装成gym接口。经过这样一层抽象，算法与实验环境充分解耦隔离，可以方便地自由组合。但gym是python的接口，如果想用C++实现强化学习算法，则无法直接与gym相接。一种方案是跨进程：一个进程运行python环境，另一个进程运行强化学习算法，与环境交互数据经过序列化和反序列化通过IPC进行通信。另一种是单进程方
系统 2019-09-27 17:53:18 2117
这里爬取的是http://sc.chinaz.com/tag_tupian/OuMeiMeiNv.html网站献上欧美美女！！！！fromlxmlimportetreeimporturllib.request,os,timeclassOuMeiSpider(object):def__init__(self,start_page,end_page):self.start_page=start_pageself.end_page=end_pageself.fi
系统 2019-09-27 17:53:14 2117
mkvirtualenv-ppython3环境名创建虚拟环境rmvirtualenv环境名删除环境进入虚拟环境workon环境名(workon+tab可以出来所有环境)查看环境下所有包pip3list查看环境下安装的包(不包括原生python包)pip3freeze依赖包文件生成pip3freeze>requirements.txt环境导入依赖包pip3install-rrequirements.txt普通安装pip3install包名这是linux下的指
系统 2019-09-27 17:52:34 2117
经典的汉诺塔问题：这里我们可以利用递归的思想去做，递归中重要的三步，我们逐条来实现：1、函数+分支结构2、递归链条3、递归基例函数+分支结构：defhanoi(n,start,end,mid):globalcountif:else:这里我们可以定义一个函数，里面的参数有：一共有n个圆盘，从start柱子移到end柱子，中间柱子为mid。这里定义一个全局变量来计算移动的步骤数，若为局部变量，会在函数内部不断初始化，所以需要定义全局变量。递归基例：ifn==1
系统 2019-09-27 17:52:07 2117
基础版(list方法)#比较占内存w=int(input("输入一个数字还你一个斐波那契数列："))list_res=[]deflist_n(n):ifn>=3:res=list_n(n-1)+list_n(n-2)else:res=1returnresprint("开始")foriinrange(0,w):list_res.append(list_n(i+1))print(list_res)升级版#比较占内存num=int(input("输入一个数字还你
系统 2019-09-27 17:52:01 2117
最近在工作中遇到一个问题，就是有一个功能希望在各种服务器上实现，而服务器上的系统版本可能都不一样，有的是CentOS6.x，有的是CentOS7.x。需要说明的一点是，CentOS6.x上的Python版本是2.6.x的，而CentOS7.x上的Python版本是2.7.x的，这意味着我要实现的功能要适配这两种版本的系统。你可能会说，这有什么的，自己写的时候，注意一下就好了。事情其实没有那么容易，我要实现的功能是基于一个框架进行定制，需要修改不少的框架代码
系统 2019-09-27 17:51:50 2117
pika生产者程序大致步骤：1.建立连接connection，需要认证的调用认证参数2.创建通道channel当然channel可以池化，这样可以重复使用3.声明队列指定队列属性，一旦指定属性不能修改，例如是否持久化，名称4.声明交换机交换机类型，名称等，也可以不用声明，直接使用“”空字符串，默认交换机也可以5.将队列与交换机绑定queue_bind6.basic_publish发送到交换机指定路由键pika消费者程序大致步骤：1.建立连接connecti
系统 2019-09-27 17:51:26 2117
步骤:1.掌握几种对象及其关系2.了解每类对象的基本操作方法3.通过转化关系转化涉及对象1.datetime>>>importdatetime>>>now=datetime.datetime.now()>>>nowdatetime.datetime(2018,1,12,23,9,12,946118)>>>type(now)2.timestamp>>>importtime>>>time.time()1421075455.5682433.timetuple>>
系统 2019-09-27 17:51:17 2117
