写python协程时使用gevent模块和queue模块可以大大提高爬虫速度。在同时爬取多个网站时,原来用for循环一个网站一个网站按循序顺序爬,就像先烧饭后烧菜,两个步骤异步进行。使用多协程可以让爬虫自己选择爬取顺序,就像边烧饭边烧菜,两个步骤同步进行,速度自然快了。不多说了,来看下代码吧:fromgeventimportmonkeymonkey.patch_all()#打上多协程布丁,下面的程序就可以执行多协程了importrequests,geven
系统 2019-09-27 17:47:59 2154
一、列表(list)列表(list)是python以及其他语言中最常用到的数据结构之一。Python使用中括号[]来解析列表。列表是可变的(mutable)——可以改变列表的内容。列表是Python的序列类型之一,也支持索引、切片等操作。1.1列表的定义1list1=['Google','Runoob',1997,2000]2list2=[1,2,3,4,5]3list3=["a","b","c","d"]与字符串的索引一样,列表索引从0开始。列表可以进行
系统 2019-09-27 17:47:30 2154
安装方法:注:python环境一定要配置好。1.第一步:下载官方网站:http://www.pyinstaller.org/downloads.html此处下载版本为稳定版。2.第二步:下载完成后解压,打开cmd。例如:我的在F盘根目录下。可更换目录,建议不要有目录不要带有中文。上图:关键安装命令。下图:安装过程图。注意命令的空格,下面夸张了下空格间距,每次空格也仅需按一次。(1)cdF:\pyinstaller-develop\bootlaoder(进入
系统 2019-09-27 17:47:11 2154
@[TOC](Python3多维列表排序–itemgetter()的使用)fromoperatorimportitemgettergameresult=[["Bob",95.00],'A'],["ALan",86.0,'C'],['Mandy',82.5,'A'],['Rob',86,'E']]res=sorted(gameresult,key=itemgetter(2,1))#先以等级排序,如果等级相同再按照分数排序,顺序是从小到大#结果是[['Mand
系统 2019-09-27 17:47:04 2154
fileno()方法返回所使用的底层实现,要求从操作系统I/O操作的整数文件描述符。语法以下是fileno()方法的语法:fileObject.fileno();参数NA返回值此方法返回整数文件描述符。例子下面的例子显示fileno()方法的使用。#!/usr/bin/python#Openafilefo=open("foo.txt","wb")print"Nameofthefile:",fo.namefid=fo.fileno()print"FileDe
系统 2019-09-27 17:46:29 2154
用于生成一个指定范围内的整数。其中参数a是下限,参数b是上限,Python生成随机数print(random.randint(12,20))#生成的随机数n:12<=n<=20print(random.randint(20,20))#结果永远是20#print(random.randint(20,10))#该语句是错误的。print(random.randrange(1,100,2))#返回[1,100]之间的奇数19print(random.ranran
系统 2019-09-27 17:46:15 2154
链客,专为开发者而生,有问必答!此文章来自区块链技术社区,未经允许拒绝转载。比特币价格的上上下下,始终撩动着每一个人无比关切的小心脏。从去年初的800美元左右,飞涨到去年底到19783.21美元最高点,不到1年,便有将近25倍的升值速度。尽管眼下又掉回8000多美元的价格,但价格差不多能搞出去年同期一个数量级,币圈人士“过去一年比以往10年挣的都多”,已经是不争的事实。而对区块链开发者来说,据说也已经有拿到年新500万的天价。所以“跑步进入区块链”,已经成
系统 2019-09-27 17:46:02 2154
测了一下django、flask、bottle、tornado框架本身最简单的性能。对django的性能完全无语了。django、flask、bottle均使用gunicorn+gevent启动,单进程,并且关闭DEBUG,请求均只返回一个字符串ok。tornado直接自己启动,其他内容一致。测试软件为siege,测试os为cenos664位,测试命令为:复制代码代码如下:siege-c100-r100-bhttp://127.0.0.1:5000/dja
系统 2019-09-27 17:38:25 2154
UrlRewrite有什么用处?1、满足搜索引擎的要求某些搜索引擎不能支持动态页面的抓取,大量的信息就不能被潜在用户搜索到。用UrlRewrite技术你可以把http://server/news.asp?id=111变成http://server/news/111.htm这样他们就会被搜索引擎收录了。google虽然可以抓取动态页面,但是google对动态页面的评分一般低于静态页面。所以,对大量信息发布的网站,把网站地址改变成静态的绝对是值得的。2、隐藏技
系统 2019-08-29 23:43:29 2154
本文为本人另一个账号上的文章,那个账号不要了,乾坤大挪移过来。最近遇到结构体内存对齐的问题,发现自己一知半解,于是在网上搜集了些资料,总结如下。一、规则每个特定平台上的编译器都有自己的默认“对齐系数”(也叫对齐模数)。程序员可以通过预编译命令#pragmapack(n),n=1,2,4,8,16来改变这一系数,其中的n就是你要指定的“对齐系数”,VC++默认n=8。对齐分两步,第一步:数据成员对齐;第二步:结构体对齐。数据成员对齐:每个结构体成员所分配的存
系统 2019-08-29 23:43:20 2154