在日常PC端的Python爬虫过程工作中，Chrome浏览器是我们常用的一款工具。鉴于Chrome浏览器的强大，Chrome网上应用商店很多强大的插件可以帮助我们快速高效地进行数据爬虫。今天推荐的6款Chrome插件，可以大大提升我们的爬虫效率。EditThisCookieEditThisCookie是一个Cookie管理器，可以很方便的添加，删除，编辑，搜索，锁定和屏蔽Cookies。可以将登录后的Cookies先保存到本地，借助cookielib库，直
系统 2019-09-27 17:53:24 2062
这里爬取的是http://sc.chinaz.com/tag_tupian/OuMeiMeiNv.html网站献上欧美美女！！！！fromlxmlimportetreeimporturllib.request,os,timeclassOuMeiSpider(object):def__init__(self,start_page,end_page):self.start_page=start_pageself.end_page=end_pageself.fi
系统 2019-09-27 17:53:14 2062
Python面向对象编程——异常处理一、什么是异常异常就是程序运行时发生错误的信号（在程序出现错误时，则会产生一个异常，若程序没有处理它，则会抛出该异常，程序的运行也随之终止），在python中,错误触发的异常如下：而错误分成两种1、语法错误（这种错误，根本过不了python解释器的语法检测，必须在程序执行前就改正）#语法错误示范一if#语法错误示范二deftest:pass#语法错误示范三classFoopass#语法错误示范四print(haha)2、
系统 2019-09-27 17:53:13 2062
扫描服务器ip开放端口，用线程池ThreadPoolExecutor，i7的cpu可以开到600个左右现成,大概20s左右扫描完65535个端口，根据电脑配置适当降低线程数#!/usr/local/python3.6.3/bin/python3.6#coding=utf-8importsocketimportdatetimeimportrefromconcurrent.futuresimportThreadPoolExecutor,waitDEBUG=Fa
系统 2019-09-27 17:52:19 2062
python的dict用起来很方便，可以自定义key值，并通过下标访问，示例如下：复制代码代码如下:>>>d={'key1':'value1',...'key2':'value2',...'key3':'value3'}>>>printd['key2']value2>>>lambda表达式也是很实用的东东，示例如下：复制代码代码如下:>>>f=lambdax:x**2>>>printf(2)4>>>两者结合可以实现结构相似的函数调用，使用起来很方便，示例如
系统 2019-09-27 17:51:38 2062
记住以下几点:直接子类化内置类型(如dict,list或str)容易出错,因为内置类型的方法通常会忽略用户覆盖的方法,不要子类化内置类型,用户自定义的类应该继承collections模块。def__setitem__(self,key,value):super().__setitem__(key,[value]*2)#错误案例classAnswerDict(dict):def__getitem__(self,item):#错误案例return42impor
系统 2019-09-27 17:50:43 2062
python项目如何在另一个环境上重新构建项目所需要的运行环境依赖包？使用的时候边记载是个很麻烦的事情，总会出现遗漏的包的问题，这个时候手动安装也很麻烦，不能确定代码报错的需要安装的包是什么版本。这些问题，requirements.txt都可以解决！生成requirements.txt，有两种方式：第一种适用于单虚拟环境的情况：：pipfreeze>requirements.txt为什么只适用于单虚拟环境？因为这种方式，会将环境中的依赖包全都加入，如果使用
系统 2019-09-27 17:50:13 2062
Python在debug方面的支持还是不错的，在明确代码意义的情况下，通过log、print和assert分析错误原因，配合单元测试可以很高效。然而，实际工作中大量代码很可能出自他人之手，这种情况下，使用debugger就显得更加高效了。一、在控制台下进行程序调试PDB如果你熟悉命令行调试工具（例如gdb、lldb），那么使用Python中的PDB将获得非常好的体验，PDB不仅支持项目启动时进行调用，也支持在Pythonshell中交互式调试；功能上，支持
系统 2019-09-27 17:50:11 2062
上周给大家推荐了新书PythonQtGUI与数据可视化编程，受到了广大读者的青睐，很多人问我何时上架？什么时间预订？能不能给发完整目录？需要这种知识很久了等回应。今天可以告诉大家，这本书上架啦！！！！【京东购买】【当当购买】本书介绍在Python中使用PyQt5和其他模块进行GUI和数据可视化编程的方法。第一部分介绍PyQt5设计GUI程序的基本框架，包括GUI应用程序的基本结构、窗体UI可视化设计与窗体业务逻辑的设计、信号与槽的特点和使用等。第二部分介绍
系统 2019-09-27 17:50:02 2062
1.os.popen运行shell列表命令复制代码代码如下:deftraverseDirByShell(path):forfinos.popen('ls'+path):printf.strip()2.利用glob模块glob.glob(path)返回带目录的文件名.通配符和shell相似.path不能包含shell变量.复制代码代码如下:deftraverseDirByGlob(path):path=os.path.expanduser(path)forf
系统 2019-09-27 17:49:59 2062
记录三种添加cookie保持接口登录状态的方法，方便自己回顾。1.简单粗暴式。此方法比较小白，前提是已经通过fiddler抓包等方式拿到了cookie，然后直接塞进去。importrequeststrainsUrl='http://XXX.com/trains'headers={"Content-Type":"application/json;charset=UTF-8",}cookies={"XXXthor":"XXXXXX105a42"}prames=
系统 2019-09-27 17:49:54 2062
原题|Left-recursivePEGgrammars作者|GuidovanRossum（Python之父）译者|豌豆花下猫（“Python猫”公众号作者）声明|本翻译是出于交流学习的目的，基于CCBY-NC-SA4.0授权协议。为便于阅读，内容略有改动。我曾几次提及左递归是一块绊脚石，是时候去解决它了。基本的问题在于：使用递归下降解析器时，左递归会因堆栈溢出而导致程序终止。【这是我的PEG系列的第5部分。其它文章参见这个目录】假设有如下的语法规则：ex
系统 2019-09-27 17:49:40 2062
更新mysql8.17的脚本：2019-09-19#-*-coding:utf-8-*-importsysreload(sys)importgetoptimportcommandsimportsubprocessimportfileinputimportos__author__='Lenny'INFO="\033[1;33;40m%s\033[0m"ERROR="\033[1;31;40m%s\033[0m"NOTICE="\033[1;32;40m%s\
系统 2019-09-27 17:49:31 2062
好了，废话少说，我们先看看几个示例吧一、打开一个网页获取所有的内容复制代码代码如下:fromurllibimporturlopendoc=urlopen("http://www.baidu.com").read()printdoc二、获取Http头复制代码代码如下:fromurllibimporturlopendoc=urlopen("http://www.baidu.com")printdoc.info()printdoc.info().getheade
系统 2019-09-27 17:48:28 2062
最近被多线程给坑了下，没意识到类变量在多线程下是共享的，还有一个就是没意识到内存释放问题，导致越累越大1.python类变量在多线程情况下的是共享的2.python类变量在多线程情况下的释放是不完全的3.python类变量在多线程情况下没释放的那部分内存是可以重复利用的importthreadingimporttimeclassTest:cache={}@classmethoddefget_value(self,key):value=Test.cache.
系统 2019-09-27 17:48:22 2062
