最近博主手上有一个爬虫项目，开始深入研究python爬虫开发，这是我篇博客也相当于是我的学习笔记，我认为学习爬虫第一步，先学习python多线程与多进程，熟悉网络编程，接下来会陆续以博客的方式跟大家做分享。多进程Python实现多进程的方式主要有两种，一种方法是使用os模块中的fork方法，另一种方法是使用multiprocessing模块。这两种方法的区别在于前者仅适用于Unix/Linux操作系统，对Windows不支持，后者则是跨平台的实现方式，目前
系统 2019-09-27 17:53:30 1733
文章目录一、背景二、总结内容2.1UDP通信服务端创建方式**DUP采用的是无连接的套接字**2.216进制数据解析2.3文件创建与数据储存分析一、背景最近在处理公司的一设备，内置的DTU通过UDP向服务器发送16进制的数据报文，由于第一次接触此类数据解析方式，在这里做总结与反省，避免大家走弯路二、总结内容2.1UDP通信服务端创建方式步骤创建UDP的socket通信方式。绑定具体的端口。设置端口复用等待(这一步可以省略)获取数据。向客户端发送数据。解析储
系统 2019-09-27 17:53:08 1733
使用python来登录asp网站和登录其他网站差不多,只是因为asp页面在每次请求的时候都要带上viewstate,因此使用python来登录的话就多了一个步骤,获得这个页面的viewstate之后带上这个和你要post或get到该页面的请求数据就好了,下面这段程序是登录一个asp系统,然后搜索某些数据并将这些数据保存下来.#coding=utf-8importurllib2frombs4importBeautifulSoupimporturllibimp
系统 2019-09-27 17:53:06 1733
本文实例分析了python多线程用法。分享给大家供大家参考。具体如下：今天在学习尝试学习python多线程的时候，突然发现自己一直对super的用法不是很清楚，所以先总结一些遇到的问题。当我尝试编写下面的代码的时候：复制代码代码如下:classA():def__init__(self):print"A"classB(A):def__init__(self):super(B,self).__init__()#A.__init__(self)print"B"b
系统 2019-09-27 17:53:01 1733
1.背景看到这里提到了pprint。打算去试试.2.pprint简介找到在线官网解释：pprint―Dataprettyprinter就是一个，方便大家打印一些，相对复杂的变量的好东西。3.使用pprint去写点代码试试。代码：复制代码代码如下:#-------------------------------------------------------------------------------#Name:【记录】折腾Python中的pprint#
系统 2019-09-27 17:52:55 1733
第一步：建立一个setup.py的文件，文件内容如下：fromsetuptoolsimportsetup,find_packagessetup(name='',version='',packages=find_packages(),#必填author='',author_email='',url='',license='',description='',platforms='Windows',#需要安装的依赖install_requires=[],#此项需
系统 2019-09-27 17:52:53 1733
在学习过程中，把开发过程中重要的一些内容备份一下，下面内容是关于python实现中文繁体和中文简体之间的相互转换的内容，应该是对码农们有所好处。#转换繁体到简体line=Converter('zh-hans').convert(line.decode('utf-8'))line=line.encode('utf-8')#转换简体到繁体line=Converter('zh-hant').convert(line.decode('utf-8'))line=li
系统 2019-09-27 17:52:50 1733
如果直接从生成验证码的页面把验证码下载到本地后识别，再构造表单数据发送的话，会有一个验证码同步的问题，即请求了两次验证码，而识别出来的验证码并不是实际需要发送的验证码。有如下几种方法解决。法1:用session：mysession=requests.Session()login_url='http://xxx.com'checkcode_url='http://yyy.com'html=mysession.get(login_url,timeout=60*
系统 2019-09-27 17:52:42 1733
概述如今我也是使用Python写代码好多年了，但是我却很少关心GIL的内部机制，导致在写Python多线程程序的时候。今天我们就来看看CPython的源代码，探索一下GIL的源码，了解为什么Python里要存在这个GIL，过程中我会给出一些示例来帮助大家更好的理解GIL。GIL概览有如下代码：staticPyThread_type_lockinterpreter_lock=0;/*ThisistheGIL*/这行代码位于Python2.7源码ceval.c
系统 2019-09-27 17:52:39 1733
背景介绍从学sklearn时，除了算法的坎要过，还得学习matplotlib可视化，对我的实践应用而言，可视化更重要一些，然而matplotlib的易用性和美观性确实不敢恭维。陆续使用过plotly、seaborn，最终定格在了Bokeh，因为它可以与Flask完美的结合，数据看板的开发难度降低了很多。前阵子看到这个库可以较为便捷的实现数据探索，今天得空打算学习一下。原本访问的是英文文档，结果发现已经有人在做汉化，虽然看起来也像是谷歌翻译的，本着拿来主义，
系统 2019-09-27 17:52:29 1733
