拥有Python标签的文章
Python

python爬虫项目设置一个中断重连的程序的实现

做爬虫项目时,我们需要考虑一个爬虫在爬取时会遇到各种情况(网站验证,ip封禁),导致爬虫程序中断,这时我们已经爬取过一些数据,再次爬取时这些数据就可以忽略,所以我们需要在爬虫项目中设置一个中断重连的功能,使其在重新运行时从之前断掉的位置重新爬取数据。实现该功能有很多种做法,我自己就有好几种思路,但是真要自己写出来就要费很大的功夫,下面我就把自己好不容易拼凑出来的代码展示出来吧。首先是来介绍代码的思路:将要爬取的网站连接存在一个数组new_urls中,爬取一

系统 2019-09-27 17:56:18 2538

Python

攻防世界-glance-50-WriteUp附Python解题脚本

题目分析拿到题目以后题目是一个长条状gif那么这个题大概率就是分离gif的每一帧然后拼接形成图片得到flag解题步骤有了思路以后,步骤也很清晰。就是两步。第一步,分离gif,第二步,拼接gif步骤1.分离gif好多方法都可以分离gif,这里使用python分离一下,上代码:#分离gif.pyfromPILimportImagesavepath="F:\ctf文件\\D-R0s1\\"#保存路径im=Image.open('F:\ctf文件\\1.gif')

系统 2019-09-27 17:55:10 2538

Python

Python3 Jupyter QtConsole

效果图walker喜欢的功能:代码补全,一个问号(?)给出注释,两个问号浏览代码。环境操作系统:Windows10x641903Python3.6.7x64JupyterQtConsole4.5.2(官方文档)步骤安装ipythonpip3installipython-ihttps://pypi.doubanio.com/simple/安装pyreadlinepip3installpyreadline-ihttps://pypi.doubanio.com/

系统 2019-09-27 17:54:09 2538

Python

linux安装python3及基本配置

Centos7自带python2.7,我们不对它进行升级,而是使用源码安装python3,让二者共存。这样可以保证系统中使用python2.7的软件正常运行。首先看看成功安装python3后,软链接的依赖关系,也包括python2.7的依赖关系:[root@localhost~]#ll/usr/bin/python*lrwxrwxrwx.1rootroot7Jun1306:30/usr/bin/python->python2lrwxrwxrwx.1root

系统 2019-09-27 17:52:13 2538

Python

python中if __name__ == '__main__' :main(()

例如:if__name__=='__main__':main()如果运行的是主函数的话,执行下一句main()如果作为模块被其他文件导入使用的话,我们就不执行后面的main()什么的。看个例子:#test.pydefmain():print('Hello,world!')main()这是一个打印Hello,world!的简单程序我们尝试从其他文件调用它:#test1.pyimporttesttest.main()运行test1.py,出现打印了两个Hell

系统 2019-09-27 17:51:50 2538

Python

Python yield 使用浅析

原文地址:https://www.ibm.com/developerworks/secure/myideas2.jsp?domain=dwchina您可能听说过,带有yield的函数在Python中被称之为generator(生成器),何谓generator?我们先抛开generator,以一个常见的编程题目来展示yield的概念。如何生成斐波那契數列斐波那契(Fibonacci)數列是一个非常简单的递归数列,除第一个和第二个数外,任意一个数都可由前两个数

系统 2019-09-27 17:51:45 2538

Python

python多线程共享变量的使用和效率方法

python多线程可以使任务得到并发执行,但是有时候在执行多次任务的时候,变量出现“意外”。importthreading,timen=0start=time.time()defb1(num):globalnn=n+numn=n-numdefb2(num):foriinrange(1000000):b1(num)t1=threading.Thread(target=b2,args=(5,))t2=threading.Thread(target=b2,arg

系统 2019-09-27 17:51:27 2538

Python

ubutnu16.04搭建深度学习环境: python3 + keras

ubutnu16.04搭建深度学习环境:python3+keras+tensflow一、硬件信息查看cpu型号查看显卡型号查看系统版本二、软件安装2.1安装anaconda32.2安装keras2.3设置GPU支持2.3.1安装驱动2.3.2安装CUDA2.3.3安装cuDNN4.安装tensorflow-gpu5.安装keras一、硬件信息深度学习需要训练模型,一块英伟达的显卡必不可少。初学者,资金不太充裕,就买了一块navidaRTX系列显卡。查看cp

系统 2019-09-27 17:50:25 2538

Python

对Python函数设计规范详解

Python函数的设计规范1、Python函数设计时具备耦合性和聚合性1)、耦合性:(1).尽可能通过参数接受输入,以及通过return产生输出以保证函数的独立性;(2).尽量减少使用全局变量进行函数间通信;(3).不要在函数中直接修改可变类型的参数;(4).避免直接改变定义在另外一个模块中的变量;2)、聚合性:(1).每个函数都应该有一个单一的、目的统一的目标;(2).每个函数的功能都应该相对简单;2、Python函数在脚本中应用示例例1:将/etc/p

系统 2019-09-27 17:49:05 2538

Python

机器学习+++++一看就懂的梯度下降法 python实现

#encoding:utf-8"""function:f(x,y,z)=(x+y)z"""deffun(x,y,z):return(x+y)*z#firstmethod解析法defgrad1(x,y,z):dx=zdy=zdz=(x+y)return(dx,dy,dz)#secondmethod数值法defgrad2(x,y,z,epi):#dxfx1=(x+epi+y)*zfx2=(x-epi+y)*zdx=(fx1-fx2)/(2*epi)#dyfy1

系统 2019-09-27 17:46:51 2538

Python

Python多线程和队列操作实例

Python3,开一个线程,间隔1秒把一个递增的数字写入队列,再开一个线程,从队列中取出数字并打印到终端复制代码代码如下:#!/usr/bin/envpython3importtimeimportthreadingimportqueue#一个线程,间隔一定的时间,把一个递增的数字写入队列#生产者classProducer(threading.Thread):def__init__(self,work_queue):super().__init__()#必须

系统 2019-09-27 17:37:44 2538

Python

Python3视频转字符动画的实例代码

Python3视频转字符动画,具体代码如下所示:#-*-coding:utf-8-*-importjsonimportosimportsubprocessfrompathlibimportPathfromcv2importcv2importnumpyasnpfromtimeimporttimeimportwebbrowserplay_chars_js='''leti=0;window.setInterval(function(){letimg=frames

系统 2019-09-27 17:57:10 2537

Python

Python 70行代码实现简单算式计算器解析

描述:用户输入一系列算式字符串,程序返回计算结果。要求:不使用eval、exec函数。实现思路:找到当前字符串优先级最高的表达式,在算术运算中,()优先级最高,则取出算式最底层的(),再进行加减乘除运算。对于加减乘除,也要确立一个优先级,可以使用一个运算符列表,用for循环逐个处理运算符,并且要考虑同级情况(如for遍历至*时,也要考虑同级别的\是否要提前运算)。不断循环上述过程,直到最终得到一个结果。关键点:使用re模块匹配出当前状态下优先级最高的算式。

系统 2019-09-27 17:56:08 2537

Python

Python获取对象信息

1、使用type()type()函数:判断对象类型基本类型的判断:>>>type(123)>>>>>type('str')>>>>>type(None)>用type()判断一个变量指向函数或者类:>>>type(abs)#函数>>>type(a)#类比较变量的type类型Python的types模块里为定义好常量的type类型,在使用之前需要先导入>>>importtypes>>>type('abc')==types.StringTypeTrue>>>ty

系统 2019-09-27 17:55:18 2537

Python

Python日志模块学习,从这里开始...

消息与记录刚才谈到了关于历史账号的文章与消息记录,所以今天想跟大家聊聊Python关于消息记录的模块:日志管理模块logging。学习python的第一课,肯定都是print('HelloWrold...')。但print仅仅使用于我们日常学习,当我们的程序需要部署上线时,程序必须要具备记录日志与程序输出的功能。此时print就不能满足我们的需求,而logging应运而生。logging是python的内置模块,无需安装即可直接使用。logging模块借鉴

系统 2019-09-27 17:51:36 2537