Python

利用python爬取贝壳网租房信息

最近准备换房子,在网站上寻找各种房源信息,看得眼花缭乱,于是想着能否将基本信息汇总起来便于查找,便用python将基本信息爬下来放到excel,这样一来就容易搜索了。1.利用lxml中的xpath提取信息xpath是一门在xml文档中查找信息的语言,xpath可用来在xml文档中对元素和属性进行遍历。对比正则表达式re两者可以完成同样的工作,实现的功能也差不多,但xpath明显比re具有优势。具有如下优点:(1)可在xml中查找信息;(2)支持html的查

系统 2019-09-27 17:56:08 2292

Python

通过python实现弹窗广告拦截过程详解

原理这里实现的弹窗拦截,是程序不断的监视电脑屏幕,当出现需要拦截的窗口时,自动控制屏幕点击事件关闭。第一步:将需要关闭弹窗的点击位置截图。直接上代码whileTrue:#获取图片的相对屏幕的中心点坐标#location=pyautogui.locateCenterOnScreen('close.PNG')#获取图片在屏幕的位置及大小location=pyautogui.locateOnScreen('close1.PNG')iflocation!=None

系统 2019-09-27 17:55:59 2292

Python

python股票市场数据探索指北

前言虽然同花顺之类的金融理财应用的数据足够好了,但还是有自己定制的冲动,数据自然不会不会比前者好很多,但是按照自己的想法来定制还是不错的。目标通过免费的数据接口获取数据,每日增量更新标的历史交易数据,然后通过Kibana做可视化及数据分析.其实自己通过echarts之类的可视化框架做可视化也是个不错的选择,不过前期成本太大。还有就是pandas+matplotlib已经足以应付大部分需求了,可是交互感太弱,所以借助一个可视化应用是很有必要的,这里选择的是k

系统 2019-09-27 17:55:43 2292

Python

Python之List的extend和append详解

在数据分析时,小白经常用到extend和append函数,但是经常两种搞不清楚,每次都需要试一下,可能大家也有类似的疑问,总结一下,加深对两个函数的理解。extend和append函数是List列表的两种对列表的扩展函数,先来看下,最基本的使用List添加List首先创建两个List:L1=['aaa','bbb','ccc']L2=['ddd','eee']看下,extend和append的区别:可以看到,在使用append时,是将L2作为一个整体,插入

系统 2019-09-27 17:54:11 2292

Python

开发神技能 | Python Mock 的入门

Mock是什么Mock这个词在英语中有模拟的这个意思,因此我们可以猜测出这个库的主要功能是模拟一些东西。准确的说,Mock是Python中一个用于支持单元测试的库,它的主要功能是使用mock对象替代掉指定的Python对象,以达到模拟对象的行为。简单的说,mock库用于如下的场景:假设你开发的项目叫a,里面包含了一个模块b,模块b中的一个函数c(也就是a.b.c)在工作的时候需要调用发送请求给特定的服务器来得到一个JSON返回值,然后根据这个返回值来做处理

系统 2019-09-27 17:50:21 2292

Python

Python爬取堆糖帅哥照片

importrequestsimporturllib.parseimportthreading#当线程达到十个时就锁住thread_lock=threading.BoundedSemaphore(value=10)#function:获得json数据#url:api#page:返回json数据defget_page(url):#requests.get自带json.load用于获取page信息page=requests.get(url)#获取url的内容p

系统 2019-09-27 17:49:36 2292

Python

讲解开源项目:用 Python 生成有“灵魂”的二维码

讲解开源项目:用Python生成有“灵魂”的二维码本文作者:HelloGitHub-LITTLECHIEH这是HelloGitHub推出的《讲解开源项目》系列,今天给大家推荐一个Python开源生成二维码的项目——qrcode一、介绍1.1二维码二维码又称二维条码,常见的二维码为QRCode,QR全称QuickResponse。是一个近几年来移动设备上超流行的一种编码方式,在现在的生活中二维码随处可见。我们可以用它支付、浏览网站等,为什么他会这么流行?下面

系统 2019-09-27 17:47:02 2292

Python

【Python基础学习】—时间转换函数

前言python的时间格式分为多种,几种格式之间的转换方法时常是我们遇到的而且是经常忘记的点,python不像php,时间字符串和datetime是一起的,只需要strtotime和date函数就可以相互转化。虽然网上已经有很多python时间转换的文章,但是由于作者本人经常做海外业务,需要各种时区之间的转换,所以这篇文章会对按时区转换各种时间格式做一个总结。转换方法图示(图片转自网络):一、字符串转时间戳1、默认:importtimedeftime_st

系统 2019-09-27 17:54:33 2291

Python

python WSGI框架详解

pythonWSGI框架详解WSGI几个关于WSGI相关的概念WSGI:全称是WebServerGatewayInterface,WSGI不是服务器,python模块,框架,API或者任何软件,只是一种规范,描述webserver如何与webapplication通信的规范。server和application的规范在PEP3333中有具体描述。要实现WSGI协议,必须同时实现webserver和webapplication,当前运行在WSGI协议之上的w

系统 2019-09-27 17:54:22 2291

Python

Python学习笔记003——Python基础知识(2)

变量的基本使用1.变量定义在Python中,每个变量在使用前都必须赋值,变量赋值以后该变量才会被创建等号(=)用来给变量赋值=左边是一个变量名=右边是存储在变量中的值变量定义之后,后续就可以直接使用了2.变量的类型在内存中创建一个变量,会包括:变量的名称变量保存的数据变量存储数据的类型变量的地址(标示)2.1变量的类型在Python中定义变量是不需要指定类型(在其他很多高级语言中都需要)数据类型可以分为数字型和非数字型数字型整型(int)浮点型(float

系统 2019-09-27 17:53:14 2291

Python

python实现中文文本分句的例子

对于英文文本分句比较简单,只要根据终结符"."划分就好,中文文本分句看似很简单,但是实现时会遇到很多麻烦,尤其是处理社交媒体数据时,会遇到文本格式不规范等问题。下面代码针对一段一段的短文本组成了文档分句importredefcut_sent(infile,outfile):cutLineFlag=["?","!","。","…"]#本文使用的终结符,可以修改sentenceList=[]withopen(infile,"r",encoding="UTF-8

系统 2019-09-27 17:52:12 2291

Python

Python多线程编程(四):使用Lock互斥锁

前面已经演示了Python:使用threading模块实现多线程编程二两种方式起线程和Python:使用threading模块实现多线程编程三threading.Thread类的重要函数,这两篇文章的示例都是演示了互不相干的独立线程,现在我们考虑这样一个问题:假设各个线程需要访问同一公共资源,我们的代码该怎么写?复制代码代码如下:'''Createdon2012-9-8@author:walfred@module:thread.ThreadTest3'''

系统 2019-09-27 17:50:57 2291

Python

python常用日期使用方法

#!/usr/bin/python3--coding:utf-8--“”"通过datetime和dateutil进行常用日期的获取如:今年,去年,明年当前季度本月,上月,去年同期,今年一月今天,昨天,明天,本周、本月、本季度、本年第一天,本周、本月、本季度、本年最后一天“”"importdatetime获取常用特定日期(如去年/季度/当月/本周/首日/)=======================================关于年(今年,去年,明年)

系统 2019-09-27 17:50:37 2291

Python

用Python的Django框架编写从Google Adsense中获得报表

我完成了更新我们在Neutron的实时收入统计。在我花了一周的时间完成并且更新了我们的PHP脚本之后,我最终认决定开始使用Python进行抓取,这是值得我去花费我的时间和精力的事情。我建立了一个Django程序,它可以从不同的来源存储收入统计,我可以用这些去简历视图和用于统计工具的API。所以在过去的几天里,我写了一个脚本,它可以登入到其他的网页并抓取数据,或者,如果这些网页有API,可以直接访问API。我发现了一些事情。1.requests>httpli

系统 2019-09-27 17:49:20 2291

Python

Python程序设计

内容简介《Python程序设计第3版》是面向大学计算机科学专业的教材。本书以Python语言为工具,采用相当传统的方法,强调解决问题、设计和编程是计算机科学的核心技能。全书共13章,此外,还包含两个附录。第1章到第5章介绍计算机与程序、编写简单程序、数字计算、对象和图形、字符串处理等基础知识。第6章到第8章介绍函数、判断结构、循环结构和布尔值等话题。第9章到第13章着重介绍一些较为高档的程序设计方法,包括模拟与设计、类、数据集合、面向对象设计、算法设计与递

系统 2019-09-27 17:48:28 2291