Python - 军军小站|张军博客
Python

python[requests]爬取知乎个人信息数据

效果技术栈python3requestsredisechart源码地址https://github.com/MasakiOvO/...python需要安装的库requests,BeautifulSoup,redis,django思路两个程序。一个程序负责爬取用户关注和粉丝列表,并把用户名存入set另一个程序负责根据用户名获取详细信息,存入hash维护两个列表1.已爬用户2.未爬用户第一个程序的流程:当未爬set不为空时:执行如下操作:每次从未爬取列表中取出

系统 2019-09-27 17:55:04 1965

Python

Python爬虫——王者荣耀全皮肤拉取

文章目录Python爬虫——王者荣耀全皮肤拉取资源地址HeroScrapy.py运行上面的代码即可注意点Python爬虫——王者荣耀全皮肤拉取开门见山,话不多说资源地址英雄信息列表:http://pvp.qq.com/web201605/js/herolist.json皮肤前缀地址:http://game.gtimg.cn/images/yxzj/img201606/skin/hero-infoHeroScrapy.pyimportrequestsimpo

系统 2019-09-27 17:54:42 1965

Python

Python爬虫之xlml解析库(全面了解)

1.XpathXpath是一门在XML中查找信息的语言,可用来在XML文档中对元素和属性进行遍历。XQuery和xpoint都是构建于xpath表达之上2.节点父(parent),子(children),兄弟(sibling),先辈(ancetstor),后代(Decendant)3.选取节点路径表达式表达式描述路径表达式结果nodename选取此节点上的所有的子节点bookstore选取bookstore元素的所有子节点/从根节点上选取/bookstor

系统 2019-09-27 17:54:09 1965

Python

python3基础概览

https://docs.python.org/3/tutorial/#!/root/python-3.6.5/bin/python3.6(制定用谁来解析下面的code,我没有将pthon3.6安装到系统路径,就这样写了)#!/usr/bin/envpython3(如果安装在系统路径,可以直接这样写)基本运算Python算术运算符/除,x除以y(返回浮点型)**幂,返回x的y次幂//取整除,返回商的整数部分(类C语言的除)9//2输出结果4,9.0//2.

系统 2019-09-27 17:51:11 1965

Python

初学Python函数的笔记整理

定义返回单值defmy_abs(x):ifx>=0:returnxelse:return-x返回多值返回多值就是返回一个tupleimportmathdefmove(x,y,step,angle=0):nx=x+step*math.cos(angle)ny=y-step*math.sin(angle)returnnx,ny空函数defnop():pass指定默认参数必选参数在前,默认参数在后。默认参数需指向不可变对象(默认参数值在函数定义时被计算)defp

系统 2019-09-27 17:50:54 1965

Python

一名高级的数据分析师,面试官问,你会Python吗?我emm

现在的职场竞争越来越激烈,不学上一两门新技能,保持自己知识更新,很容易被年轻后辈超越。有些人选择学一门外语,有些人选择学习职场上为人处事的能力。如果你的工作需要和数据打交道,相信我,Python一定能成为你升职加薪的敲门砖。为什么?因为高效。我们来看一份年薪24w-48w的高级数据分析师的招聘信息,以下4点能力是用人单位较为看重的:再仔细梳理,你会发现即便不是数据分析师,具备这4项能力都能在职场中为自己加分。试想一下,一场电商大促结束复盘,别人花大把时间梳

系统 2019-09-27 17:50:26 1965

Python

python自学营-体验感想day02

第二天的内容就好玩一些了,展示了python强大的各种模块。第一个是网页表白神器,原来用python能够直接做一个网页页面,以前还以为这是js才能做的呢。表白的方式也有意思,可以加载一张头像图片和背景图,在网页里用ctrl+F搜索一个数字,就能在网页里看到这个数字被标记,组合成“iloveyou”等字样。第二个是天气预报,能访问一个天气数据的网址,从那里拿到数据,显示出来,这种从网络上调用数据过来处理的方式以前没有接触过,用法可以很多。第三个是脸部识别,能

系统 2019-09-27 17:50:13 1965

Python

Python——最美丽的编程语言

之前总听别人说Python有多厉害,有多好,我是不以为然的。但是当我开始接触Python的时候,我就知道它被誉为最美编程语言不是没有道理的。简短的代码,清晰明了的逻辑,方便快捷的编程工具让它注定会大放光彩。可能有人会说它的运行速度慢,但是在这个硬件配置不断更新换代的今天,这都不是问题。下面,让我们来一起了解Python语言。Python语言在计算生态的大背景下诞生、发展、再生,历时近30年,其简洁和面向生态的设计理念得到了广泛认同,形成了全球范围最大的单一

系统 2019-09-27 17:49:43 1965

Python

python画图--输出指定像素点的颜色值方法

如下所示:#-*-coding:utf-8-*-#-------------------------------------------------------------------------------#Name:module1#Purpose:##Author:leniy_tsan##Created:10-04-2012#Copyright:(c)leniy_tsan2012#Licence:GPLv2#----------------------

系统 2019-09-27 17:49:23 1965

Python

剑指offer5-空格替换-python版

实现一个函数,将一个字符串中的空格替换成“%20”#!/usr/bin/envpython#-*-coding:utf-8-*-test=raw_input()#从键盘输入inital_length=len(test)kong=0#kong用来统计输入的一行数据中总共有多少个空格foriintest:ifi=="":kong+=1final_length=inital_length+2*kong#计算转换后的数组的长度p1=inital_length-1p

系统 2019-09-27 17:49:13 1965

Python

Python学习笔记(四)字符串类型及其操作

1.字符串的表示字符串是字符的序列表示,可以由一对单引号(‘)、双引号(“)或三引号(’‘’)构成。其中,单引号、双引号和三引号都可以表示单行字符串,但是只有三引号可以表示多行字符串在使用双引号时,单引号可以作为字符串的以部分。2.对字符串类型进行操作Python提供了5个字符串的基本操作符,对字符串进行基本的操作,如下表所示:(其中x和y均为字符串类型)基本字符串类型操作符操作符描述x+y连接两个字符x*n或n*x(n为整数)复制n次字符串xins如果x

系统 2019-09-27 17:49:13 1965

Python

python基础学习笔记(十二)

python基础学习笔记(十二)2013-05-1621:47虫师阅读(...)评论(...)编辑收藏模块前面有简单介绍如何使用import从外部模块获取函数并且为自己的程序所用:>>>importmath>>>math.sin(0)#sin为正弦函数0.0模块是程序任何python程序都可以作为模块导入。假设写如下程序,并且将它保存为以C:\python\hello.py#hello.pyprint"hello,world!"下面通过python解释器调

系统 2019-09-27 17:48:50 1965

Python

python:在django中用celery实现异步

celery英文官方网站:www.celeryproject.org中文网站:http://docs.jinkan.org/docs/celery/celeryCelery是一个简单、灵活且可靠的,处理大量消息的分布式系统,并且提供维护这样一个系统的必需工具。专注于实时处理的任务队列,同时也支持任务调度。作用:解决耗时操作:开一个新的进程,去操作耗时操作,不影响原有进程定时操作,使Listitem用celery定时执行操作:定义一个任务task,也就是一个

系统 2019-09-27 17:48:28 1965

Python

Haishoku -- 基于 python3 开发的获取图片主色调及主要配色

在平时工作和生活中经常看到一些颜色很好看的图片,就我个人而言,很想有这样一个工具能够获取到任意一张图片的配色以及主色调,之前看到有人分享过自己开发的iOS端的取配色工具,但个人觉得这种工具在pc上的需求更大,于是便尝试用python写了这样一个库。以下:HaishokuHaishokuGithub文档haishoku是一个日语词,意思是配色.Haishoku是一个用来获取图片主色调和主要配色方案的python库,依赖于python3和pillow。功能获取

系统 2019-09-27 17:48:21 1965

Python

【Python3爬虫】快就完事了--使用Celery加速你的爬虫

一、写在前面在上一篇博客中提到过对于网络爬虫这种包含大量网络请求的任务,是可以用Celery来做到加速爬取的,那么,这一篇博客就要具体说一下怎么用Celery来对我们的爬虫进行一个加速!二、知识补充1.classcelery.groupgroup这个类表示创建一组要并行执行的任务,不过一组任务是懒惰的,所以你需要运行并对其进行评估。要了解这个类,可以查看文档,或者在Pycharm中直接Ctrl+左键就能直接查看源码了,如下图:当然了,直接看源码还不够,最好

系统 2019-09-27 17:48:01 1965