Python

python多线程+代理池爬取天天基金网、股票数据过程解析

简介提到爬虫,大部分人都会想到使用Scrapy工具,但是仅仅停留在会使用的阶段。为了增加对爬虫机制的理解,我们可以手动实现多线程的爬虫过程,同时,引入IP代理池进行基本的反爬操作。本次使用天天基金网进行爬虫,该网站具有反爬机制,同时数量足够大,多线程效果较为明显。技术路线IP代理池多线程爬虫与反爬编写思路首先,开始分析天天基金网的一些数据。经过抓包分析,可知:./fundcode_search.js包含所有基金的数据,同时,该地址具有反爬机制,多次访问将会

系统 2019-09-27 17:57:51 2667

Python

详解python中index()、find()方法

python中index()、find()方法,具体内容如下:index()方法检测字符串中是否包含子字符串str,如果指定beg(开始)和end(结束)范围,则检查是否包含在指定范围内,该方法与pythonfind()方法一样,只不过如果str不在string中会报一个异常。影响后面程序执行index()方法语法:str.index(str,beg=0,end=len(string))str--指定检索的字符串beg--开始索引,默认为0。end--结束

系统 2019-09-27 17:57:02 2667

Python

24式加速你的Python(小结)

一,分析代码运行时间第1式,测算代码运行时间平凡方法快捷方法(jupyter环境)第2式,测算代码多次运行平均时间平凡方法快捷方法(jupyter环境)第3式,按调用函数分析代码运行时间平凡方法快捷方法(jupyter环境)第4式,按行分析代码运行时间平凡方法快捷方法(jupyter环境)二,加速你的查找第5式,用set而非list进行查找低速方法高速方法第6式,用dict而非两个list进行匹配查找低速方法高速方法三,加速你的循环第7式,优先使用for循

系统 2019-09-27 17:52:26 2667

Python

Centos 7.4 多版本 Python 以及虚拟环境安装

前言本人前端不太懂Centos上面的东西,这两天在搞阿里云的Ecs在上面安装Python环境,刚开始直接在官网下载了源码包编译安装了Python3.7.4。但其实部署项目的时候大多会涉及到多项目以及Python的版本、环境不同,所以可以多版本Python+虚拟环境。0.Pyenv安装篇需要先安装依赖:yum-yinstallgitgccmakepatchzlib-develgdbm-developenssl-develsqlite-develbzip2-d

系统 2019-09-27 17:49:38 2667

Python

python3__深度学习__受限玻尔兹曼机

1.什么是受限玻尔兹曼机玻尔兹曼机是一大类的神经网络模型,但是在实际应用中使用最多的则是受限玻尔兹曼机(RBM)。受限玻尔兹曼机(RBM)是一个随机神经网络(即当网络的神经元节点被激活时会有随机行为,随机取值)。它包含一层可视层和一层隐藏层。在同一层的神经元之间是相互独立的,而在不同的网络层之间的神经元是相互连接的(双向连接)。在网络进行训练以及使用时信息会在两个方向上流动,而且两个方向上的权值是相同的。但是偏置值是不同的(偏置值的个数是和神经元的个数相同

系统 2019-09-27 17:47:38 2667

Python

python小案例2----人民币与美金兑换

案例描述设计一个输入以美元或人民币为单位的功能将其转换为另一种货币的金额案例分析·分析问题:该案例的转换功能·确定问题:将问题划分为三部,即输入、处理及输出三部分·设计算法:设计函数调用上机实验defmain(hl):money=input("请输入带单位的转换金额(输入Q退出程序):")ifmoney!='Q':unit=money[-3:]money_val=eval(money[:-3])ifunit=='USD':print('对应的人民币金额为:

系统 2019-09-27 17:55:11 2666

Python

Linux 安装python3.x步骤

本文转发自博客园非真的文章,内容略有改动本文已收录至博客专栏linux安装各种软件及配置环境教程中linux系统本身默认安装有2.x版本的python,版本x根据不同版本系统有所不同,通过python--V或python--version查看系统自带的python版本。有一些系统命令时需要用到python2,不能卸载,但是实际开发中往往是python3,所以在此记录下安装python3的过程,本文以python3.7.0为示例。一、安装依赖包1、首先安装g

系统 2019-09-27 17:49:46 2666

Python

用python 制作图片转pdf工具

最近因为想要看漫画,无奈下载的漫画是jpg的格式,网上的转换器还没一个好用的,于是乎就打算用python自己DIY一下:这里主要用了reportlab。开始打算随便写几行,结果为若干坑纠结了挺久,于是乎就想想干脆把代码写好点吧。实现了以下的几项功能:将当前文件夹下的图片保存到一个pdf中,支持选择pdf大小等如果有需要可以遍历它下面的所有文件夹简单的来说完全满足我将漫画转成pdf格式的需求了。碰到了一些问题,这里记录下:一、中文路径:这个实在是略蛋疼,总之

系统 2019-09-27 17:52:39 2665

Python

centos7误删除python2.7导致的python和yum不可用处理

centos7误删除python2.7后导致yum不可用:问题截图解决方法:1、在opt目录下创建site_package/python3递归目录,然后下载以下RPM包,并存入/opt/site_package/python3目录中http://vault.centos.org/7.5.1804/os/x86_64/Packages/lvm2-python-libs-2.02.177-4.el7.x86_64.rpmhttp://vault.centos.

系统 2019-09-27 17:46:51 2665

Python

LeetCode刷题笔记5:最长回文子串(Python实现)

题目描述:给定一个字符串s,找到s中最长的回文子串。你可以假设s的最大长度为1000。示例1:输入:"babad"输出:"bab"注意:"aba"也是一个有效答案。示例2:输入:"cbbd"输出:"bb"Solution(转自LeetCode官方题解):CODE:classSolution:deflongestPalindrome(self,s):''':params:str:return:str'''longest=0len_s=len(s)dp=[[0

系统 2019-09-27 17:57:52 2664

Python

我的Python学习之路(一)

我的Python学习之路(一)跟着廖雪峰的Python教程学习Task1:输入和输出Task2:打印变量Task3:格式化输出Task4:按要求打印tuple元素Task5:if分支练习Task6:循环练习Task7:调用函数Task8:定义函数Task9:可变参数Task10:递归函数实现Task11:切片练习Task12:迭代练习Task13:列表生成式练习Task14:生成器练习Task15:map/reduceTask16:Filter练习Task

系统 2019-09-27 17:57:00 2664

Python

python3使用Tornado的搭建HTTPS服务

前言最近需要使用https搭建一个api故简单记录一下搭建过程搭建http的服务简单快捷,这里就不做其他介绍有关https的原理请参考图解HTTPS环境搭建(非必须)这个环境其实不是必须的,我再搭建的时候,并没有安装这个环境,因为我的linux服务器自带的有了,可能是在安装其他软件的时候再带安装上去了,所以可以自我检测一下。一、安装OpenSSLOpenSSL介绍OpenSSL是一个强大的安全套接字层密码库,囊括主要的密码算法、常用的密钥和证书封装管理功能

系统 2019-09-27 17:57:00 2664

Python

多版本python的pip 升级后, pip2 pip3 与python版本

mint19.2本来pip和pip2对应python2.7pip3对应python3.6用源码安装了python3.7之后.这样版本也没问题.但是,用pip3.7安装包的时候提示pip需要升级,但是一旦升级,就不对了pippip2pip3都指向了pip3.7这导致一系列问题.包pgadmin4启动后报csrf错误,甚至进而导致docker-compose模式下postgres服务下线!而且,无法用重装python-pip,python3-pip来解决sud

系统 2019-09-27 17:46:37 2664

Python

Python抓取京东图书评论数据

京东图书评论有非常丰富的信息,这里面就包含了购买日期、书名、作者、好评、中评、差评等等。以购买日期为例,使用Python+Mysql的搭配进行实现,程序不大,才100行。相关的解释我都在程序里加注了:fromseleniumimportwebdriverfrombs4importBeautifulSoupimportreimportwin32com.clientimportthreading,timeimportMySQLdbdefmydebug():dr

系统 2019-09-27 17:45:44 2664

Python

python爬虫租房信息在地图上显示的方法

本人初学python是菜鸟级,写的不好勿喷。python爬虫用了比较简单的urllib.parse和requests,把爬来的数据显示在地图上。接下里我们话不多说直接上代码:1.安装python环境和编辑器(自行度娘)2.本人以58品牌公寓为例,爬取在杭州地区价格在2000-4000的公寓。#-*-coding:utf-8-*-frombs4importBeautifulSoupfromurllib.parseimporturljoinimportrequ

系统 2019-09-27 17:56:42 2663