- 军军小站|张军博客
搜索到与相关的文章
Python

Python爬虫包 BeautifulSoup 递归抓取实例详解

Python爬虫包BeautifulSoup递归抓取实例详解概要:爬虫的主要目的就是为了沿着网络抓取需要的内容。它们的本质是一种递归的过程。它们首先需要获得网页的内容,然后分析页面内容并找到另一个URL,然后获得这个URL的页面内容,不断重复这一个过程。让我们以维基百科为一个例子。我们想要将维基百科中凯文・贝肯词条里所有指向别的词条的链接提取出来。#-*-coding:utf-8-*-#@Author:HaonanWu#@Date:2016-12-2510

系统 2019-09-27 17:56:47 1825

Python

Python程序包的构建和发布过程示例详解

关于我编程界的一名小程序猿,目前在一个创业团队任teamlead,技术栈涉及Android、Python、Java和Go,这个也是我们团队的主要技术栈。联系:hylinux1024@gmail.com当我们开发了一个开源项目时,就希望把这个项目打包然后发布到pypi.org上,别人就可以通过pipinstall的命令进行安装。本文的教程来自于Python官方文档,如有不正确的地方欢迎评论拍砖。0x00创建项目本文使用到的项目目录为➜packaging-tu

系统 2019-09-27 17:55:07 1825

Python

Python常用内置模块之xml模块(详解)

xml即可扩展标记语言,它可以用来标记数据、定义数据类型,是一种允许用户对自己的标记语言进行定义的源语言。从结构上,很像HTML超文本标记语言。但他们被设计的目的是不同的,超文本标记语言被设计用来显示数据,其焦点是数据的外观。它被设计用来传输和存储数据,其焦点是数据的内容。那么Python是如何处理XML语言文件的呢?下面一起来看看Python常用内置模块之xml模块吧。本文主要学习的ElementTree是python的XML处理模块,它提供了一个轻量级

系统 2019-09-27 17:54:56 1825

Python

python笔记:mysql、redis操作方法

模块安装:数据操作用到的模块pymysql,需要通过pipinstallpymysql进行安装。redis操作用的模块是redis,需要通过pipinstallredis进行安装。检验是否安装成功:进入到Python命令行模式,输入importpymysql、importredis,无报错代表成功;mysql操作方法如下:查询数据:fetchone、fetchmany(n)、fetchall()importpymysql#建立mysql连接,ip、端口、用

系统 2019-09-27 17:54:49 1825

Python

python将类似json的数据存储到MySQL中的实例

由于之前对于爬取下来的数据都是存入MongoDB中,想起来还没有尝试存入MySQL,于是将一篇简单的文章爬取下来,存入MySQL试试这里用到的python模块是pymysql,因为MySQLdb之前已经停止维护首先在cmd中连接MySQL并且创建一个数据库json在图形化界面workbench中可以看到接下来就要在pycharm中写代码了,在pycharm中导入pymysql后即可#建立python与MySQL之间的连接mysql=pymysql.conn

系统 2019-09-27 17:53:26 1825

Python

Linux下搭建Spark 的 Python 编程环境的方法

Spark编程环境Spark可以独立安装使用,也可以和Hadoop一起安装使用。在安装Spark之前,首先确保你的电脑上已经安装了Java8或者更高的版本。Spark安装访问Spark下载页面,并选择最新版本的Spark直接下载,当前的最新版本是2.4.2。下载好之后需要解压缩到安装文件夹中,看自己的喜好,我们是安装到了/opt目录下。tar-xzfspark-2.4.2-bin-hadoop2.7.tgzmvspark-2.4.2-bin-hadoop2

系统 2019-09-27 17:52:49 1825

Python

用Python徒手撸一个股票回测框架

通过纯Python完成股票回测框架的搭建。什么是回测框架?无论是传统股票交易还是量化交易,无法避免的一个问题是我们需要检验自己的交易策略是否可行,而最简单的方式就是利用历史数据检验交易策略,而回测框架就是提供这样的一个平台让交易策略在历史数据中不断交易,最终生成最终结果,通过查看结果的策略收益,年化收益,最大回测等用以评估交易策略的可行性。代码地址在最后。本项目并不是一个已完善的项目,还在不断的完善。回测框架回测框架应该至少包含两个部分,回测类,交易类.回

系统 2019-09-27 17:51:37 1825

Python

使用Python制作获取网站目录的图形化程序

1.pyqt4写的界面find_ui.py#-*-coding:utf-8-*-fromPyQt4importQtCore,QtGuitry:_fromUtf8=QtCore.QString.fromUtf8exceptAttributeError:def_fromUtf8(s):returnstry:_encoding=QtGui.QApplication.UnicodeUTF8def_translate(context,text,disambig):r

系统 2019-09-27 17:48:21 1825

Python

Python如何应用cx_Oracle获取oracle中的clob字段问题

最近在用Python编写连接数据库获取记录的脚本,其中用到了cx_Oracle模块。它的语法主要如下:cx_Oracle.connect('username','pwd','IP/HOSTNAME:PORT/TNSNAME')importcx_Oracledb1=cx_Oracle.connect('yang','yang','127.0.0.1:1523/yangdb')db2=cx_Oracle.connect('yang/yang@127.0.0.1

系统 2019-09-27 17:47:07 1825

Python

分析经典Python开发工程师面试题

你知道吗?实际上Python早在20世纪90年代初就已经诞生,可是火爆时间却并不长,就小编本人来说,也是前几年才了解到它。据统计,目前Python开发人员的薪资待遇为10K以上,这样的诱惑很难让人拒绝,所以这几年使得许多人纷纷学习Python。Python是一种解释型脚本语言,注重可读性和效率的语言,尤其是相较于Java,PHP以及C++这样的语言,它的这两个优势让其在开发者中大受欢迎,同时在运维领域也被大量运用到自动化运维场景中。如今使用到Python的

系统 2019-09-27 17:38:27 1825