Python

Python搭建Spark分布式集群环境

前言ApacheSpark是一个新兴的大数据处理通用引擎,提供了分布式的内存抽象。Spark最大的特点就是快,可比HadoopMapReduce的处理速度快100倍。本文没有使用一台电脑上构建多个虚拟机的方法来模拟集群,而是使用三台电脑来搭建一个小型分布式集群环境安装。本教程采用Spark2.0以上版本(比如Spark2.0.2、Spark2.1.0等)搭建集群,同样适用于搭建Spark1.6.2集群。安装Hadoop并搭建好Hadoop集群环境Spark

系统 2019-09-27 17:47:31 2792

Python

python基于json文件实现的gearman任务自动重启代码实例

一:在gearman任务失败后,调用task_faileddeftask_failed(task,*args):info='\n'.join(args)datetime=local_datetime()text='{}FAILED:\n{}\n当前响应worker已关闭\n{}\n-->【{}】'.format(task,info,datetime,task)print(text)check_frequency(task)二:打印失败信息后,调用check

系统 2019-09-27 17:57:37 2791

Python

python 爬取腾讯宜出行人流量数据

原文如下https://github.com/liujiao111/map-easygo/blob/master/README.md实现步骤原文大致讲了:1安装相应模块,各个文件里面的包都要安装,主要涉及pandas,selenium,requests:作者自定义的包引入在pycharm下会报错,但是不会影响使用2更改qqlist.py配置文件补充一点:这里是QQ号+密码3原文是run.bat运行,但始终报错,后来发现先运行run.bat,报错后再直接运行

系统 2019-09-27 17:50:41 2791

Python

《Python神经网络编程》第一章难点理解

这本书是科普性读物,如果你对神经网络理解的很透彻,可以在闲时读一读当放松;对于小白来讲,这本书真的很不错,很多概念讲的可以说很透彻了。这里我把最难理解的反向传播中的梯度下降做了笔记,方便更好地理解。

系统 2019-09-27 17:51:51 2790

Python

Python环境安装与卸载遇到的问题

Python环境安装与卸载遇到的问题(无法卸载)问题1:Win10下安装Python332bit&64bit无法下载学习Python的初期安装的是64位的Python,但在运用到与C语言交互的时候,发现大部分用C语言编译出来的dll文件都是32位的。由于Python与C语言交互必须保持一直,所以在Win10上又安装了32位的Python。后期学习发现Python32位似乎支持的库更完善,所以决定把环境完整迁移后,准备卸载64bitPython。但是却发现无

系统 2019-09-27 17:55:16 2789

Python

python报错:IndentationError:unindent does

这个错误为缩进匹配错误,出现这个错误说明你的缩进有问题。但有时候我们仔细检查后发现,缩进没问题啊?怎么还是错的呢?这时应该考虑,你是否将空格(space)和制表符(Tab)混用了。为了迫使程序员养成良好的写作风格,在python3中,是不支持空格和Tab键混用的。那出现这种情况该怎么解决呢?一般来说,无论你使用的是EditPlus还是Notepad++还是其他的工具,里面都会有一个功能:显示空格和制表符。这里以Editplus为例,其他工具的操作也是类似的

系统 2019-09-27 17:54:05 2789

Python

python进程、线程

为什么编程的时候要使用进程、线程、协程?使用它们是为了进行多并发编程。那么为什么要进行多并发编程?因为多并发编程可以减少程序运行的时间,让用户获得更好的体验。1.进程概念:操作系统执行程序分配存储空间的最小单位。一个CPU只能同时处理一个进程。python实现多进程,使用multiprocessing模块的Process类来创建进程。具体代码如下:frommultiprocessingimportProcessfromosimportgetpidimpor

系统 2019-09-27 17:52:02 2789

Python

python安装类库方法

一、通过pip安装1、通过网络自动下载类库pip安装是比较常见的类库安装方法,常用的命令为pipinstall类库名,例如安装scrapy类库,执行命令pipinstallscrapy。在执行上述命令时,会遇到“https://pypi.python.org/simple”无法打开的问题,此时只需指定源即可:pipinstallscrapy-ihttps://pypi.tuna.tsinghua.edu.cn/simple常见用的源如下:http://py

系统 2019-09-27 17:37:36 2789

Python

以股票RSI指标为例,学习Python发送邮件功能(含RSI指标确定卖点策略)

本人之前写过若干“给程序员加财商”的系列文,目的是通过股票案例讲述Python知识点,让大家在学习Python的同时还能掌握相关的股票知识,所谓一举两得。在之前的系列文里,大家能看到K线,均线,成交量的案例,在本文里,大家能看到通过RSI案例讲述Python邮件编程的知识点,在后继系列文里,大家还能看到MACD,BIAS,KDJ等指标相关案例。1RSI指标的原理和算法描述相对强弱指标(RSI)是通过比较某个时段内单股价格的涨跌幅度来判断多空双方的强弱程度,

系统 2019-09-27 17:51:10 2788

Python

MySQL与python交互

这里介绍两种连接方法,一种是使用安装的第三方库pymysql【针对python3】进行连接,另外一种是采用pandas里的模块进行连接,个人推荐后者。一、使用pymsql库进行连接这里使用的【数据库名:test_my表名:department字段名为:Id和Name】1.简单连接的小例子(1).查找记录。frompymysqlimport*try:#连接包括六部分组成:主机、端口、数据库名、用户名、密码、编码##主机:本地使用"localhost"或127

系统 2019-09-27 17:49:11 2788

Python

Python中每次处理一个字符的5种方法

目的对字符串的每个字符进行处理,其实每个字符(Char)就是一个长度为1的字符串。方法1.使用内建函数list()复制代码代码如下:>>>A_string='Python'>>>char_list=list(A_string)>>>char_list['P','y','t','h','o','n']2.使用for语句对字符串进行遍历复制代码代码如下:>>>forcinA_string:c.upper()'P''Y''T''H''O''N'3.列表解析复制代

系统 2019-09-27 17:38:01 2788

Python

在python中用print()输出多个格式化参数的方法

不废话,直接贴代码:disroot=math.sqrt(deta)root1=(-b+disroot)/(2*a)root2=(-b-disroot)/(2*a)print("有两个不同的解:%.2f,%.2f"%root1,%root2)这是最初写的print()代码,不过运行时总提示TypeError后来上网查了好多资料,发现格式根本不是这样子的,是我想当然了disroot=math.sqrt(deta)root1=(-b+disroot)/(2*a)

系统 2019-09-27 17:51:21 2787

Python

python中wget方式下载使用

python中wget方式下载使用文章目录python中wget方式下载使用一、简介二、使用2.1安装2.2示例一、简介linux中wget下载数据很方便,这里介绍在python中使用wget下载。二、使用2.1安装pip3installwget2.2示例

系统 2019-09-27 17:57:21 2786

Python

python networkx 根据图的权重画图实现

首先输入边和边的权重,随后画出节点位置,根据权重大小划分实边和虚边#coding:utf-8#!/usr/bin/envpython"""AnexampleusingGraphasaweightednetwork."""__author__="""AricHagberg(hagberg@lanl.gov)"""try:importmatplotlib.pyplotaspltexcept:raiseimportnetworkxasnxG=nx.Graph()

系统 2019-09-27 17:56:04 2785

Python

Python中字典与恒等运算符的用法分析

本文实例讲述了Python中字典与恒等运算符的用法。分享给大家供大家参考,具体如下:字典字典是可变数据类型,其中存储的是唯一键到值的映射。elements={"hydrogen":1,"helium":2,"carbon":6}字典的键可以是任何不可变类型,例如整数或元组,而不仅仅是字符串。甚至每个键都不一定要是相同的类型!print(elements["helium"])#2我们可以使用方括号并在括号里放入键,查询字典中的值或向字典中插入新值elemen

系统 2019-09-27 17:50:48 2784