搜索到与相关的文章
各行各业

跟我一起云计算(1)——storm

跟我一起云计算(1)——storm概述最近要做一个实时分析的项目,所以需要深入一下storm。为什么storm综合下来,有以下几点:1.生逢其时MapReduce计算模型打开了分布式计算的另一扇大门,极大的降低了实现分布式计算的门槛。有了MapReduce架构的支持,开发者只需要把注意力集中在如何使用MapReduce的语义来解决具体的业务逻辑,而不用头疼诸如容错,可扩展性,可靠性等一系列硬骨头。一时间,人们拿着MapReduce这把榔头去敲各种各样的钉子

系统 2019-08-12 01:31:46 2222

Python

python requests指定出口ip的例子

爬虫需要,一个机器多个口,一个口多个ip,为轮询这些ipdemo#coding=utf-8importrequests,sys,socketfromrequests_toolbelt.adaptersimportsourcereload(sys)sys.setdefaultencoding('utf-8')s=requests.Session()new_source=source.SourceAddressAdapter('192.168.4.2')s.m

系统 2019-09-27 17:56:57 2221

Python

Python爬虫实现使用beautifulSoup4爬取名言网功能案例

本文实例讲述了Python爬虫实现使用beautifulSoup4爬取名言网功能。分享给大家供大家参考,具体如下:爬取名言网top10标签对应的名言,并存储到mysql中,字段(名言,作者,标签)#!/usr/bin/python3#-*-coding:utf-8-*-fromurllib.requestimporturlopenasopenfrombs4importBeautifulSoupimportreimportpymysqldeffind_top

系统 2019-09-27 17:56:14 2221

Python

Python如何爬取微信公众号文章和评论(基于 Fiddler 抓包分析)

背景说明感觉微信公众号算得是比较难爬的平台之一,不过一番折腾之后还是小有收获的。没有用Scrapy(估计爬太快也有反爬限制),但后面会开始整理写一些实战出来。简单介绍下本次的开发环境:python3requestspsycopg2(操作postgres数据库)抓包分析本次实战对抓取的公众号没有限制,但不同公众号每次抓取之前都要进行分析。打开Fiddler,将手机配置好相关代理,为避免干扰过多,这里给Fiddler加个过滤规则,只需要指定微信域名mp.wei

系统 2019-09-27 17:53:47 2221

Python

python4:九九乘法表,菱形,斐波那契数列,指定项

打印九九乘法表:外层控制行数,内层控制列数。foriinrange(1,10):j=1whilej<=i:print(i,'*',j,'=',(i*j),'',end='')j+=1print('\n')打印菱形思路:分成两层从中间,这个想法很low。i=9m=i//2t=mwhilet!=0:print(t*'','*'*(i-2*t),t*'')t-=1t=1whilet!=m:t+=1print(t*'','*'*(i-2*t),t*'')方法二:对

系统 2019-09-27 17:52:57 2221

Python

Python 运行.py文件和交互式运行代码的区别详解

代码版本:3.6.31.交互式运行代码会直接给出表达式的结果,运行代码文件必须print才能在控制台看到结果。直接给出结果:没有print是看不到结果的:有print才能看到结果:另:交互式中可以用下划线`_`来查看上一次输出的结果。如果给下划线赋值,这个效果就没了。另另:如果变量的值是空,不会显示2.交互式输出会输出原始内容,print会输出渲染后的内容打印字符串会带着引号,换行符也原样显示了。字符串的引号被去掉了,换行符真的换行了3.交互式每一句代码都

系统 2019-09-27 17:50:56 2221

Python

python爬虫---从零开始(一)初识爬虫

我们开始来谈谈python的爬虫。1,什么是爬虫:网络爬虫是一种按照一定的规则,自动地抓取万维网信息的程序或者脚本。另外一些不常使用的名字还有蚂蚁、自动索引、模拟程序或者蠕虫。互联网犹如一个大蜘蛛网,我们的爬虫就犹如一个蜘蛛,当在互联网遇到所需要的资源,我们就会爬取下来,即为爬虫是一个请求网站并且提取数据的自动化程序。2,下面我们来提到两个名词:1)请求,request即为我们的请求,当我们在浏览器内输入网址,敲击回车时,这时浏览器就会发送消息给该网址所在

系统 2019-09-27 17:50:56 2221

Python

在linux下实现 python 监控usb设备信号

1.linux下消息记录关于系统的各种消息一般都会记录在/var/log/messages文件中,有些主机在中默认情况下有可能没有启用,具体配置方法可参考下面这篇博客:系统日志配置/var/log/messages2.python代码实现原理其实很简单,就是读/var/log/messages文件,找到有关usb的信息就可以了。#!/usr/bin/envpythonusbmsg=open("/var/log/messages","r")forlinein

系统 2019-09-27 17:50:15 2221

Python

python tushare mpf 绘股票k线图

在Python3环境下使用Python2代码时,碰到了如下的语句:#importmatplotlib.financeasmpf需要安装pipinstallmpl_finance,然后用下面的语句取代。importmpl_financeasmpfmpf_kline.py#coding:utf-8importos,sysimportdatetimeimportmatplotlib.pyplotaspltfrommatplotlib.pylabimportdat

系统 2019-09-27 17:50:12 2221

Python

Python 使用matplotlib模块模拟掷骰子

掷骰子骰子类#die.py骰子类模块fromrandomimportrandintclassDie():"""骰子类"""def__init__(self,num_sides=6):"""默认六面的骰子"""self.num_sides=num_sidesdefroll(self):"""掷骰子的方法"""returnrandint(1,self.num_sides)折线图掷骰子#die_visual_plot.py使用plot可视化骰子importmat

系统 2019-09-27 17:48:44 2221