在之前学习的RDD和DataFrame数据集主要处理的是离线数据，随着时代发展进步，我们会发现越来越多数据是在源源不断发回到数据中心，同时需要立刻响应给用户，这样的情况我们就会用到实时处理，常用的场景有实时显示某商场一小时人流密度、实时显示当天火车站人口总数等等。接下来从实时数据源说起，实时数据源主要有：FileSourceSocketSourceFlumeSourceKafkaSourceFileSource指的是文件作为数据来源，常用的有本地文件fil
系统 2019-09-27 17:52:32 2140
python是一门灵活的语言，也可以说python是一门胶水语言，顾名思义，就是其可以导入各类的包，python的包可以说是所有语言中最多的。当然导入包大部分是为了更快捷，更方便，效率更高。对于刚入门的python爱好者来说最初接触的应该是import直接导入包的方式，例如importtime，就是导入了python的time包，这个包中的方法可以处理大部分我们项目中遇到的关于时间的问题。下面我会详细介绍几种导入包的方式(在开发过程中绝对够用)以及怎样把其
系统 2019-09-27 17:52:19 2140
python修改大数据文件时，如果全加载到内存中，可能会导致内存溢出。因此可借用如下方法，将分件分段读取修改。withopen('file.txt','r')asold_file:withopen('file.txt','r+')asnew_file:current_line=0#定位到需要删除的行whilecurrent_line<(3-1):#(del_line-1)old_file.readline()current_line+=1#当前光标在被删除
系统 2019-09-27 17:51:18 2140
pymysqldemo代码样例，暂时先写查询的，增删改后续再添加；通用部分无论是增删改查，都需要先建立数据库连接，创建游标importpymysql#建立一个mysql的conn，返回Connetion对象conn=pymysql.connect(host='localhost',user='root',passwd='p@ssWD',port='3306',db='test')#新建一个游标，默认返还元组，可选DictCursor让查询结果返还dict#
系统 2019-09-27 17:50:47 2140
一、用例编写规则1.unittest提供了testcases、testsuites、testfixtures、testrunner相关的类,让测试更加明确、方便、可控。使用unittest编写用例,必须遵守以下规则:（1）测试文件必须先importunittest（2）测试类必须继承unittest.TestCase（3）测试方法必须以“test_”开头（4）测试类必须要有unittest.main()方法2.pytest是python的第三方测试框架,是
系统 2019-09-27 17:49:08 2140
numpy.ptp()是计算最大值与最小值差的函数，用法如下：importnumpyasnpa=np.array([np.random.randint(0,20,5),np.random.randint(0,20,5)])print('原始数据\n'a)print('对所有数据计算\n',a.ptp())print('axis=0,按行方向计算，即每列\n',a.ptp(axis=0))#按行方向计算，即每列print('axis=1,按列方向计算，即每行
系统 2019-09-27 17:48:43 2140
#money=int(input('你有多少钱?'))#ifmoney>50:#print('打车回家')#b=input('到家了吗?')#ifb=='到家了':#print('我到家了阿')#else:#pass#please=input('你是男的还是女的?')#ifplease=='男的'orplease=='男':#print('你走吧')#elifplease=='美女':#age=int(input("今年多大拉？"))#ifint(age)
系统 2019-09-27 17:48:20 2140
最近敲代码的时候主要遇到两大问题，第一个是构造自己包的时候找不到package。构造自己package谈两条经验，有助于解决这个问题。1自己构造包的名称尽量不要和Python自带的包重名，起的名字个性化一点。要不然出的bug都不知道错在哪2只要打算把这个文件夹当成一个包，就一定要在这个文件夹同一目录下新建一个__init__.py文件（内容可以为空）一般来说注意这两点，构建包就不成问题。在包的文件夹里面的.py文件称之为模块（文件名就是模块名），当然包里也
系统 2019-09-27 17:48:06 2140
python提供了大量的库，可以非常方便的进行各种操作，现在把python中实现读写csv文件的方法使用程序的方式呈现出来。在编写python程序的时候需要csv模块或者pandas模块，其中csv模块使不需要重新下载安装的，pandas模块需要按照对应的python版本安装。在python2环境下安装pandas的方式是：sudopipinstallpandas在python3环境下安装pandas的方式是：sudopip3installpandas1、
系统 2019-09-27 17:47:48 2140
地址：https://passport.bilibili.com/login左图事完整验证码图，右图是有缺口的验证码图步骤：1.准备bilibili账号2.工具：pycharmseleniumchromedriverPIL3.破解思路：找到完整验证码和有缺口的验证码图片，然后计算缺口坐标，再利用selenium移动按钮到指定位置,齐活步骤代码如下：先导入需要的包和库fromseleniumimportwebdriverfromselenium.webdri
系统 2019-09-27 17:46:44 2140
