今天接到一个新的任务,要对一个140多M的csv文件进行数据处理,总共有170多万行,尝试了导入本地的MySQL数据库进行查询,结果用Navicat导入直接卡死....估计是XAMPP套装里面全默认配置的MySQL性能不给力,又尝试用R搞一下吧结果发现光加载csv文件就要3分钟左右的时间,相当不给力啊,翻了翻万能的知乎发现了Python下的一个神器包:Pandas(熊猫们?),加载这个140多M的csv文件两秒钟就搞定,后面的分类汇总等操作也都是秒开,太牛
系统 2019-09-27 17:52:33 2078
建造者模式，也是一种创建新对象的设计方法，和C++中的虚函数很类似，但是用到了python自身的虚基类ABCMeta。1.应用场景:某个类中的函数较多，且实现比较复杂，很多时候需要继承的子类重载或者重新定义逻辑；2.背景基础：由于用到python中虚函数，需要了解abc模块中的ABCMeta和python中类创建对象时的__metaclass__属性含义。一般地，在某个类中如果定义__metaclass__=something时，简单地说是，创建对象时，会
系统 2019-09-27 17:52:26 2078
这里先解释一下几个概念-位置参数:按位置设置的参数,隐式用元组保存对应形参.平时我们用的大多数是按位置传参.比如有函数deffunc(a,b,c),调用func(1,2,3).即a=1,b=2,c=3-关键字参数:可以通过关键字设置参数,不用关心参数位置,隐式用字典保存形参.比如有函数deffunc(a,b,c),调用func(b=1,c=2,a=3),即a=3,b=1,c=2普通格式复制代码代码如下:deffunc(opt_args):...return
系统 2019-09-27 17:50:13 2078
在了解装饰器的之前一定要先了解函数作为参数传递,什么是函数内嵌,请参考我之前写的博客函数简介因为在python里面,函数也是对象,也可以作为参数进行传递.python装饰器本质也是一种特殊函数,它接收的参数是函数对象,然后动态地函数参数添加额外的功能,而不用修改原有的函数对象.python装饰器传入的参数是函数,返回的值也是函数!python装饰器思想有点类似设计模式的装饰模式,其意图是动态地给函数对象添加额外的功能.比如像增加日志打印的功能,有点面向切面
系统 2019-09-27 17:50:12 2078
将音频文件拷贝到程序所在目录即可。如下所示：#!/usr/bin/envpython#encoding:utf-8"""@Company：华中科技大学电气学院聚变与等离子研究所@version:V1.0@author:Victor@contact:1650996069@qq.comoryexin@hust.edu.cn2018--2020@software:PyCharm@file:VoiceDataProcessing.py@time:2018/9/81
系统 2019-09-27 17:47:00 2078
今天在帮前端准备数据的时候，需要把数据格式转成json格式，说实话，涉及到中文有时候真的是很蛋疼，除非对Python的编码规则比较了解，不然处理起来真的很蛋疼。整个逻辑我们需要处理的是把一些文章处理，生成多个html文件，然后用json来显示文章的列表，图片，摘要和标题。思路为了以后的数据扩展，那必须有一个数据库，我的想法就是自己写一个简单的网页做为提交输入，然后post到后台以后录入到数据库中，再写一个展示文章的页面，展示效果正确后，写一个request
系统 2019-09-27 17:38:09 2078
本文实例为大家分享了python批量处理文件或文件夹的具体代码，供大家参考，具体内容如下#-*-coding:utf-8-*-importos,shutilimportsysimportnumpyasnp##########批量删除不同文件夹下的同名文件夹#############defarrange_file(dir_path0):fordirpath,dirnames,filenamesinos.walk(dir_path0):if'my_result
系统 2019-09-27 17:55:50 2077
首先,你得下载SocksiPy这个.解压出来之后里面会有一个socks.py文件.然后你可以把这个文件复制到python安装目录里面的Lib\site-packages中.或者把这个文件复制到程序所在的目录中.然后就可以再程序中使用socket代理来编写程序了.下面是示例代码importsocksimportsocketsocks.setdefaultproxy(socks.PROXY_TYPE_SOCKS5,"127.0.0.1",8088)socket
系统 2019-09-27 17:53:08 2077
说到流处理，Spark为我们提供了窗口函数，允许在滑动数据窗口上应用转换，常用场景如每五分钟商场人流密度、每分钟流量等等，接下来我们通过画图来了解SparkStreaming的窗口函数如何工作的，处理过程图如下所示：上图中绿色的小框框是一批一批的数据流，虚线框和实线框分别是前一个窗口和后一个窗口，从图中可以看出后一个窗口在前一个窗口基础上移动了两个批次的数据流，而我们真正通过算子操作的数据其实就是窗口内所有的数据流。在代码实现前了解下窗口操作常用的函数有：
系统 2019-09-27 17:52:34 2077
在web开发中经常用到验证码，为了防止机器人注册或者恶意登陆和查询等，作用不容小觑但是验证码其实不是一个函数就能搞定的，它需要生成图片和水印，其实每种语言都有相关的函数生成图片和文字水印。包括我熟悉的php，呵呵，今天主要来分享如何用python生成验证码。python生成验证码主要用到如下模块：Image,ImageDraw,ImageFont,ImageFilter和随机数生成模块Random。代码如下：#!/usr/bin/envpython#cod
系统 2019-09-27 17:48:19 2077
