搜索到与相关的文章
Python

python使用pandas处理大数据节省内存技巧(推荐)

一般来说,用pandas处理小于100兆的数据,性能不是问题。当用pandas来处理100兆至几个G的数据时,将会比较耗时,同时会导致程序因内存不足而运行失败。当然,像Spark这类的工具能够胜任处理100G至几个T的大数据集,但要想充分发挥这些工具的优势,通常需要比较贵的硬件设备。而且,这些工具不像pandas那样具有丰富的进行高质量数据清洗、探索和分析的特性。对于中等规模的数据,我们的愿望是尽量让pandas继续发挥其优势,而不是换用其他工具。本文我们

系统 2019-09-27 17:49:29 1586

Python

python占位符输入方式实例

占位符,顾名思义就是插在输出里站位的符号。占位符是绝大部分编程语言都存在的语法,而且大部分都是相通的,它是一种非常常用的字符串格式化的方式。1、常用占位符的含义s:获取传入对象的__str__方法的返回值,并将其格式化到指定位置r:获取传入对象的__repr__方法的返回值,并将其格式化到指定位置c:整数:将数字转换成其unicode对应的值,10进制范围为0<=i<=1114111(py27则只支持0-255);字符:将字符添加到指定位置o:将整数转换成

系统 2019-09-27 17:49:18 1586

Python

Python简单进程锁代码实例

先说说线程在多线程中,为了保证共享资源的正确性,我们常常会用到线程同步技术.将一些敏感操作变成原子操作,保证同一时刻多个线程中只有一个线程在执行这个原子操作。我最常用的是互斥锁,也称独占锁。其次还有读写锁,信号量,条件变量等。除此之外,我们在进程间通信时会用到信号,向某一个进程发送信号,该进程中设置信号处理函数,然后当该进程收到信号时,执行某些操作。其实在线程中,也可以接受信号,利用这种机制,我们也可以用来实现线程同步。更多信息见//www.jb51.ne

系统 2019-09-27 17:48:40 1586

Python

Python爬虫 urllib2的使用方法详解

所谓网页抓取,就是把URL地址中指定的网络资源从网络流中读取出来,保存到本地。在Python中有很多库可以用来抓取网页,我们先学习urllib2。urllib2是Python2.x自带的模块(不需要下载,导入即可使用)urllib2官网文档:https://docs.python.org/2/library/urllib2.htmlurllib2源码urllib2在python3.x中被改为urllib.requesturlopen我们先来段代码:#-*-

系统 2019-09-27 17:48:38 1586

Python

Python psutil模块简单使用实例

安装很简单复制代码代码如下:pipinstallpsutil官网地址为:https://pythonhosted.org/psutil/(文档上有详细的api)github地址为:https://github.com/giampaolo/psutil/psutil比较好的地方,一个是跨平台,不需要切换平台的时候在重新开放了,另外一个好处的工具集中CPU,memory,disks,network,这些信息都可以获得到。可以用来做系统监控,性能分析,进程管理。

系统 2019-09-27 17:48:35 1586

Python

python开发之路

第一篇:Python基础Python入门python的数据类型文件操作第二篇:函数函数基础用户注册register()示例扩展注册功能装饰器举例函数嵌套调用、名称空间与作用域、函数对象函数装饰器迭代器生成器面向过程、三元表达式、函数递归匿名函数日志输出格式内置函数列表生成式、生成器表达式、模块导入第三篇:模块软件开发目录规范、logging模块序列化与反序列化、os模块包的使用time模块、datetime模块(打印进度条)random模块、shutil模

系统 2019-09-27 17:48:25 1586

Python

使用Python制作获取网站目录的图形化程序

1.pyqt4写的界面find_ui.py#-*-coding:utf-8-*-fromPyQt4importQtCore,QtGuitry:_fromUtf8=QtCore.QString.fromUtf8exceptAttributeError:def_fromUtf8(s):returnstry:_encoding=QtGui.QApplication.UnicodeUTF8def_translate(context,text,disambig):r

系统 2019-09-27 17:48:21 1586

Python

人生苦短我用python python如何快速入门?

假设你希望学习Python这门语言,却苦于找不到一个简短而全面的入门教程。那么本教程将花费十分钟的时间带你走入Python的大门。本文的内容介于教程(Toturial)和速查手册(CheatSheet)之间,因此只会包含一些基本概念。很显然,如果你希望真正学好一门语言,你还是需要亲自动手实践的。在此,我会假定你已经有了一定的编程基础,因此我会跳过大部分非Python语言的相关内容。本文将高亮显示重要的关键字,以便你可以很容易看到它们。另外需要注意的是,由于

系统 2019-09-27 17:48:10 1586

Python

Python开发WebService系列教程之REST,web.py

在Bioinformatics(生物信息学)领域,WebService是很重要的一种数据交换技术,未来必将更加重要。目前EBI所提供的WebService就分别有SOAP和REST两种方式的服务,不管是数据服务还是计算服务(计算任务提交)。1Python+SOAP/WSDL/UDDI最普遍的做法(个人观点)是使用pythonZSI2.0,ZSI还依赖于SOAPpy和pyXML等LIB。SOAP协议很多人都很熟悉,有很多现有的应用也都使用Java等语言来开发

系统 2019-09-27 17:48:09 1586

Python

Python 编码规范(Google Python Style Guide)

Python风格规范(Google)本项目并非Google官方项目,而是由国内程序员凭热情创建和维护。如果你关注的是Google官方英文版,请移步GoogleStyleGuide以下代码中Yes表示推荐,No表示不推荐。分号不要在行尾加分号,也不要用分号将两条命令放在同一行。行长度每行不超过80个字符以下情况除外:长的导入模块语句注释里的URL不要使用反斜杠连接行。Python会将圆括号,中括号和花括号中的行隐式的连接起来,你可以利用这个特点.如果需要,你

系统 2019-09-27 17:48:09 1586