在学习转换之前先了解以下它们的基本概念RDD：弹性分布式数据集，是一个只读分区集合DataFrame：以命名列方式组织的分布式数据集，概念上和关系型数据库的一张表一样DataSet：分布式数据集合，Python暂时不支持了解了基本的概念之后，接下来我们通过代码编写三种数据集的形成RDD的形成frompyspark.sqlimportSparkSessionif__name__=='__main__':spark=SparkSession\.builder\
系统 2019-09-27 17:52:31 2137
最近学习了python基础，写一下3大排序练练手：复制代码代码如下:'''Createdon2013-8-23@author:codegeek'''//冒泡排序defbubble_sort(seq):foriinrange(len(seq)):forjinrange(i,len(seq)):ifseq[j]
系统 2019-09-27 17:52:28 2137
deftrans_map(cint):ifcint<0:print"不合法"returnelifcint<10:returncintelifcint>=10:returnchr(cint-10+65)#将一个m进制的数转换为一个n进制的数deftransfer(m,n,origin):num=anyToTen(m,origin)target=tenToAny(n,num)printtargetdefanyToTen(m,origin):#任意进制的数转换为
系统 2019-09-27 17:52:21 2137
主机环境：（Python2.7.9/Win8_64/bs4）利用BeautifulSoup4来抓取www.pm25.com上的PM2.5数据，之所以抓取这个网站，是因为上面有城市PM2.5浓度排名（其实真正的原因是，它是百度搜PM2.5出来的第一个网站！）程序里只对比了两个城市，所以多线程的速度提升并不是很明显，大家可以弄10个城市并开10个线程试试。最后吐槽一下：上海的空气质量怎么这么差！！！PM25.py复制代码代码如下:#!/usr/bin/envp
系统 2019-09-27 17:51:23 2137
转：https://www.jianshu.com/p/4be85de84d2a本机环境：Windows1064位Anacondapython3.7报错信息：pipisconfiguredwithlocationsthatrequireTLS/SSL,howeverthesslmoduleinPythonisnotavailable.解决方法：原因：Anaconda环境变量未配置完全需要配置的环境变量：D:\ProgramData\Anaconda3D:\
系统 2019-09-27 17:50:37 2137
python项目如何在另一个环境上重新构建项目所需要的运行环境依赖包？使用的时候边记载是个很麻烦的事情，总会出现遗漏的包的问题，这个时候手动安装也很麻烦，不能确定代码报错的需要安装的包是什么版本。这些问题，requirements.txt都可以解决！生成requirements.txt，有两种方式：第一种适用于单虚拟环境的情况：：pipfreeze>requirements.txt为什么只适用于单虚拟环境？因为这种方式，会将环境中的依赖包全都加入，如果使用
系统 2019-09-27 17:50:13 2137
1.1安装模块pipinstallpykafka1.2基本使用#-*coding:utf8*-frompykafkaimportKafkaClienthost='IP:9092,IP:9092,IP:9092'client=KafkaClient(hosts=host)#生产者topicdocu=client.topics['my-topic']producer=topicdocu.get_producer()foriinrange(100):printi
系统 2019-09-27 17:48:56 2137
*args和**kwargs*args代表位置参数，它会接收任意多个参数并把这些参数作为元组传递给函数。**kwargs代表的关键字参数，允许你使用没有事先定义的参数名，另外，位置参数一定要放在关键字参数的前面。__new__和__init__的区别创建一个新实例时调用__new__,初始化一个实例时用__init__,这是它们最本质的区别。new方法会返回所构造的对象，init则不会.new函数必须以cls作为第一个参数，而init则以self作为其第一
系统 2019-09-27 17:48:29 2137
本面试题题库，由公号：非本科程序员整理发布第1题：如何理解Django被称为MTV模式？这个题就是面向对象设计和设计模式的开始。你可能比较熟悉的模式叫做:MVC。说是ModelViewController，而在Django中因为Template来处理视图展现，所以称为:MTV。接下里会问到的就是分层的概念，有句话叫：“没有什么问题是不能通过增加一层解决的，如果有，那就再加一层。”当然还会有设计模式的一些原则等着你，比如开-闭原则、单一职责原则等。第2题：解
系统 2019-09-27 17:48:19 2137
并发与锁a.多个线程共享数据的时候，如果数据不进行保护，那么可能出现数据不一致现象，使用锁，信号量、条件锁b.c.互斥锁1.互斥锁，是使用一把锁把代码保护起来，以牺牲性能换取代码的安全性，那么Rlock后必须要relase解锁不然将会失去多线程程序的优势2.互斥锁的基本使用规则：1importthreading2#声明互斥锁3lock=threading.Rlock();4defhandle(sid):#功能实现代码5lock.acquire()#加锁6#
系统 2019-09-27 17:48:09 2137
