搜索到与相关的文章
Hive

hive UDAF开发入门和运行过程详解

介绍hive的用户自定义聚合函数(UDAF)是一个很好的功能,集成了先进的数据处理。hive有两种UDAF:简单和通用。顾名思义,简单的UDAF,写的相当简单的,但因为使用Java反射导致性能损失,而且有些特性不能使用,如可变长度参数列表。通用UDAF可以使用​​所有功能,但是UDAF就写的比较复杂,不直观。本文只介绍通用UDAF。UDAF是需要在hive的sql语句和groupby联合使用,hive的groupby对于每个分组,只能返回一条记录,这点和m

系统 2019-08-12 01:32:14 3516

Python

《简明Python教程》知识点摘要笔记

如何退出解释器提示符?如果你使用的是Windows命令提示符,可以按下[ctrl+z]组合键并敲击[enter]键来退出。可选择的编辑器有哪几种?初学者可以以PyCharm开始,从而在此刻专注于学习Python而不是编辑器。而一名经验丰富的程序员,那你一定在用Vim或Emacs了。字符串的三种类型?单引号,双引号:工作机制完全相同三引号:指定多行字符串,在其中可自由地使用单引号与双引号针对C/C++程序员的提示:Python中没有单独的char数据类型。它

系统 2019-09-27 17:57:40 3515

Python

python rtree使用

安装pipinstallRtree在使用中,可以对点线面元素进行索引,对于点用一个阈值做外包,对于线面可以求外包,有外包以后就可以把数据插入索引,然后就可以求相交和临近。使用例子:fromrtreeimportindexclassMyIndex(object):def__init__(self,pose,distance):self.localPos=poseself.distance=distanceif__name__=='__main__':idx=

系统 2019-09-27 17:50:42 3515

编程技术

[BetterExplained]为什么你应该(从现在开始就

(一)为什么你应该(从现在开始就)写博客用一句话来说就是,写一个博客有很多好处,却没有任何明显的坏处。(阿灵顿的情况属于例外,而非常态,就像不能拿抽烟活到一百岁的英国老太太的个例来反驳抽烟对健康的极大损伤一样)让我说得更明确一点:用博客的形式来记录下你有价值的思考,会带来很多好处,却没有任何明显的坏处。Note:碎碎念不算思考、心情琐记不算思考、唠唠叨叨也不算思考、没话找话也不算思考,请以此类推。下面是我个人认为写一个长期的价值博客的最大的几点好处:1)能

系统 2019-08-29 22:50:08 3514

ASP.NET

ASP.NET深入学习笔记之IIS5.0的进程模型

1.IIS5.0的进程模型如果把ASP.NET应用程序部署到windowsserver2003之前的版本(例如windows2000、windowsxp),IIS5.0进程模型是唯一的选择。根据该进程模型,aspnet_isapi.dll不能处理.aspx文件,而是充当调度程序。它搜集所有有关激活URL和基础资源的信息,然后把请求传递给另一个不同的进程:名为aspnet_wp.exe的asp.net工作进程。ISAPI扩展和工作进程之间的通信通过命名管道进

系统 2019-08-29 22:42:45 3513

Hadoop

Hadoop MultipleOutputs 结果输出到多个文件夹

如题:出现下图中的情况(设置reduceNum=5)感觉很奇怪,排除了很久,终于发现是一个第二次犯的错误:丢了这句this.mOutputs.close();加上这句,一切恢复正常!HadoopMultipleOutputs结果输出到多个文件夹出现数据不全,部分文件为空

系统 2019-08-12 01:32:49 3513

数据库相关

sqlldr日期格式

日期格式终止等OPTIONS(direct=true,ERRORS=50,skip=0,rows=10000,readsize=20971520,bindsize=20971520)Loaddatainfile'input.txt'"str'****@@@@'"truncateintotableaction_cfieldsterminatedby'@#$'optionallyenclosedby'%%%%%'(ACTION_ID,TimeDATE'YYYY

系统 2019-08-12 01:55:00 3511

Hadoop

Hadoop namenode无法启动

最近遇到了一个问题,执行start-all.sh的时候发现JPS一下namenode没有启动每次开机都得重新格式化一下namenode才可以其实问题就出在tmp文件,默认的tmp文件每次重新开机会被清空,与此同时namenode的格式化信息就会丢失于是我们得重新配置一个tmp文件目录首先在home目录下建立一个hadoop_tmp目录sudomkdir~/hadoop_tmp然后修改hadoop/conf目录里面的core-site.xml文件,加入以下节

系统 2019-08-12 09:27:36 3510

Oracle

oracle物化视图

物化视图概述http://blog.csdn.net/tianlesoftware/article/details/4713553http://blog.csdn.net/hdhai9451/article/details/3875172物化视图fastrefresh相关之物化视图日志https://docs.oracle.com/cd/B10501_01/server.920/a96567/repplan.htm#16628https://docs.or

系统 2019-08-12 01:54:35 3510

Python

[Python知识图谱] 四.Python和Gephi实现中国知网合作关系知识图谱

该系列文章主要讲解知识图谱或关系图谱的构建方法,前文介绍了Neo4j图数据库和Jieba、PyLTP的基本用法。本篇文章主要采用Python和Gephi构建中国知网某个领域的作者合作关系和主题词共现的知识图谱,重点阐述了一种可操作的关系图谱构建方法,可用于论文发表、课程或企业可视化展示等。其基本步骤如下:1.在中国知网搜索“清水江”关键词,并导出论文Excel格式。2.使用Python处理文本,获取作者合作的共现矩阵及三元组。3.Gephi导入CSV节点及

系统 2019-09-27 17:54:13 3509