最近处于系统不活跃期,没怎么升级,因此有了时间可以对整个ETL系统在稳定的基础上进行优化。每天列出TOP10COSTTIMEJOB进行分析,其中TOP1COSTTIMEJOB采用了窗口函数first_value和last_value,结果SQL全部使用的是first_value,并且为了全部使用first_value,对窗口函数进行了二次排序。通过explain这段代码,可以发现两次sort消耗的时候大概是一次sort的1.7倍,把sort二次改进成一次,
系统 2019-08-12 01:54:29 2631
基本上有两种方式:1,使用MYSQL的管理工具,可以远程连接,比如用导航猫系列的,只要知道对方IP,然后就可以自己输入账号密码连接了。2,使用代码连接。Java代码示例:packagecom.test;importjava.sql.Connection;importjava.sql.DriverManager;importjava.sql.ResultSet;importjava.sql.Statement;publicclassDataBaseTest{
系统 2019-08-12 01:54:15 2631
DescriptionBoudreauxandThibodeauxareontheroadagain..."Boudreaux,wehavetogetthisshipmentofmudbugstoBatonRougebytonight!""Don'tworry,Thibodeaux,Ialreadycheckedahead.Therearethreeunderpassesandour18-wheelerwillfitthroughallofthem,soj
系统 2019-08-12 01:52:44 2631
Web服务器常用配置1.Web系统采用B/S结构通信的:Browser---Server1)浏览器向服务器发送访问目标资源请求(请求)2)服务器根据请求的目标资源路径,在服务器端进行查找(请求查找)3)服务器会将查找结果返回给客户端浏览器(响应)通信结构图:2.什么是Web服务器?包括硬件环境和软件环境,在网络中安装web服务器软件的计算机3.Tomcat服务器安装和配置1)在Apache官网上下载tomcat服务器*一般采用zip格式的(可直接解压使用)
系统 2019-08-12 01:33:56 2631
用到了一个SqlBulkCopy的类核心代码分析代码我还没有测试过stringexcelConnectionString=string.Format("Provider=Microsoft.ACE.OLEDB.12.0;DataSource={0};ExtendedProperties=Excel8.0",path);//CreateConnectiontoExcelWorkbookusing(OleDbConnectionconnection=newOl
系统 2019-08-12 01:33:38 2631
1.首先讲解的是MyBatis核心配置文件configuration.xml的配置一个完整的configuration.xml配置顺序如下:1properties,settings,typeAliases,typeHandlers,objectFactory,objectWrapperFactory,plugins,environments,databaseIdProvider,mappers.如果没有按照上面的标签顺序来配置,编译器会提示Theconte
系统 2019-08-12 01:33:36 2631
特征选择(亦即降维)是数据预处理中非常重要的一个步骤。对于分类来说,特征选择可以从众多的特征中选择对分类最重要的那些特征,去除原数据中的噪音。主成分分析(PCA)与线性判别式分析(LDA)是两种最常用的特征选择算法。关于PCA的介绍,可以见我的另一篇博文。这里主要介绍线性判别式分析(LDA),主要基于FisherDiscriminantAnalysiswithKernals[1]和FisherLinearDiscriminantAnalysis[2]两篇文
系统 2019-08-12 01:32:44 2631
在pdb模式下基本都是单个字母完成调试中的命令,命令列表网上很多。起步,调试模式打开py文件(-m的意思是将库中的python模块用作脚本去运行)。python-mpdbtest.py用l(l就是list的意思)看看文件里面有什么(很常用的命令)。它不会显示全部文件,只会显示当前运行行的上下几行代码,其中->指向的就是当前的运行的哪一行(注释和空行是直接跳过的),因为是刚开始,所以是第一个import(19是代码在文件中的行数)。(Pdb)l19->imp
系统 2019-09-27 17:52:17 2630
目标:从零部署机器学习开发环境,包括python3.7安装、anaconda安装、虚拟环境部署、jupyternotebook界面优化、简单程序运行1、python安装https://www.python.org/2、anaconda安装https://www.anaconda.com/3、虚拟环境部署为方便后续开发,使用anaconda部署新的开发环境3.1、enviroment》base》openterminal3.2、condacreate-nenv
系统 2019-09-27 17:47:18 2630
一直以来载ruby中使用$?.exitstatus来获取上次执行程序的退出状态,使用$1,$2..等获取上一次正则匹配匹配的值,但从未想过他们是否线程安全,今天老大问我,结果很是尴尬啊回来查了一下,原来他们都是线程安全的,可以参考以下地址:http://www.regular-expressions.info/ruby.html其中的specialvariables一节http://stackoverflow.com/questions/2164887/t
系统 2019-08-29 23:13:15 2630