搜索到与相关的文章
Python

python多线程+代理池爬取天天基金网、股票数据过程解析

简介提到爬虫,大部分人都会想到使用Scrapy工具,但是仅仅停留在会使用的阶段。为了增加对爬虫机制的理解,我们可以手动实现多线程的爬虫过程,同时,引入IP代理池进行基本的反爬操作。本次使用天天基金网进行爬虫,该网站具有反爬机制,同时数量足够大,多线程效果较为明显。技术路线IP代理池多线程爬虫与反爬编写思路首先,开始分析天天基金网的一些数据。经过抓包分析,可知:./fundcode_search.js包含所有基金的数据,同时,该地址具有反爬机制,多次访问将会

系统 2019-09-27 17:57:51 2679

Python

详解python中index()、find()方法

python中index()、find()方法,具体内容如下:index()方法检测字符串中是否包含子字符串str,如果指定beg(开始)和end(结束)范围,则检查是否包含在指定范围内,该方法与pythonfind()方法一样,只不过如果str不在string中会报一个异常。影响后面程序执行index()方法语法:str.index(str,beg=0,end=len(string))str--指定检索的字符串beg--开始索引,默认为0。end--结束

系统 2019-09-27 17:57:02 2679

Python

我的Python学习之路(一)

我的Python学习之路(一)跟着廖雪峰的Python教程学习Task1:输入和输出Task2:打印变量Task3:格式化输出Task4:按要求打印tuple元素Task5:if分支练习Task6:循环练习Task7:调用函数Task8:定义函数Task9:可变参数Task10:递归函数实现Task11:切片练习Task12:迭代练习Task13:列表生成式练习Task14:生成器练习Task15:map/reduceTask16:Filter练习Task

系统 2019-09-27 17:57:00 2679

Python

Python之爬虫有感(一)

urllib.request.Request('URL',headers=headers)User-Agent是爬虫和反爬虫斗争的第一步,发送请求必须带User—Agent使用流程:1、创建请求对象request=urlllib.request.Request('url'......)2、发送请求获取响应对象response=urllib.request.urlopen(request)3、获取响应内容html=response.read().decond

系统 2019-09-27 17:49:37 2679

编程技术

十个可以避免的面试错误

10月10日eweek通过调查研究,总结出技术人员十个可以避免的面试错误(行为)10AvoidableInterviewFlubs,但是其中许多内容适用所有的面试者。1.Don'tbelate!Latetotheinterviewmeanslateonprojectsanddeadlines别迟到2.Showsomeenergy:Lackofenthusiasmmeansyoudon'tcareaboutyourwork表现出热情3.AtleastGoog

系统 2019-08-29 23:51:07 2679

编程技术

xml解析之DOM

DOM是DocumentObjectModel的缩写,即文档对象模型。XML将数据组织为一颗树,所以DOM就是对这颗树的一个对象描叙。通俗的说,就是通过解析XML文档,为XML文档在逻辑上建立一个树模型,树的节点是一个个对象。我们通过存取这些对象就能够存取XML文档的内容。下面我们来看一个简单的例子,看看在DOM中,我们是如何来操作一个XML文档的。这是一个XML文档,也是我们要操作的对象:

系统 2019-08-29 23:34:23 2679

编程技术

5个Pinterest推广技巧帮助你提升流量(附加10+T

你是否有兴趣通过pinterest获取流量和提升知名度?你知道哪些pinterest的推广手段的效果好?我们测试了很多方法,这里推荐以下5种方法,提升pinterest的营销引流效果。PS:基础的pinterest优化技巧就不介绍了,网上有很多基础介绍。NO.5:在网站上安装Pin插件只依靠自己在pinterest建账号pin图是比较可惜的做法,因为有将近46%的用户将pinterest作为收藏功能使用,提供便捷的pin按钮则可让用户顺利收藏+分享给TA的

系统 2019-08-29 23:32:35 2679

MySql

Sphinx+MySQL全文检索架构与安装

本文阐述的是一款经过生产环境检验的千万级数据全文检索(搜索引擎)架构。本文只列出前几章的内容节选,不提供全文内容。在DELLPowerEdge6850服务器(四颗64位InterXeonMP7110N处理器/8GB内存)、RedHatAS4Linux操作系统、MySQL5.1.26、MyISAM存储引擎、key_buffer=1024M环境下实测,单表1000万条记录的数据量(这张MySQL表拥有int、datetime、varchar、text等类型的1

系统 2019-08-29 22:54:17 2679

Android

Android开发之初探视频的播放

Android开发之初探视频的播放/**Android开发之初探视频的播放*北京Android俱乐部群:167839253*Createdon:2011-8-24*Author:blueeagle*Email:liujiaxiang@gmail.com*/Android下视频的播放跟音频的播放是有一些区别的。需要有一个空间来存放视频文件。关于视频的播放其实费了一点功夫,程序代码很简单,但是对于播放,可能会出这样那样的问题,现在总结一下,步骤如下:1.创建s

系统 2019-08-29 22:39:53 2679

编程技术

音视频编码库 FFmpeg(源码)

发布公司:ffmpeg.org授权方式:免费版软件评级:评级标准绿色认证:通过无插件认证操作系统:WindowsAll/Macintosh/Unix/Linux软件语言:英文软件大小:3,559KB更新日期:2010-11-10下载次数:累计/3587本周/9关键字项:mpegffmpeg编码使用最广泛的音频和视频编码库FFmpeg终于发布了用户等候已久的0.5版。新版带来了大量更新,最值得关注的改进包括逆向工程了所有的R

系统 2019-08-29 22:32:42 2679