python编码错误小结以及保存方式修改

系统 1642 0

我用的是python2.6。

学习python写爬虫的时候,一般都会用到一个Demo-------

这个Dmoe在学习的时候确实是非常好的例子,但是我们可能需要对它进行修改,这就会出现一些问题。

再对demo进行修改的时候发现了一些编码问题下面就发出来做个记录。 python UnicodeEncodeError:'ascii'code can't encode characters in position 23-26:ordinal not in range(128) 这是一个编码错误。

我的错误代码具体如下:

 

item['intro'] = self._get_xpath_text(hxs, u'//td[contains(text(), "企业介绍")]/preceding-sibling::td/strong/text()')这样写就会发生下面的错误

 

python编码错误小结以及保存方式修改

这个错误我首先在dmoz_spider.py的文件头部加入了:

# -*- coding:utf-8 -*-

发现没有任何效果。

最后通过在下面的位置加入代码问题就解决了。

这部分一定要在前面加入一句引用:

import sys

python编码错误小结以及保存方式修改

编码问题得到解决了

 

 

在原例子中把爬取得内容保存成json格式,但是我们平时需要把内容保存到数据中,一般是mysql或者excel中。

在阅读了一些文献后发现可以这么解决,

在进行爬虫的时候命令修改为:

scrapy crawl dmoz -o items.xml -t xml

这样文件会直接保存成一个XML文件,再调用mysql或者excel都可以完全的导入进去。

python编码错误小结以及保存方式修改


更多文章、技术交流、商务合作、联系博主

微信扫码或搜索:z360901061

微信扫一扫加我为好友

QQ号联系: 360901061

您的支持是博主写作最大的动力,如果您喜欢我的文章,感觉我的文章对您有帮助,请用微信扫描下面二维码支持博主2元、5元、10元、20元等您想捐的金额吧,狠狠点击下面给点支持吧,站长非常感激您!手机微信长按不能支付解决办法:请将微信支付二维码保存到相册,切换到微信,然后点击微信右上角扫一扫功能,选择支付二维码完成支付。

【本文对您有帮助就好】

您的支持是博主写作最大的动力,如果您喜欢我的文章,感觉我的文章对您有帮助,请用微信扫描上面二维码支持博主2元、5元、10元、自定义金额等您想捐的金额吧,站长会非常 感谢您的哦!!!

发表我的评论
最新评论 总共0条评论