这里主要讲了bs4解析方法和json方法，以8684网页为例子，爬取了全国公交线路importrequestsimporttimefrombs4importBeautifulSoupimportjsonfromxpinyinimportPinyinheaders={'User-Agent':'Mozilla/5.0(WindowsNT10.0;Win64;x64)AppleWebKit/537.36(KHTML,likeGecko)Chrome/76.0.
系统 2019-09-27 17:53:12 2044
最近在做游戏服务分层的时候，一直想把mysql的访问独立成一个单独的服务DBGate，原因如下:请求收拢到DBGate，可以使DBGate变为无状态的，方便横向扩展当请求量或者存储量变大时，mysql需要做分库分表，DBGate可以内部直接处理，外界无感知通过restful限制对数据请求的形式，仅支持简单的get/post/patch/put进行增删改查，并不支持复杂查询。这个也是和游戏业务的特性有关，如果网站等需要复杂查询的业务，对此并不适合DBGate
系统 2019-09-27 17:52:45 2044
网络爬虫学习笔记（2）1资料《Python网络爬虫从入门到实践》唐松，陈志铨。主要面向windows平台下的python3。菜鸟教程-》python2笔记2-1Python基础（1）++python的列表还有一种只读格式——元组Tuple，它用（）进行赋值，且只能在初始化时赋值。列表有追加元素的内置方法append（）字典有内置方法keys()（获得所有键的值），values()元组用“()”标识，列表用“[]”标识，字典用“{}”标识type(变量)查看
系统 2019-09-27 17:52:44 2044
SymPy是符号数学的Python库。它的目标是成为一个全功能的计算机代数系统，同时保持代码简洁、易于理解和扩展#coding:utf-8'''函数极限'''importsympysympy.init_printing()fromsympyimportI,pi,ooimportnumpyasnpx=sympy.Symbol('x')expr=sympy.sin(x)/xresult=sympy.limit(expr,x,0)print('limit:',r
系统 2019-09-27 17:52:24 2044
前序Thereshouldbeone-andpreferablyonlyone-obviouswaytodoit.――――theZenofPython意译：Python提倡用一种，而且最好是只有一种方法来完成一件事虽然Python有以上的提倡，但却在字符串格式化方面，没有做到这一点。字符串格式化敲黑板，划重点：在Python中有至少三种常见方式实现字符串格式化：%-formatting格式（Python2.6以前，推荐输出时使用）str.format()格
系统 2019-09-27 17:52:21 2044
#下载一个网页importrequestsimportreurl='https://www.biquge5200.cc/14_14621/'#模拟浏览器发送http请求response=requests.get(url)#编码方式response.encoding='utf-8',如果下载下来的网页内容有中文乱码现象就需要加上这一句话#网页源码html=response.text#[0]取列表下第0个元素.#eg:title的输出结果为：['斗神狂飙无弹窗
系统 2019-09-27 17:52:18 2044
著作权归作者所有。商业转载请联系作者获得授权，非商业转载请注明出处。Repetitionisthemotherofalllearning.重复是学习之母。看、看、看、看、看，看视频，看书，看公众号…倘若学习编程只要看看书、看看视频、听听讲就能够学会，那编程本身也失去魅力了。现在大家图方便，搜集大堆大堆的视频教程去看，看的时候感觉都懂了。看完什么都忘了。要动手啊！你学编程，无论是工作，还是做自己的项目，都是要一行代码一行代码地去敲出来的。这个过程才是真正学习
系统 2019-09-27 17:51:10 2044
生成器就是自己用python代码写的迭代器，生成器的本质就是迭代器。通过以下两种方式构建一个生成器：1、通过生成器函数2、生成器表达式生成器函数：函数deffunc1(x):x+=1returnxprint(func1(5))生成器函数deffunc1(x):x+=1yieldxg_obj=func1(5)print(g_obj.__next__())一个next对应一个yield。yieldVSreturnreturn结束函数，给函数的执行者返回值yie
系统 2019-09-27 17:50:36 2044
协程是什么我们已经做过不少爬虫项目，不过我们爬取的数据都不算太大，如果我们想要爬取的是成千上万条的数据，那么就会遇到一个问题：因为程序是一行一行依次执行的缘故，要等待很久，我们才能拿到想要的数据。既然一个爬虫爬取大量数据要爬很久，那我们能不能让多个爬虫一起爬取？这样无疑能提高爬取的效率，就像一个人干不完的活儿，组个团队一起干，活一下被干完了。这是一个很好的思路——让多个爬虫帮我们干活。但具体怎么用Python实现这事呢？我们可以先别急着想怎么实现这件事，后
系统 2019-09-27 17:50:16 2044
推荐系统的相关知识我们已在前文中提到，在这篇文章中，我们会介绍如何用Python来搭建一个简单的推荐系统。本文使用的数据集是MovieLens数据集，该数据集由明尼苏达大学的Grouplens研究小组整理。它包含1,10和2亿个评级。Movielens还有一个网站，我们可以注册，撰写评论并获得电影推荐。接下来我们就开始实战演练。在这篇文章中，我们会使用Movielens构建一个基于item的简易的推荐系统。在开始前，第一件事就是导入pandas和numPy
系统 2019-09-27 17:50:15 2044
