python爬虫技术的选择:爬虫又是另外一个领域，涉及的知识点比较多，不仅要熟悉web开发，有时候还涉及机器学习等知识，不过在python里一切变的简单，有许多第三方库来帮助我们实现。使用python编写爬虫首先要选择合适的抓取模块，最简单的功能就是能发送和处理请求， 下面就介绍几个常用的抓取的方式。一、python 自带的urlib2和urlib或者第三方模块requests:这种方案适合简单的页面爬虫，比如爬取博客园推荐文章。urllib2和urllib是python自带模块可用来发送处理请求，虽然比较灵活但API易用性较差，所以一般都要进行二次封装，我曾经也进行过封装，发现自己封装出来的模块无限趋近于非常成熟的requests库，所以还是直接使用requests吧，当然requests只发送和接受请求，对于页面分析还要配合lxml或beautifulsoup等第三方库进行。高级点的爬虫不仅仅是发送和处理请求，还需要处理异常，请求速度控制等问题，这就需要我们写额外的代码去控制，当然我们可以自己写只是时间问题，但完全没有必要，接下来我会介绍第二种方案。二、scrapy框架:scrapy是爬虫领取的佼佼者，目前我做的项目无论复杂与否，都采用scrapy进行，对于请求调度，异常处理都已经封装好了，而且有第三方的scrapy-redis还可以支持分布式，我们把关注点放在更重要的页面分析和规则编写上，代码可以参考我github上的例子。三、python selenium:这种方式我称为终极必杀器，一般是实在没办法的时候才用，以前我在利用某家搜索引擎抓取文章时，该搜索引擎采用的比较高难度的反爬虫机制而且不断变化让人找不到规律，最典型的特点就是cookie会随机隐藏到某个页面js和图片中，解决方案就是模拟浏览器的行为加载所有js等静态资源文件，如果自己写个浏览器取解析太扯蛋了，如果chrome浏览器能开放接口，通过chrome的加载方式获取页面的内容就好了，这就是selenium了，selenium加上随机等待时间可以模拟出和人非常类似的操作行为，缺点就是速度较慢，但是一般爬虫对抓取速度要求不高，重要的是稳定性，这种方式对于抓取反爬虫机制做的好的大型网站比较适用。总结，对于大部分爬虫需求直接用scrapy解决，如果解决不了再采用第一种或第三种方案，就这么简单。

Python要学什么内容:1、Python的基础语言：从Python的基础语法开始学习，了解什么是Python的变量，什么是循环，什么是函数，什么是模块类等等。2、Python的文件操作：学习完基础之后，进行一些简单的联系，如文件的操作。学习文件操作的时候，要学习文件的写入和读取以及了解各种文件之间的读写不同知识点。3、Python的数据库编程：一般学习Mysql数据库的操作，包括数据库的增加数据，删除数据，以及查询数据以及对应的SQL语句等都是学习的重点。4、Python的网络编程。要学习网络编程，一般需要了解三个方面：1.写出基本的TCP连接，知道编写TCP的各个步骤，例如创建socket、绑定port、端口复用等，对TCP稍微做了解，知道协议的每个字段，了解三次握手。2.了解基本的服务器并发模型，例如多进程、多线程、l0复。3.了解一些网络库例如twisted。

如何让python实现机器学习:随着人工智能 大数据的火热 Python成为了广大科学家和普通大众的学习语言。在学习Python的过程中 有很多人感到迷茫 不知道自己该从什么地方入手，今天我们就来说一些新手该如何学习Python编程。以下是小编为你整理的如何让python实现机器学习相信大多人在学习Python之前 肯定都自己了解过这门语言，也知道Python有很多的学习方向，比如说数据采集方向(爬虫)，或者Web开发方向，也可能是最近特别火热的人工智能方向。每个方向所需要的技术都是不尽相同的，所以在我们学习完成Python的基础语法之后，一定要慎重选择自己之后的进阶方向。就像学习其他编程语言或者是学习一门外语一样 ，我们应该从Python的基础语法开始学习 ，了解什么是Python的变量 什么是循环 什么是函数，什么是模块。类等等。总之，基础是学习以后高级开发的基石。学习完基础之后，我们肯定要进行一些简单的联系。文件的操作是我们不二的选择，因为无论是文本文件。XML格式的文件还是Office办公系列的文件。我们统称之为文件操作。我们在学习文件操作的时候，要学习文件的写入和读取 以及了解各种文件之间的读写不同知识点。相信在学习完成之后，对于文件的操作 大家一定会得心应手。