大家好，今天小编关注到一个比较有意思的话题，就是关于python爬虫2教程的问题，于是小编就整理了1个相关介绍Python爬虫2教程的解答，让我们一起看看吧。
用Python写一个爬虫，做一个冷门行业的搜索引擎，能实现吗？
可以的，首先需要把你说的冷门行业知识都找到，然后用python写一个爬虫程序，把这些冷门知识都爬取下来，然后把这些知识都爬取存储到数据库，做一个分类，数据库这边做一个查询就可以了。
简单的做法呢，就是写个百度爬虫，自己架构一个网站，直接跳转百度搜索的结果~
稍微复杂的做法，就是在上述的基础上增加筛选功能，把非本行业的内容全部剔除一下！
在复杂一些的，搜集一些专业的信息，比如几个论坛或者相关信息的发布机构的网页，然后做相应的爬虫，写如数据库，在写一个网站……
因为冷门行业，也存在的受众小、内容少（相对）的问题，完全可以自行架构网站，但是要想扩大你的影响力，那就需要下不少的功夫了，起码，本行业的人得认可你！
当然，如果只是自用的话，那就简单了，哪怕你做个命令行版本的查询系统，都可以的，无非就是数据的整合，实时爬取等等！
记得之前有想写个爬虫，将几个盗版***的网站的爬虫整合到一起，实现搜索后，选择不同站点下载***的功能~写了一半，然后找到了可以实现的软件。。。很崩溃。。。
后来发现，其实写一个百度爬虫，然后指定关键字来显示搜索结果的方式其实很方便，也适合我这种懒人。。。
希望能帮到你！
可以实现，先说一下思路。首先我们要通过爬虫把这些冷门行业的相关数据都爬下来，然后把行业相关的数据库存储到数据库，做一个分类，之后在数据库这边做一个查询。
搜索引擎主要有两部分：
1.爬虫：也就是离线以获取数据
2.检索系统：在线查询数据，完成用户交互
Python爬虫Scrapy
Java检索系统：Elasticsearch/Solr
如果只是用Python实现爬虫的这样的项目的话，需要学习的内容是上图当中的Python基础知识，python高级，前端开发以及爬虫开发。Python爬虫的重点是不在于Python，而是网络爬虫。
到此，以上就是小编对于python爬虫2教程的问题就介绍到这了，希望介绍关于python爬虫2教程的1点解答对大家有用。
