博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
ubuntu14.04安装Scrapy爬虫
阅读量:6260 次
发布时间:2019-06-22

本文共 939 字,大约阅读时间需要 3 分钟。

hot3.png

官网:http://scrapy.org/

https://pypi.python.org/pypi/Scrapy

根据官方文档说明,安装scrapy需要以下程序或者库:

python 2.7lxmlOpenSSLpip

Ubuntu14.04已经自带了前三者。通过以下命令可以验证:

python -V

在python命令行下:

import lxmlimport openSSL

如果没有报错,那就说明已经有这两个库了。如果没有,可以使用第四个工具(pip)进行下载和安装。

安装pip:

sudo apt-get install pip

安装scrapy:

sudo pip install Scrapy

注意S是大写的。然后pip就会自动安装了(注意要添加sudo命令,否则就会报写入被禁止的错误。)

但是在安装过程中,出现了一个错误:

twisted/runner/portmap.c:10:20: fatal error: Python.h No such file or directory.

我们需要安装一个叫python-dev的包。于是,我们在终端输入:

sudo apt-get install python-dev

安装结束后,再次输入:

sudo pip install Scrapy

就可以正常安装scrapy了。

安装结束后,在终端输入scrapy来验证我们是否安装成功并且能否正常运行。答案是不能。会出现提示:

UserWarning: You do not have the service_identity module installed.

这个简单,在终端输入:

sudo pip install service_identity

等它安装结束之后,就OK了。

最后在终端验证一下:

scrapy

会打印出版本号等信息。

Scrapy 0.24.1 - no active projectUsage:    scrapy  [options]  [args]Available commands:    bench    ...    ...

转载于:https://my.oschina.net/u/923087/blog/287836

你可能感兴趣的文章
Android开发指南(41) —— Searchable Configuration
查看>>
现代软件工程 怎么教好课 (读书笔记)
查看>>
磁盘fat32转NTFS
查看>>
关于和技术人员交流的一二三
查看>>
Ubuntu10下MySQL搭建Amoeba系列(文章索引)
查看>>
产生sdp文件供DSS使用
查看>>
《洛克菲勒留给儿子的38封信》 第五封:要有竞争的决心
查看>>
STL vector vs list function comparison:
查看>>
应用服务器和web server 的区别
查看>>
Libevent笔记
查看>>
mycelipse之安装SVN1.6.5(转载)
查看>>
怎样把数据汇到Excel中的心得经验
查看>>
状态键盘完美适应iOS中的键盘高度变化
查看>>
Linux下oracle11g 导入导出操作详细
查看>>
每日英语:When Computer Games May Keep The Brain Nimble
查看>>
Android AsyncTask运作原理和源码分析
查看>>
demos.jquerymobile
查看>>
【Android】解决Android横竖屏切换数据丢失问题的方法
查看>>
spring+mybatis的多源数据库配置实战
查看>>
Oracle 导入外部文件数据库
查看>>