Python怎么搭建scrapy框架項目?Python如何使用scrapy框架創建爬蟲

一些小的python程序是可以只寫在一個py文件之中的,而scrapy這種爬蟲框架則需要通過搭建項目才能夠去創建爬蟲程序 。而這一篇文章主要介紹的內容則是,python使用scrapy框架創建爬蟲項目的詳細教程,感興趣的話可以一起往下看看 。

Python怎么搭建scrapy框架項目?Python如何使用scrapy框架創建爬蟲


1.首先需要打開文件夾并選擇或者新建一個目錄進入,因為創建出來的scrapy框架爬蟲項目是要保存在文件目錄下的,它本質上來說就是一個文件夾 。然后在文件夾地址欄輸入cmd并回車,就能夠以當前路徑作為工作目錄進入到命令行中 。
2.因為scrapy本身已經內置了可以使用它來創建項目的功能,所以不需要使用pycharm或者是vscode1等專業編輯工具也是一樣的 。在命令行中執行相關命令,就可以在當前目錄下創建出scrapy框架構建的項目,命令如下:
scrapy startproject pachong
Python怎么搭建scrapy框架項目?Python如何使用scrapy框架創建爬蟲


3.項目創建完成之后可以看到有一些文件夾和配置文件存在,需要注意別將這些文件給刪除掉了 。而具體執行數據爬取操作的爬蟲腳本都是放在Spider文件夾之中的,所以我們還需要通過命令在這個文件夾中創建有模板的爬蟲python文件,命令如下:
【Python怎么搭建scrapy框架項目?Python如何使用scrapy框架創建爬蟲】scrapy genspider baidu_spider baidu.com4.等待命令執行完成之后就表示這個爬蟲腳本創建完成了,而要抓取哪一個網站,以及數據抓取之后如何處理就要自己去編寫代碼了 。代碼編寫完成之后同樣是通過執行命令來運行這個爬蟲程序,如下所示:
scrapy crawl baidu_spider
Python怎么搭建scrapy框架項目?Python如何使用scrapy框架創建爬蟲


以上就是關于“Python怎么搭建scrapy框架項目?Python如何使用scrapy框架創建爬蟲”的全部內容了,希望對你有所幫助 。
Python怎么搭建scrapy框架項目?Python如何使用scrapy框架創建爬蟲


Python怎么搭建scrapy框架項目?Python如何使用scrapy框架創建爬蟲


Python怎么搭建scrapy框架項目?Python如何使用scrapy框架創建爬蟲


微信掃碼,學習更方便
Python怎么搭建scrapy框架項目?Python如何使用scrapy框架創建爬蟲


現在報名贈100例知識點合集
Python怎么搭建scrapy框架項目?Python如何使用scrapy框架創建爬蟲


    猜你喜歡