99re热视频这里只精品,久久久天堂国产精品女人,国产av一区二区三区,久久久精品成人免费看片,99久久精品免费看国产一区二区三区

例子

2018-05-23 16:21 更新

例子一

爬取糗事百科熱門列表頁,采用守護(hù)進(jìn)程模式。在開始爬取前,我們需要一個隊列,在這里使用框架中帶有的內(nèi)存隊列。
首先建立一個隊列文件 queue.php,寫入下列內(nèi)容

<?php
require_once(__DIR__ . '/vendor/autoload.php');
// 啟動隊列
\Beanbun\Queue\MemoryQueue::server();

建立爬蟲文件 start.php,寫入下列內(nèi)容

<?php
use Beanbun\Beanbun;
use Beanbun\Lib\Helper;


require_once(__DIR__ . '/vendor/autoload.php');


$beanbun = new Beanbun;
$beanbun->name = 'qiubai';
$beanbun->count = 5;
$beanbun->seed = 'http://www.qiushibaike.com/';
$beanbun->max = 30;
$beanbun->logFile = __DIR__ . '/qiubai_access.log';
$beanbun->urlFilter = [
  '/http:\/\/www.qiushibaike.com\/8hr\/page\/(\d*)\?s=(\d*)/'
];
// 設(shè)置隊列
$beanbun->setQueue('memory', [
  'host' => '127.0.0.1',
  'port' => '2207'
 ]);
$beanbun->afterDownloadPage = function($beanbun) {
  file_put_contents(__DIR__ . '/' . md5($beanbun->url), $beanbun->page);
};
$beanbun->start();

接下來在命令行中執(zhí)行

$ php queue.php start
$ php start.php start

先啟動隊列進(jìn)程,再啟動爬蟲。

以上內(nèi)容是否對您有幫助:
在線筆記
App下載
App下載

掃描二維碼

下載編程獅App

公眾號
微信公眾號

編程獅公眾號