伊人久久大杳蕉综合丁香五月,久久久91亚洲视频,亚洲综合天堂Av网站在线观看,欧美亚洲中文高清

      • 云南網(wǎng)站建設(shè)創(chuàng)新企業(yè) 昆明多彩網(wǎng)絡(luò)公司

        snoopy中文手冊(cè)

        來(lái)源:昆明網(wǎng)站制作公司 日期:2010-09-15 閱讀: 發(fā)表評(píng)論

        該php類(lèi)主要是致力用php程序模擬瀏覽器的訪(fǎng)問(wèn),實(shí)現(xiàn)可以模擬登陸,連續(xù)訪(fǎng)問(wèn)頁(yè)面等強(qiáng)大的功能,這里提供snoopy中文手冊(cè)參考

         Snoopy是一個(gè)php類(lèi),用來(lái)模擬瀏覽器的功能,可以獲取網(wǎng)頁(yè)內(nèi)容,發(fā)送表單。Snoopy正確運(yùn)行需要你的服務(wù)器的PHP版本在4以上,并且支持PCRE(Perl Compatible Regular Expressions),基本的LAMP服務(wù)都支持。

        一、Snoopy的一些特點(diǎn):

          1.抓取網(wǎng)頁(yè)的內(nèi)容 fetch

          2.抓取網(wǎng)頁(yè)的文本內(nèi)容 (去除HTML標(biāo)簽) fetchtext

          3.抓取網(wǎng)頁(yè)的鏈接,表單 fetchlinks fetchform

          4.支持代理主機(jī)

          5.支持基本的用戶(hù)名/密碼驗(yàn)證

          6.支持設(shè)置user_agent, referer(來(lái)路), cookies和header content(頭文件)

          7.支持瀏覽器重定向,并能控制重定向深度

          8.能把網(wǎng)頁(yè)中的鏈接擴(kuò)展成高質(zhì)量的url(默認(rèn))

          9.提交數(shù)據(jù)并且獲取返回值

          10.支持跟蹤HTML框架

          11.支持重定向的時(shí)候傳遞cookies,要求php4以上就可以了,由于本身是php一個(gè)類(lèi),無(wú)需擴(kuò)支持,服務(wù)器不支持curl時(shí)候的最好選擇。

        二、類(lèi)方法:

        fetch($URI)
        ———–

          這是為了抓取網(wǎng)頁(yè)的內(nèi)容而使用的方法。$URI參數(shù)是被抓取網(wǎng)頁(yè)的URL地址。抓取的結(jié)果被存儲(chǔ)在 $this->results 中。如果你正在抓取的是一個(gè)框架,Snoopy將會(huì)將每個(gè)框架追蹤后存入數(shù)組中,然后存入 $this->results。

        fetchtext($URI)
        —————

          本方法類(lèi)似于fetch(),唯一不同的就是本方法會(huì)去除HTML標(biāo)簽和其他的無(wú)關(guān)數(shù)據(jù),只返回網(wǎng)頁(yè)中的文字內(nèi)容。

        fetchform($URI)
        —————

          本方法類(lèi)似于fetch(),唯一不同的就是本方法會(huì)去除HTML標(biāo)簽和其他的無(wú)關(guān)數(shù)據(jù),只返回網(wǎng)頁(yè)中表單內(nèi)容(form)。

        fetchlinks($URI)
        —————-

          本方法類(lèi)似于fetch(),唯一不同的就是本方法會(huì)去除HTML標(biāo)簽和其他的無(wú)關(guān)數(shù)據(jù),只返回網(wǎng)頁(yè)中鏈接(link)。
        默認(rèn)情況下,相對(duì)鏈接將自動(dòng)補(bǔ)全,轉(zhuǎn)換成完整的URL。

        submit($URI,$formvars)
        ———————-

          本方法向$URL指定的鏈接地址發(fā)送確認(rèn)表單。$formvars是一個(gè)存儲(chǔ)表單參數(shù)的數(shù)組。

        submittext($URI,$formvars)
        ————————–

          本方法類(lèi)似于submit(),唯一不同的就是本方法會(huì)去除HTML標(biāo)簽和其他的無(wú)關(guān)數(shù)據(jù),只返回登陸后網(wǎng)頁(yè)中的文字內(nèi)容。

        submitlinks($URI)
        —————-

          本方法類(lèi)似于submit(),唯一不同的就是本方法會(huì)去除HTML標(biāo)簽和其他的無(wú)關(guān)數(shù)據(jù),只返回網(wǎng)頁(yè)中鏈接(link)。
        默認(rèn)情況下,相對(duì)鏈接將自動(dòng)補(bǔ)全,轉(zhuǎn)換成完整的URL。

        三、類(lèi)屬性: (缺省值在括號(hào)里)

        $host 連接的主機(jī)
        $port 連接的端口
        $proxy_host 使用的代理主機(jī),如果有的話(huà)
        $proxy_port 使用的代理主機(jī)端口,如果有的話(huà)
        $agent 用戶(hù)代理偽裝 (Snoopy v0.1)
        $referer 來(lái)路信息,如果有的話(huà)
        $cookies cookies, 如果有的話(huà)
        $rawheaders 其他的頭信息, 如果有的話(huà)
        $maxredirs 最大重定向次數(shù), 0=不允許 (5)
        $offsiteok whether or not to allow redirects off-site. (true)
        $expandlinks 是否將鏈接都補(bǔ)全為完整地址 (true)
        $user 認(rèn)證用戶(hù)名, 如果有的話(huà)
        $pass 認(rèn)證用戶(hù)名, 如果有的話(huà)
        $accept http 接受類(lèi)型 (image/gif, image/x-xbitmap, image/jpeg, image/pjpeg, */*)
        $error 哪里報(bào)錯(cuò), 如果有的話(huà)
        $response_code 從服務(wù)器返回的響應(yīng)代碼
        $headers 從服務(wù)器返回的頭信息
        $maxlength 最長(zhǎng)返回?cái)?shù)據(jù)長(zhǎng)度
        $read_timeout 讀取操作超時(shí) (requires PHP 4 Beta 4+)
        設(shè)置為0為沒(méi)有超時(shí)
        $timed_out 如果一次讀取操作超時(shí)了,本屬性返回 true (requires PHP 4 Beta 4+)
        $maxframes 允許追蹤的框架最大數(shù)量
        $status 抓取的http的狀態(tài)
        $temp_dir 網(wǎng)頁(yè)服務(wù)器能夠?qū)懭氲呐R時(shí)文件目錄 (/tmp)
        $curl_path cURL binary 的目錄, 如果沒(méi)有cURL binary就設(shè)置為 false

        四、以下是demo

        include "Snoopy.class.php";
        $snoopy = new Snoopy;

        $snoopy->proxy_host = "www.baidu.com";
        $snoopy->proxy_port = "8080";

        $snoopy->agent = "(compatible; MSIE 4.01; MSN 2.5; AOL 4.0; Windows 98)";
        $snoopy->referer = "http://www.baidu.com/";

        $snoopy->cookies["SessionID"] = 238472834723489l;
        $snoopy->cookies["favoriteColor"] = "RED";

        $snoopy->rawheaders["Pragma"] = "no-cache";

        $snoopy->maxredirs = 2;
        $snoopy->offsiteok = false;
        $snoopy->expandlinks = false;

        $snoopy->user = "joe";
        $snoopy->pass = "bloe";

        if($snoopy->fetchtext("http://www.baidu.com"))
        {
        echo " <PRE>".htmlspecialchars($snoopy->results)." </PRE>\n"; <BR>
        } <BR>
        else <BR>
        echo "error fetching document: ".$snoopy->error."\n";

        snoopy采集phpchina示例
        <?php
        //采集phpchina
        set_time_limit(0);
        require_once("Snoopy.class.php");
        $snoopy=new Snoopy();
        //登陸論壇
        $submit_url = "http://www.phpchina.com/bbs/logging.php?action=login";
        $submit_vars["loginmode"] = "normal";
        $submit_vars["styleid"] = "1";
        $submit_vars["cookietime"] = "315360000";
        $submit_vars["loginfield"] = "username";
        $submit_vars["username"] = "***"; //你的用戶(hù)名
        $submit_vars["password"] = "*****"; //你的密碼
        $submit_vars["questionid"] = "0";
        $submit_vars["answer"] = "";
        $submit_vars["loginsubmit"] = "提 交";
        $snoopy->submit($submit_url,$submit_vars);
        if ($snoopy->results)
        {
        //獲取連接地址
        $snoopy->fetchlinks("http://www.phpchina.com/bbs");
        $url=array();
        $url=$snoopy->results;
        //print_r($url);
        foreach ($url as $key=>$value)
        {
        //匹配http://www.phpchina.com/bbs/forumdisplay.php?fid=156&sid=VfcqTR地址即論壇板塊地址
        if (!preg_match("/^(http:\/\/www\.phpchina\.com\/bbs\/forumdisplay\.php\?fid=)[0-9]*&sid=[a-zA-Z]{6}/i",$value))
        {
        unset($url[$key]);
        }
        }
        //print_r($url);
        //獲取到板塊數(shù)組$url,循環(huán)訪(fǎng)問(wèn),此處獲取第一個(gè)模塊第一頁(yè)的數(shù)據(jù)
        $i=0;
        foreach ($url as $key=>$value)
        {
        if ($i>=1)
        {
        //測(cè)試限制
        break;
        }
        else
        {
        //訪(fǎng)問(wèn)該模塊,提取帖子的連接地址,正式訪(fǎng)問(wèn)里需要提取帖子分頁(yè)的數(shù)據(jù),然后根據(jù)分頁(yè)數(shù)據(jù)提取帖子數(shù)據(jù)
        $snoopy=new Snoopy();
        $snoopy->fetchlinks($value);
        $tie=array();
        $tie[$i]=$snoopy->results;
        //print_r($tie);
        //轉(zhuǎn)換數(shù)組
        foreach ($tie[$i] as $key=>$value)
        {
        //匹配http://www.phpchina.com/bbs/viewthread.php?tid=68127&amp;extra=page%3D1&amp;page=1&sid=iBLZfK
        if (!preg_match("/^(http:\/\/www\.phpchina\.com\/bbs\/viewthread\.php\?tid=)[0-9]*&amp;extra=page\%3D1&amp;page=[0-9]*&sid=[a-zA-Z]{6}/i",$value))
        {
        unset($tie[$i][$key]);
        }
        }
        //print_r($tie[$i]);
        //歸類(lèi)數(shù)組,將同一個(gè)帖子不同頁(yè)面的內(nèi)容放一個(gè)數(shù)組里
        $left='';//連接左邊公用地址
        $j=0;
        $page=array();
        foreach ($tie[$i] as $key=>$value)
        {
        $left=substr($value,0,52);
        $m=0;
        foreach ($tie[$i] as $pkey=>$pvalue)
        {
        //重組數(shù)組
        if (substr($pvalue,0,52)==$left)
        {
        $page[$j][$m]=$pvalue;
        $m++;
        }
        }
        $j++;
        }
        //去除重復(fù)項(xiàng)開(kāi)始
        //$page=array_unique($page);只能用于一維數(shù)組
        $paget[0]=$page[0];
        $nums=count($page);
        for ($n=1;$n <$nums;$n++)
        {
        $paget[$n]=array_diff($page[$n],$page[$n-1]);
        }
        //去除多維數(shù)組重復(fù)值結(jié)束
        //去除數(shù)組空值
        unset($page);
        $page=array();//重新定義page數(shù)組
        $page=array_filter($paget);
        //print_r($page);
        $u=0;
        $title=array();
        $content=array();
        $temp='';
        $tt=array();
        foreach ($page as $key=>$value)
        {
        //外圍循環(huán),針對(duì)一個(gè)帖子
        if (is_array($value))
        {
        foreach ($value as $k1=>$v1)
        {
        //頁(yè)內(nèi)循環(huán),針對(duì)一個(gè)帖子的N頁(yè)
        $snoopy=new Snoopy();
        $snoopy->fetch($v1);
        $temp=$snoopy->results;
        //讀取標(biāo)題
        if (!preg_match_all("/ <h2>(.*) <\/h2>/i",$temp,$tt))
        {
        echo "no title";
        exit;
        }
        else
        {
        $title[$u]=$tt[1][1];
        }
        unset($tt);
        //讀取內(nèi)容
        if (!preg_match_all("/ <div id=\"postmessage_[0-9]{1,8}\" class=\"t_msgfont\">(.*) <\/div>/i",$temp,$tt))
        {
        print_r($tt);
        echo "no content1";
        exit;
        }
        else
        {
        foreach ($tt[1] as $c=>$c2)
        {
        $content[$u].=$c2;
        }
        }
        }
        }
        else
        {
        //直接取頁(yè)內(nèi)容
        $snoopy=new Snoopy();
        $snoopy->fetch($value);
        $temp=$snoopy->results;
        //讀取標(biāo)題
        if (!preg_match_all("/ <h2>(.*) <\/h2>/i",$temp,$tt))
        {
        echo "no title";
        exit;
        }
        else
        {
        $title[$u]=$tt[1][1];
        }
        unset($tt);
        //讀取內(nèi)容
        if (!preg_match_all("/ <div id=\"postmessage_[0-9]*\" class=\"t_msgfont\">(.*) <\/div>/i",$temp,$tt))
        {
        echo "no content2";
        exit;
        }
        else
        {
        foreach ($tt[1] as $c=>$c2)
        {
        $content[$u].=$c2;
        }
        }
        }
        $u++;
        }
        print_r($content);
        }
        $i++;
        }
        }
        else
        {
        echo "login failed";
        exit;
        }
        ?>
         

        發(fā)表評(píng)論評(píng)論列表(有 條評(píng)論)