成人精品一区二区三区中文字幕-成人精品一区二区三区-成人精品一级毛片-成人精品亚洲-日本在线视频一区二区-日本在线视频免费

導航首頁 ? 技術教程 ? PHP代碼實現爬蟲記錄——超管用
全站頭部文字 我要出現在這里
PHP代碼實現爬蟲記錄——超管用 721 2023-12-10   

實現爬蟲記錄本文從創建crawler 數據庫,robot.php記錄來訪的爬蟲從而將信息插入數據庫crawler,然后從數據庫中就可以獲得所有的爬蟲信息。實現代碼具體如下:

數據庫設計

create table crawler  
(  
 crawler_ID bigint() unsigned not null auto_increment primary key,
 crawler_category varchar() not null,
 crawler_date datetime not null default '-- ::',
 crawler_url varchar() not null,
 crawler_IP varchar() not null
)default charset=utf;

以下文件 robot.php 記錄來訪的爬蟲,并將信息寫入數據庫:

<?php
 $ServerName = $_SERVER["SERVER_NAME"] ; 
 $ServerPort = $_SERVER["SERVER_PORT"] ; 
 $ScriptName = $_SERVER["SCRIPT_NAME"] ; 
 $QueryString = $_SERVER["QUERY_STRING"]; 
 $serverip = $_SERVER["REMOTE_ADDR"] ; 
 $Url="http://".$ServerName;
 if ($ServerPort != "")
 {
  $Url = $Url.":".$ServerPort ;
 } 
 $Url=$Url.$ScriptName;
 if ($QueryString !="")
 {
  $Url=$Url."?".$QueryString;
 }  
 $GetLocationURL=$Url ;
 $agent = $_SERVER["HTTP_USER_AGENT"]; 
 $agent=strtolower($agent);
 $Bot ="";
 if (strpos($agent,"bot")>-)
 {
  $Bot = "Other Crawler";
 }
 if (strpos($agent,"googlebot")>-)
 {
  $Bot = "Google";
 }   
 if (strpos($agent,"mediapartners-google")>-)
 {
  $Bot = "Google Adsense";
 }
 if (strpos($agent,"baiduspider")>-)
 {
  $Bot = "Baidu";
 }
 if (strpos($agent,"sogou spider")>-)
 {
  $Bot = "Sogou";
 }
 if (strpos($agent,"yahoo")>-)
 {
  $Bot = "Yahoo!";
 }
 if (strpos($agent,"msn")>-)
 {
  $Bot = "MSN";
 }
 if (strpos($agent,"ia_archiver")>-)
 {
  $Bot = "Alexa";
 }
 if (strpos($agent,"iaarchiver")>-)
 {
  $Bot = "Alexa";
 }
 if (strpos($agent,"sohu")>-)
 {
  $Bot = "Sohu";
 }
 if (strpos($agent,"sqworm")>-)
 {
  $Bot = "AOL";
 }
 if (strpos($agent,"yodaoBot")>-)
 {
  $Bot = "Yodao";
 }
 if (strpos($agent,"iaskspider")>-)
 {
  $Bot = "Iask";
 }
 require("./dbinfo.php");
 date_default_timezone_set('PRC'); 
 $shijian=date("Y-m-d h:i:s", time());
 // 連接到 MySQL 服務器
 $connection = mysql_connect ($host, $username, $password);
 if (!$connection)
 {
  die('Not connected : ' . mysql_error());
 }
 // 設置活動的 MySQL 數據庫
 $db_selected = mysql_select_db($database, $connection);
 if (!$db_selected)
 {
  die ('Can't use db : ' . mysql_error());
 }
 // 向數據庫插入數據
 $query = "insert into crawler (crawler_category, crawler_date, crawler_url, crawler_IP) values ('$Bot','$shijian','$GetLocationURL','$serverip')";
 $result = mysql_query($query);
 if (!$result)
 {
  die('Invalid query: ' . mysql_error());
 }
?>

成功了,現在訪問數據庫即可得知什么時候哪里的蜘蛛爬過你的什么頁面。

view sourceprint?
<?php
include './robot.php';
include '../library/page.Class.php';
$page = $_GET['page'];
include '../library/conn_new.php';
$count = $mysql -> num_rows($mysql -> query("select * from crawler"));
$pages = new PageClass($count,,$_GET['page'],$_SERVER['PHP_SELF'].'?page={page}');
$sql = "select * from crawler order by ";
$sql .= "crawler_date desc limit ".$pages -> page_limit.",".$pages -> myde_size;
$result = $mysql -> query($sql);
?>
<table width="">
 <thead>
  <tr> 
   <td bgcolor="#CCFFFF"></td> 
   <td bgcolor="#CCFFFF" align="center" style="color:#">爬蟲訪問時間</td> 
   <td bgcolor="#CCFFFF" align="center" style="color:#">爬蟲分類</td>
   <td bgcolor="#CCFFFF" align="center" style="color:#">爬蟲IP</td>
   <td bgcolor="#CCFFFF" align="center" style="color:#">爬蟲訪問的URL</td>
  </tr>
 </thead>
<?php
while($myrow = $mysql -> fetch_array($result)){
?>
<tr>
 <td width=""><img src="http://www.gimoo.net/t/images/topicnew.gif" /></td>
 <td width="" style="font-family:Georgia"><? echo $myrow["crawler_date"] ?></td>
 <td width="" style="color:#FA"><? echo $myrow["crawler_category"] ?></td>
 <td width=""><? echo $myrow["crawler_IP"] ?></td>
 <td width=""><? echo $myrow["crawler_url"] ?></td>
</tr>
<?php
 }
?>
 </table>
<?php
 echo $pages -> myde_write();
?>

以上代碼就是PHP代碼實現爬蟲記錄——超管用的全部內容,希望對大家有所幫助。


主站蜘蛛池模板: 龙的心电影完整版国语| 超级飞侠十七季| 美丽交易| 阿芮尔·温特| 网络谜踪| 91精品在线视频播放| 真实游戏电影无删减完整版| 国家干部电视剧| 强电影| 播放哪吒| 我和我的祖国教案| 范艳华| 深海蛇难 电影| ctv5| 预备党员思想汇报1500字| 哥也要| 中川翔子| 都市频道在线直播观看| 阿芮尔·温特| 英语书七年级下册单词表| 电影男女| 北京卫视今天节目预告| 满天星的电影都有哪些| 崔在焕| 王李| 公共基础知识1000题及答案| 色在线看| 田文仲个人资料| 老阿姨电影电视剧免费| 电影《此时此刻》| 九九九九九九九九九九热| 太原教育电视台| 石灰吟教学设计一等奖优质课| 安德鲁·林肯| 口舌 — 视频 | vk| 苏教版二年级下册数学| 爱我中华广场舞| 处女巫| 谢锐韬个人资料| 音乐僵尸演员表| 风花电影完整版免费观看|

!!!站長長期在線接!!!

網站、小程序:定制開發/二次開發/仿制開發等

各種疑難雜癥解決/定制接口/定制采集等

站長微信:lxwl520520

站長QQ:1737366103