亚洲无人区一区二区三区_农村玉米地少妇野战亚洲_国产欧美日韩VA另类在线播放_免费人成视频网站在线_国产在线精品一区二区高清不卡

robots.txt

作者:9527 瀏覽:1589 發(fā)布時間:2017-09-06
編輯 分享 評論 0

  Robots協(xié)議(也稱為爬蟲協(xié)議、機器人協(xié)議等)的全稱是“網(wǎng)絡爬蟲排除標準”(Robots Exclusion Protocol),網(wǎng)站通過Robots協(xié)議告訴搜索引擎哪些頁面可以抓取,哪些頁面不能抓取。

詞條統(tǒng)計

  • 瀏覽次數(shù):1589
  • 編輯次數(shù):0次歷史版本
  • 最近更新:2017-09-06
  • 創(chuàng)建者:9527
  • 相關詞條

    相關問答

    相關百科

    相關資訊