scrapy 2.3 常用統(tǒng)計(jì)信息收集器使用

2021-06-11 10:30 更新

通過訪問Stats Collector ?stats? 屬性。以下是訪問統(tǒng)計(jì)信息的擴(kuò)展示例:

class ExtensionThatAccessStats:

    def __init__(self, stats):
        self.stats = stats

    @classmethod
    def from_crawler(cls, crawler):
        return cls(crawler.stats)

設(shè)置統(tǒng)計(jì)值:

stats.set_value('hostname', socket.gethostname())

增量統(tǒng)計(jì)值:

stats.inc_value('custom_count')

僅當(dāng)大于上一個(gè)值時(shí)設(shè)置stat值::

stats.max_value('max_items_scraped', value)

僅當(dāng)?shù)陀谏弦粋€(gè)時(shí)設(shè)置stat值::

stats.min_value('min_free_memory_percent', value)

獲取統(tǒng)計(jì)值:

>>> stats.get_value('custom_count')
1

獲取所有統(tǒng)計(jì)信息:

>>> stats.get_stats()
{'custom_count': 1, 'start_time': datetime.datetime(2009, 7, 14, 21, 47, 28, 977139)}
以上內(nèi)容是否對(duì)您有幫助:
在線筆記
App下載
App下載

掃描二維碼

下載編程獅App

公眾號(hào)
微信公眾號(hào)

編程獅公眾號(hào)