面向實證方法的互聯網數據提取系統(tǒng)研究.pdf

1、在管理研究，特別是在實證研究過程中，研究目標相關數據的獲取是一個相當重要的環(huán)節(jié)，它既為研究方向的確立提供基本的現實信息，供研究者進一步地對研究目標進行分析，同時又決定了研究所使用的方法和接下來的研究流程。因此，研究目標相關數據的獲取過程在管理研究中起著重要作用。
　　目標數據的獲取一直是困擾研究人員的難題，在傳統(tǒng)的數據獲取過程中，數據的來源相當有限，并且獲取的方式具有局限性，對數據進行處理，將原始數據提取為可用于分析的數據也需要耗

2、費許多人力支出，使得人力成本較高。在當今的大數據時代背景下，互聯網給當今社會帶來了極大的便利，并產生了海量的數據，這些數據給各類機構帶來價值的同時，也給管理研究人員提供了大量的研究對象，將互聯網數據作為管理研究的數據源是理想的選擇。
　　在現階段下，對互聯網數據進行提取的方式主要有手工操作、使用網絡數據抓取軟件和編寫爬蟲軟件三種，這些方式各有優(yōu)缺點。如何高效、準確、靈活地獲取互聯網數據用作管理研究，是本文的主要研究目標。本文的主要

3、研究內容是為了達成這一目標而提出一個互聯網頁面數據提取框架，以滿足管理研究過程中對數據爬取的多樣性需求。
　　本文對數據爬取的整個流程進行了深入地分析，對業(yè)務邏輯進行了詳細地探討，并查閱了現有的相關資料，以此為基礎得到了框架各個模塊的設計方案，框架在整體設計上可以劃分為五個具體的模塊。
　　框架使用了插件化管理的方式以滿足多種形式不同的爬取任務靈活性的要求，并設計了相應的插件管理策略，在滿足了靈活性需求的同時，也簡化了任務的

4、管理流程。
　　通過對數據獲取過程中所涉及的各個環(huán)節(jié)進行明確的邏輯劃分，框架設計了相應的流程模塊接口，并根據這些接口進一步地開發(fā)出了多種幫助研究人員進行各個爬取模塊設計的開發(fā)庫與工具。
　　針對不同形式的網頁數據，框架提供了多種數據爬取策略，研究人員可根據具體的數據爬取情景來選擇相應的數據爬取策略。
　　由于研究人員在數據爬取過程中具有不同層次的幫助需要，框架為研究人員提供了多層面的服務，并設計了一個Web平臺用于簡化