C#特別適合于構(gòu)造蜘蛛程序，這是因為它已經(jīng)內(nèi)置了HTTP訪問和多線程的能力，而這兩種能力對于蜘蛛程序來說都是非常關(guān)鍵的。下面是構(gòu)造一個蜘蛛程序要解決的關(guān)鍵問題：

　　(1)HTML分析：需要某種HTML解析器來分析蜘蛛程序遇到的每一個頁面。

　　(2)頁面處理：需要處理每一個下載得到的頁面。下載得到的內(nèi)容可能要保存到磁盤或者進一步分析處理。

　　(3)多線程：只有擁有多線程能力，蜘蛛程序才能真正做到高效。

　　(4)確定何時完成：不要小看這個問題，確定任務是否已經(jīng)完成并不簡單，尤其是在多線程環(huán)境下。

　　一、HTML解析

　　本文提供的HTML解析器由ParseHTML類實現(xiàn)，使用非常方便：首先創(chuàng)建該類的一個實例，然后將它的Source屬性設置為要解析的HTML文檔：

　　ParseHTML parse = new ParseHTML();

　　parse.Source = "

　　Hello World

　　";

　　接下來就可以利用循環(huán)來檢查HTML文檔包含的所有文本和標記。通常，檢查過程可以從一個測試Eof方法的while循環(huán)開始：

　　while(!parse.Eof())

　　{

　　char ch = parse.Parse();

　　Parse方法將返回HTML文檔包含的字符--它返回的內(nèi)容只包含那些非HTML標記的字符，如果遇到了HTML標記，Parse方法將返回0值，表示現(xiàn)在遇到了一個HTML標記。遇到一個標記之后，我們可以用GetTag()方法來處理它。

　　if(ch==0)

　　{

　　HTMLTag tag = parse.GetTag();

　　}

　　一般地，蜘蛛程序最重要的任務之一就是找出各個HREF屬性，這可以借助C#的索引功能完成。例如，下面的代碼將提取出HREF屬性的值(如果存在的話)。

　　Attribute href = tag["HREF"];

　　string link = href.Value;

　　獲得Attribute對象之后，通過Attribute.Value可以得到該屬性的值。

　　二、處理HTML頁面

　　下面來看看如何處理HTML頁面。首先要做的當然是下載HTML頁面，這可以通過C#提供的HttpWebRequest類實現(xiàn)：

　　HttpWebRequest request = (HttpWebRequest)WebRequest.Create(m_uri);

　　response = request.GetResponse();

　　stream = response.GetResponseStream();

　　接下來我們就從request創(chuàng)建一個stream流。在執(zhí)行其他處理之前，我們要先確定該文件是二進制文件還是文本文件，不同的文件類型處理方式也不同。下面的代碼確定該文件是否為二進制文件。

　　if( !response.ContentType.ToLower().StartsWith("text/") )

　　{

　　SaveBinaryFile(response);

　　return null;

　　}

　　string buffer = "",line;

　　如果該文件不是文本文件，我們將它作為二進制文件讀入。如果是文本文件，首先從stream創(chuàng)建一個StreamReader，然后將文本文件的內(nèi)容一行一行加入緩沖區(qū)。