首页 > Web开发 > 详细

C# 实现抓取网站页面内容的实例方法

时间:2016-02-07 18:57:42      阅读:123      评论:0      收藏:0      [点我收藏+]

抓取新浪网的新闻栏目,如图所示:

技术分享

使用 谷歌浏览器的查看源代码: 通过分析得知,我们所要找的内容在以下两个标签之间:

复制代码 代码如下:

<!-- publish_helper name=‘要闻-新闻‘ p_id=‘1‘ t_id=‘850‘ d_id=‘1‘ -->

内容。。。。

<!-- publish_helper name=‘要闻-财经‘ p_id=‘30‘ t_id=‘98‘ d_id=‘1‘ -->


如图所示:

技术分享

内容。。。。

技术分享

使用VS建立一个如图所示的网站:

技术分享

我们下载网络数据主要通过   WebClient 类来实现。

使用下面源代码获取我们选择的内容:

复制代码 代码如下:

protected void Enter_Click(object sender, EventArgs e)
        {
            WebClient we = new WebClient();  //主要使用WebClient类
            byte[] myDataBuffer;
            myDataBuffer = we.DownloadData(txtURL.Text);  //该方法返回的是 字节数组,所以需要定义一个byte[]
            string download = Encoding.Default.GetString(myDataBuffer);  //对下载的数据进行编码

          
            //通过查询源代码,获取某两个值之间的新闻内容
            int startIndex = download.IndexOf("<!-- publish_helper name=‘要闻-新闻‘ p_id=‘1‘ t_id=‘850‘ d_id=‘1‘ -->");
            int endIndex = download.IndexOf("<!-- publish_helper name=‘要闻-财经‘ p_id=‘30‘ t_id=‘98‘ d_id=‘1‘ -->");

            string temp = download.Substring(startIndex, endIndex - startIndex + 1);  //截取新闻内容

            lblMessage.Text = temp;//显示所截取的新闻内容
        }


效果如图:

技术分享

最后: 除了把下载的数据保存为文本以外,还可以保存为 文件类型 和 流 类型。

复制代码 代码如下:

WebClient wc = new WebClient();
            wc.DownloadFile(TextBox1.Text, @"F:\test.txt");
            Label1.Text = "文件下载完成";

复制代码 代码如下:

WebClient wc = new WebClient();
            Stream  s =  wc.OpenRead(TextBox1.Text);

            StreamReader sr = new StreamReader(s);
            Label1.Text =  sr.ReadToEnd();

C# 实现抓取网站页面内容的实例方法

原文:http://www.jb51.net/article/40696.htm

(0)
(0)
   
举报
评论 一句话评论(0
关于我们 - 联系我们 - 留言反馈 - 联系我们:wmxa8@hotmail.com
© 2014 bubuko.com 版权所有
打开技术之扣,分享程序人生!