时间:2021-05-20
通过程序自动的读取其它网站网页显示的信息,类似于爬虫程序。比方说我们有一个系统,要提取BaiDu网站上歌曲搜索排名。分析系统在根据得到的数据进行数据分析。为业务提供参考数据。
为了完成以上的需求,我们就需要模拟浏览器浏览网页,得到页面的数据在进行分析,最后把分析的结构,即整理好的数据写入数据库。那么我们的思路就是:
1、发送HttpRequest请求。
2、接收HttpResponse返回的结果。得到特定页面的html源文件。
3、取出包含数据的那一部分源码。
4、根据html源码生成HtmlDocument,循环取出数据。
5、写入数据库。
程序如下:
//根据Url地址得到网页的html源码
privatestringGetWebContent(stringUrl)
{
stringstrResult="";
try
{
HttpWebRequestrequest=(HttpWebRequest)WebRequest.Create(Url);
//声明一个HttpWebRequest请求
request.Timeout=30000;
//设置连接超时时间
request.Headers.Set("Pragma","no-cache");
HttpWebResponseresponse=(HttpWebResponse)request.GetResponse();
StreamstreamReceive=response.GetResponseStream();
Encodingencoding=Encoding.GetEncoding("GB2312");
StreamReaderstreamReader=newStreamReader(streamReceive,encoding);
strResult=streamReader.ReadToEnd();
}
catch
{
MessageBox.Show("出错");
}
returnstrResult;
}
为了使用HttpWebRequest和HttpWebResponse,需填名字空间引用
usingSystem.Net;
以下是程序具体实现过程:
privatevoidbutton1_Click(objectsender,EventArgse)
{
//要抓取的URL地址
stringUrl="http://list.mp3.baidu.com/topso/mp3topsong.html?id=1#top2";
//得到指定Url的源码
stringstrWebContent=GetWebContent(Url);
richTextBox1.Text=strWebContent;
//取出和数据有关的那段源码
intiBodyStart=strWebContent.IndexOf("<body",0);
intiStart=strWebContent.IndexOf("歌曲TOP500",iBodyStart);
intiTableStart=strWebContent.IndexOf("<table",iStart);
intiTableEnd=strWebContent.IndexOf("</table>",iTableStart);
stringstrWeb=strWebContent.Substring(iTableStart,iTableEnd-iTableStart+8);
//生成HtmlDocument
WebBrowserwebb=newWebBrowser();
webb.Navigate("about:blank");
HtmlDocumenthtmldoc=webb.Document.OpenNew(true);
htmldoc.Write(strWeb);
HtmlElementCollectionhtmlTR=htmldoc.GetElementsByTagName("TR");
foreach(HtmlElementtrinhtmlTR)
{
stringstrID=tr.GetElementsByTagName("TD")[0].InnerText;
stringstrName=SplitName(tr.GetElementsByTagName("TD")[1].InnerText,"MusicName");
stringstrSinger=SplitName(tr.GetElementsByTagName("TD")[1].InnerText,"Singer");
strID=strID.Replace(".","");
//插入DataTable
AddLine(strID,strName,strSinger,"0");
stringstrID1=tr.GetElementsByTagName("TD")[2].InnerText;
stringstrName1=SplitName(tr.GetElementsByTagName("TD")[3].InnerText,"MusicName");
stringstrSinger1=SplitName(tr.GetElementsByTagName("TD")[3].InnerText,"Singer");
//插入DataTable
strID1=strID1.Replace(".","");
AddLine(strID1,strName1,strSinger1,"0");
stringstrID2=tr.GetElementsByTagName("TD")[4].InnerText;
stringstrName2=SplitName(tr.GetElementsByTagName("TD")[5].InnerText,"MusicName");
stringstrSinger2=SplitName(tr.GetElementsByTagName("TD")[5].InnerText,"Singer");
//插入DataTable
strID2=strID2.Replace(".","");
AddLine(strID2,strName2,strSinger2,"0");
}
//插入数据库
InsertData(dt);
dataGridView1.DataSource=dt.DefaultView;
}
声明:本页内容来源网络,仅供用户参考;我单位不保证亦不表示资料全面及准确无误,也不保证亦不表示这些资料为最新信息,如因任何原因,本网内容或者用户因倚赖本网内容造成任何损失或损害,我单位将不会负任何法律责任。如涉及版权问题,请提交至online#300.cn邮箱联系删除。
本文实例讲述了C#基于正则表达式实现获取网页中所有信息的网页抓取类。分享给大家供大家参考,具体如下:类的代码:usingSystem;usingSystem.D
本文实例讲述了C#使用WebClient登录网站并抓取登录后的网页信息实现方法。分享给大家供大家参考,具体如下:C#登录网站实际上就是模拟浏览器提交表单,然后记
1.爬虫:爬虫,是一种按照一定的规则,自动地抓取网页信息的程序或者脚本;利用NodeJS实现一个简单的爬虫案例,爬取Boss直聘网站的web前端相关的招聘信息,
本文实例讲述了C#利用Windows自带gdi32.dll实现抓取屏幕功能,是C#应用程序设计中一个非常实用的功能,现分享给大家供大家参考借鉴。具体功能代码如下
本文实例总结了三种常用的C#网页信息采集方法。分享给大家供大家参考。具体实现方法如下:一、通过HttpWebResponse来获取复制代码代码如下:public