C#.Net使用正则表达式抓取百度百家文章列表
2024-08-31 04:48:20
工作之余,学习了一下正则表达式,鉴于实践是检验真理的唯一标准,于是便写了一个利用正则表达式抓取百度百家文章的例子,具体过程请看下面源码:
一:获取百度百家网页内容
public List<string[]> GetUrl()
{
try
{
string url = "http://baijia.baidu.com/";
WebRequest webRequest = WebRequest.Create(url);
WebResponse webResponse = webRequest.GetResponse();
StreamReader reader = new StreamReader(webResponse.GetResponseStream());
string result = reader.ReadToEnd();
reader.Close();
webResponse.Close();
return AnalysisHtml(result);
}
catch (Exception ex)
{
throw ex;
}
}
二:通过正则表达式筛选
public List<string[]> AnalysisHtml(string htmlContent)
{
List<string[]> list = new List<string[]>();
string strPattern = "<h3><a\\s*.*>(?<Title>[^<]+)</a></h3>.*\\s*<p\\s*class=\"feeds-item-text\">(?<Abstract>[^<]+)<a\\s*href=\"(?<Url>.*)\"\\s*target=\"_blank\"\\s*class=\"feeds-item-more\"\\s*mon=\".*\\s*\">.*\\s*</a></p>";
Regex regex = new Regex(strPattern, RegexOptions.IgnoreCase | RegexOptions.Multiline | RegexOptions.CultureInvariant);
if (regex.IsMatch(htmlContent))
{
MatchCollection matchCollection = regex.Matches(htmlContent);
foreach (Match match in matchCollection)
{
string[] str = new string[];
str[] = match.Groups[].Value;//获取到的是列表数据的标题
str[] = match.Groups[].Value;//获取到的是内容
str[] = match.Groups[].Value;//获取到的是链接到的地址
list.Add(str);
}
}
return list;
}
最新文章
- UVALive 6885	 Flowery Trails 最短路枚举
- 第一章 响应式设计之Media Quer
- 怎么手写Ajax实现异步刷新
- Linux Versus Windows, Ubuntu/Mint V XP/Vista/7
- 个人笔记--struts2对Action的权限拦截
- Memcached认知[分布式]
- Ajax日记
- thinkphp phpexcel导入
- django1.6.x(python3.3)使用pymysql连接mysql
- 第七章——DMVs和DMFs(3)——用DMV和DMF监控TempDB
- toFixed()要注意的
- Docker+Gogs搭建个人Git服务
- JVM三种垃圾收集算法思想及发展过程
- 如何在ubuntu开启ssh服务-使 SecureCRT远程登录
- c++11の关联容器
- Kettle系列:使用Kudu API插入数据到Kudu中
- activemq 安装 部署
- Eclipse 护眼背景色设置
- [AHOI2014/JSOI2014] 解题报告
- html5 postMessage解决跨域、跨窗口消息传递(转)