Java 抓取网页内容

前两天想写一段自动提取微博状态的代码。据我所知,实现这个功能即可以用PHP写,也可以用Java写。我认为用Java写调试方便一点,PHP的脚本还要上传到服务器什么的。

代码很简单的,新建一个java.net包的URL类的对象,以这个url做为写入源,内容保存在字符串中。然后新建一个文件,把字符串写出即可。不过要注意,不同网站使用不同的编码字。现在大多数的网站使用utf-8字符编码,基于wordpress搭建的网站都是使用这种编码字符的。但是,很多中文网站,包括网易等门户网站,还是使用gb2312编码。一方面gb2312的历史比utf-8要久一些,早期的中文网站以gb2312搭建,现在再修改工作量太大;另一方面,显示同样长度的文字内容,用gb2312编码比用utf-8编码要节省空间。真是因为有这个区别,所以输入网页html代码的时候要选择正确的读入方式。java的inputstream构造函数可以选utf-8作为一个参数传入,但是没有gb2312这个选项。所以抓取网易的网页时,保存下来的文档就会出现乱码。

另外,这个例子只是抓取静态的网页内容,对于微博的状态还是不行,因为要抓取状态就要先登录账号,这就要参考新浪的API文档。

 

import java.beans.FeatureDescriptor;
import java.io.*;
import java.net.*;


public class spider {

	/**
	 * @param args
	 */
	public static String fetchWebpage(String urlname){
		URL url;
		String s;
		StringBuffer sbuffer = new StringBuffer();
		
		try{
			url = new URL(urlname);
			// my website use utf-8, but some other websites, like 163 and baidu, use gb2312.
			InputStreamReader sreader = new InputStreamReader(url.openStream(),"utf-8");	
			BufferedReader breader = new BufferedReader(sreader);
			while((s=breader.readLine())!=null){
				sbuffer.append(s);
			}
			breader.close();
		}catch(Exception e){
			e.printStackTrace();
		}
		return sbuffer.toString();
	}
	       
	      
	
	
	public static void main(String[] args) throws IOException {
		// TODO Auto-generated method stub 
		String address = "http://www.mr-naive.com";
		FileOutputStream fos = new FileOutputStream(new File("myPage.html"));
		OutputStreamWriter oswrite = new OutputStreamWriter(fos, "utf-8");
		BufferedWriter bwriter = new BufferedWriter(oswrite);
		bwriter.write(fetchWebpage(address));
		bwriter.close();
	}

}

Java 抓取网页内容,古老的榕树,5-wow.com

郑重声明:本站内容如果来自互联网及其他传播媒体,其版权均属原媒体及文章作者所有。转载目的在于传递更多信息及用于网络分享,并不代表本站赞同其观点和对其真实性负责,也不构成任何其他建议。