Java 抓取网页内容
前两天想写一段自动提取微博状态的代码。据我所知,实现这个功能即可以用PHP写,也可以用Java写。我认为用Java写调试方便一点,PHP的脚本还要上传到服务器什么的。
代码很简单的,新建一个java.net包的URL类的对象,以这个url做为写入源,内容保存在字符串中。然后新建一个文件,把字符串写出即可。不过要注意,不同网站使用不同的编码字。现在大多数的网站使用utf-8字符编码,基于wordpress搭建的网站都是使用这种编码字符的。但是,很多中文网站,包括网易等门户网站,还是使用gb2312编码。一方面gb2312的历史比utf-8要久一些,早期的中文网站以gb2312搭建,现在再修改工作量太大;另一方面,显示同样长度的文字内容,用gb2312编码比用utf-8编码要节省空间。真是因为有这个区别,所以输入网页html代码的时候要选择正确的读入方式。java的inputstream构造函数可以选utf-8作为一个参数传入,但是没有gb2312这个选项。所以抓取网易的网页时,保存下来的文档就会出现乱码。
另外,这个例子只是抓取静态的网页内容,对于微博的状态还是不行,因为要抓取状态就要先登录账号,这就要参考新浪的API文档。
import java.beans.FeatureDescriptor; import java.io.*; import java.net.*; public class spider { /** * @param args */ public static String fetchWebpage(String urlname){ URL url; String s; StringBuffer sbuffer = new StringBuffer(); try{ url = new URL(urlname); // my website use utf-8, but some other websites, like 163 and baidu, use gb2312. InputStreamReader sreader = new InputStreamReader(url.openStream(),"utf-8"); BufferedReader breader = new BufferedReader(sreader); while((s=breader.readLine())!=null){ sbuffer.append(s); } breader.close(); }catch(Exception e){ e.printStackTrace(); } return sbuffer.toString(); } public static void main(String[] args) throws IOException { // TODO Auto-generated method stub String address = "http://www.mr-naive.com"; FileOutputStream fos = new FileOutputStream(new File("myPage.html")); OutputStreamWriter oswrite = new OutputStreamWriter(fos, "utf-8"); BufferedWriter bwriter = new BufferedWriter(oswrite); bwriter.write(fetchWebpage(address)); bwriter.close(); } }
郑重声明:本站内容如果来自互联网及其他传播媒体,其版权均属原媒体及文章作者所有。转载目的在于传递更多信息及用于网络分享,并不代表本站赞同其观点和对其真实性负责,也不构成任何其他建议。