java 抓取网页内容
在工作中要通java获取整个网页的html内容,或者某个网络文件的内容。这里我们可以使用java提供的HttpURLConnection类来实现对网页内容的抓取。下面举例说明:
抓取百度首页的内容:
1
2
3
4
5
6
7
8
9
10
11 |
HttpURLConnection urlCon=(HttpURLConnection)url.openConnection(); urlCon.setConnectTimeout( 50000 ); urlCon.setReadTimeout( 300000 ); DataInputStream fIn; byte [] content = new
byte [MAX_FILE_SIZE]; fIn = new
DataInputStream(urlCon.getInputStream()); int size = 0 ,f_size = 0 ; while ((size = fIn.read(content,f_size, 2048 ))> 0 ){ f_size += size; } |
在代码中我们将百度首页的内容存储到了一个byte数组中,当然我们有了 IO流以后还可以存储到文件中去了。
郑重声明:本站内容如果来自互联网及其他传播媒体,其版权均属原媒体及文章作者所有。转载目的在于传递更多信息及用于网络分享,并不代表本站赞同其观点和对其真实性负责,也不构成任何其他建议。