+ -
当前位置:首页 → 问答吧 → python 循环抓网页问题 新手提问

python 循环抓网页问题 新手提问

时间:2010-11-01

来源:互联网

http://baike.baidu.com/view/2.html 这个网页我已经能把里面的内容提取了 可是我想继续一直往下提取http://baike.baidu.com/view/3.html 那个html前的数字网上加的网页 怎么办啊?不能让我手动修改网址啊 我的源码如下
import os,sys,datetime
import httplib,urllib,re
from sgmllib import SGMLParser
import types
class Html2txt(SGMLParser):
def reset(self):
self.text=''
self.inbody=True
SGMLParser.reset(self)
def handle_data(self,text):
if self.inbody:
self.text+=text
def start_head(self,text):
self.inbody=False
def end_head(self):
self.inbody=True


parser=Html2txt()
parser.feed(urllib.urlopen("http://baike.baidu.com/view/2.html").read())
parser.close()
#print parser.text.strip()
f=open('shishi.txt','w')
f.write(parser.text.strip())
f.close()

作者: scrapyshendamrwang   发布时间: 2010-11-01

很简单,把URL放到一个函数里吧。
你试试下面这段代码吧
import urllib

def downloadPage(url):
  sock = urllib.urlopen(url)
  htmlPage = sock.read()
  print htmlPage
   
for i in ('2','3'):
  downloadPage("http://baike.baidu.com/view/"+i+".html")

作者: russell_tao   发布时间: 2010-11-01