扒糗事百科精华的python爬虫，扒糗事python爬虫,# -*- coding

扒糗事百科精华的python爬虫，扒糗事python爬虫,# -*- coding

# -*- coding: utf-8 -*-  import urllib2  import urllib  import re  import thread  import time  #----------- 加载处理糗事百科 -----------  class Spider_Model:      def __init__(self):          self.page = 1          self.pages = []          self.enable = False      # 将所有的段子都扣出来，添加到列表中并且返回列表      def GetPage(self,page):          myUrl = "http://www.qiushibaike.com/hot/page/" + page        myUrl = myUrl + "?s=4771468"        user_agent = 'Mozilla/5.0 (Windows NT 6.1; rv:37.0) Gecko/20100101 Firefox/37.0'         headers = { 'User-Agent' : user_agent }        #print myUrl        req = urllib2.Request(myUrl, headers = headers)        myResponse = urllib2.urlopen(req)        myPage = myResponse.read()          #encode的作用是将unicode编码转换成其他编码的字符串          #decode的作用是将其他编码的字符串转换成unicode编码          unicodePage = myPage.decode("utf-8")        # 找出所有class="content"的div标记          #re.S是任意匹配模式，也就是.可以匹配换行符          myItems = re.findall('<div.*?class="content">(.*?)</div>',unicodePage,re.S)        items = []          for item in myItems:              # item 中是div的内容，也就是糗事百科精华的内容            # item 中去掉换行            items.append(item.replace("\n","").replace("<br/>",""))          return items      # 用于加载新的段子      def LoadPage(self):          # 如果用户未输入quit则一直运行          while self.enable:              # 如果pages数组中的内容小于2个              if len(self.pages) < 2:                  try:                      # 获取新的页面中的段子们                      myPage = self.GetPage(str(self.page))                      self.page += 1                      self.pages.append(myPage)                  except:                      print '无法链接糗事百科！'              else:                  time.sleep(1)      def ShowPage(self,nowPage,page):          for items in nowPage:              print u'第%d页' % page , items             myInput = raw_input()              if myInput == "quit":                  self.enable = False                  break      def Start(self):          self.enable = True          page = self.page          print u'正在加载中请稍候......'          # 新建一个线程在后台加载段子并存储          thread.start_new_thread(self.LoadPage,())          #----------- 加载处理糗事百科 -----------          while self.enable:              # 如果self的page数组中存有元素              if self.pages:                  nowPage = self.pages[0]                  del self.pages[0]                  self.ShowPage(nowPage,page)                  page += 1  #----------- 程序的入口处 -----------  print u""" ---------------------------------------    程序：糗百爬虫    版本：0.3    原作者：why   修改者：天问-中国   日期：2015-05-12    语言：Python 2.7    操作：输入quit退出阅读糗事百科    功能：按下回车依次浏览今日的糗百热点 --------------------------------------- """print u'请按下回车浏览今日的糗百内容：'  raw_input(' ')  myModel = Spider_Model()  myModel.Start()