首页 > 其他 > 详细

获取广州商学院各页新闻标题及点击次数

时间:2017-10-11 12:23:31      阅读:221      评论:0      收藏:0      [点我收藏+]
import requests
import re
from bs4 import BeautifulSoup
url=http://news.gzcc.cn/html/xiaoyuanxinwen/
res=requests.get(url)
res.encoding=utf-8
soup=BeautifulSoup(res.text,html.parser)

#获取点击次数
def getclick(newurl):
    id=re.search(_(.*).html,newurl).group(1).split(/)[1]
    clickurl=http://oa.gzcc.cn/api.php?op=count&id={}&modelid=80.format(id)
    click=int(requests.get(clickurl).text.split(".")[-1].lstrip("html(‘").rstrip("‘);"))
    return click

#获取内容
def getonpages(listurl):
    res=requests.get(listurl)
    res.encoding=utf-8
    soup=BeautifulSoup(res.text,html.parser)
    
    for news in soup.select(li):
        if len(news.select(.news-list-title))>0:
            title=news.select(.news-list-title)[0].text #标题
            time=news.select(.news-list-info)[0].contents[0].text#时间
            url1=news.select(a)[0][href] #url
            bumen=news.select(.news-list-info)[0].contents[1].text#部门
            description=news.select(.news-list-description)[0].text #描述

            resd=requests.get(url1)
            resd.encoding=utf-8
            soupd=BeautifulSoup(resd.text,html.parser)
            detail=soupd.select(.show-content)[0].text

            click=getclick(url1) #调用点击次数
            print(title,click)


count=int(soup.select(.a1)[0].text.rstrip(""))
pages=count//10+1
for i in range(2,4):
    pagesurl="http://news.gzcc.cn/html/xiaoyuanxinwen/{}.html".format(i)
    getonpages(pagesurl)

    
    

 

获取广州商学院各页新闻标题及点击次数

原文:http://www.cnblogs.com/garxiu/p/7649788.html

(0)
(0)
   
举报
评论 一句话评论(0
关于我们 - 联系我们 - 留言反馈 - 联系我们:wmxa8@hotmail.com
© 2014 bubuko.com 版权所有
打开技术之扣,分享程序人生!