import requests from bs4 import BeautifulSoup from openpyxl import Workbook from datetime import datetime # -----参考文档,三件套------- # https://docs.python-requests.org/en/latest/ # https://www.crummy.com/software/BeautifulSoup/bs4/doc/ # https://openpyxl.readthedocs.io/en/stable/ # https://docs.python.org/3/library/stdtypes.html#str.strip (切片) # -----参考文档,三件套------- # 5.1 新增时间格式规范化输出文件名 # 获取当前时间 now = datetime.now() # 将时间格式化为指定的字符串格式 formatted_time = now.strftime('%Y-%-m-%-d') # 创建一个Workbook对象,用于Excel的读写 wb = Workbook() # 添加一个Sheet页,并且指定Sheet名称 sheet = wb.active sheet.title = 'Sheet1' # 定义变量row,用于循环时控制每一行的写入位置 row = 1 # 添加表头 sheet['A1'] = '栏目' sheet['B1'] = '标题' sheet['C1'] = '时间' # 遍历页码1从2页 for page_num in range(1,3): # f-string url = f"https://www.chinanews.com.cn/scroll-news/news{page_num}.html" # 反爬通用套码 headers = { 'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/58.0.3029.110 Safari/537.3' } r = requests.get(url, headers=headers) r.encoding='utf-8' soup = BeautifulSoup(r.text, 'html.parser') # 遍历栏目、标题和时间 dangdu_lanmu = soup.find_all('div', class_='dd_lm') dangdu_biaoti = soup.find_all('div', class_='dd_bt') dangdu_time = soup.find_all('div', class_='dd_time') # 追加具体数据 for news_num in range(len(dangdu_lanmu)): sheet.append([dangdu_lanmu[news_num].text.strip('[]'), dangdu_biaoti[news_num].text, dangdu_time[news_num].text]) # row=row+1 row += 1 # 保存Excel文件 wb.save("chinanews_{}.xlsx".format(formatted_time))
python教程
chinanews新闻资讯Python爬虫
- python爬虫
-
Python好看视频地址解析下载代码
#encoding:utf-8# 好看视频下载 import socketfrom urllib.request import urlopenimport urllibimport reimport timefrom pyquery import PyQuery as pqimport requestsfrom tqdm import tqdm # 打印进度条的库import gzip print('程序开始运...
-
python美女写真图库爬虫
import requestsfrom lxml import etreeimport csvfrom time import sleepimport osfrom concurrent.futures import ThreadPoolExecutor headers = { 'user-agent': 'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_13_6) AppleWebKit...
-
笔趣阁小说网Python爬虫分享
#[url=https://www.biquge.info/wanjiexiaoshuo/]https://www.biquge.info/wanjiexiaoshuo/[/url] 笔趣阁小说全本爬虫import timeimport requestsimport osimport randomfrom lxml import etreeimport webbrowserheader = { "User-Agent": "Mo...
-
批量修改照片文件大小Python脚本
一段批量修改照片文件大小Python脚本,输入和输出图片文件夹,图片你的最大和最小标准,批量调整照片文件大小。# ...
-
文本段落自动分隔格式化Python脚本
我们在做网站时,需要处理大量的文本内容,要求文本段落内容按我们的格式分隔排版,手动一个个的修改就非常浪费时...
-
利用ffmpeg提取视频第一帧保存成图片
做影视采集站的找不到影视封面可以试试这个方法,利用ffmpeg提取视频第一帧保存成图片,这样就省去了找封面图的...
-
Python大乐透根据近120期统计随机生成号码
一段Python自动获取大乐透上一期号码,以及最近120期大乐透号码统计权重随机重号。import randomimport reque...
-
python批量获取百度云用户份信息
python批量获取百度云用户份信息,未编译直接发代码,能用到的自行修改,以下代码适合于在文件夹中多个文件批量提...