1.解析数据的函数

#解析数据的函数

def parse(self):

#强制等待两秒，等待页面数据加载完毕

sleep(2)

li_list = self.bro.find_elements_by_xpath(‘//*[@id=“listAll”]/section[2]/div[2]/ul/li’)

#print(len(li_list))

data_list = []

for li in li_list:

dic_data = {}

dic_data[‘title’] = li.find_element_by_xpath(‘./div/a/div[2]/div[1]/h3’).text

dic_data[‘name’] = li.find_element_by_xpath(‘./div/a/div[2]/div[2]/h2/div’).text

dic_data[‘art_type’] = li.find_element_by_xpath(‘./div/a/div[2]/div[1]/span’).text

dic_data[‘hot’] = li.find_element_by_xpath(‘./div/a/div[2]/div[2]/span’).text

data_list.append(dic_data)

return data_list

2.保存数据的函数

（1）保存为txt文本

#保存数据的函数

def save_data(self,data_list,i):

#在当前目录下将数据存为txt文件

with open(‘./douyu.txt’,‘w’,encoding=‘utf-8’) as fp:

for data in data_list:

data = str(data)

fp.write(data+‘

’)

print(“第%d页保存完成！” % i)

（2）保存为json文件

#保存数据的函数

def save_data(self,data_list,i):

with open(‘./douyu.json’,‘w’,encoding=‘utf-8’) as fp:

#里面有中文，所以注意ensure_ascii=False

data = json.dumps(data_list,ensure_ascii=False)

fp.write(data)

print(“第%d页保存完成！” % i)

3.主函数设计

#主函数

def run(self):

#输入要爬取的页数,如果输入负整数，转化成她的绝对值

page_num = abs(int(input(“请输入你要爬取的页数：”)))

#初始化页数为1

i = 1

#判断输入的数是否为整数

if isinstance(page_num,int):

#实例化浏览器对象

self.bro = webdriver.Chrome(executable_path=‘…/…/可执行文件/chromedriver.exe’)

self.bro.get(self.url)

while i <= page_num:

#调用解析函数

data_list = self.parse()

#调用保存函数

self.save_data(data_list,i)

try:

#定位包含“下一页”字段的按钮并点击

button = self.bro.find_element_by_xpath(‘//span[contains(text(),“下一页”)]’)

button.click()

i += 1

except:

break

self.bro.quit()

else:

print(“输入格式错误！”)

四、完整代码

======

from selenium import webdriver

from time import sleep

import json 中央海岸水手比赛前瞻

#创建一个类

class Douyu():

def init(self):

self.url = ‘https://www.douyu.com/directory/all’

#解析数据的函数

def parse(self):

#强制等待两秒，等待页面数据加载完毕

sleep(2)

li_list = self.bro.find_elements_by_xpath(‘//*[@id=“listAll”]/section[2]/div[2]/ul/li’)

#print(len(li_list))

data_list = []

for li in li_list:

dic_data = {}

dic_data[‘title’] = li.find_element_by_xpath(‘./div/a/div[2]/div[1]/h3’).text

dic_data[‘name’] = li.find_element_by_xpath(‘./div/a/div[2]/div[2]/h2/div’).text

dic_data[‘art_type’] = li.find_element_by_xpath(‘./div/a/div[2]/div[1]/span’).text

dic_data[‘hot’] = li.find_element_by_xpath(‘./div/a/div[2]/div[2]/span’).text

data_list.append(dic_data)

return data_list

#保存数据的函数

def save_data(self,data_list,i):

#在当前目录下将数据存为txt文件

with open(‘./douyu.txt’,‘w’,encoding=‘utf-8’) as fp:

for data in data_list:

data = str(data)

fp.write(data+‘

’)

print(“第%d页保存完成！” % i)

#主函数

def run(self):

#输入要爬取的页数,如果输入负整数，转化成她的绝对值

page_num = abs(int(input(“请输入你要爬取的页数：”)))

#初始化页数为1

i = 1

#判断输入的数是否为整数

if isinstance(page_num,int):

#实例化浏览器对象

self.bro = webdriver.Chrome(executable_path=‘…/…/可执行文件/chromedriver.exe’)

self.bro.get(self.url)

while i <= page_num:

#调用解析函数

data_list = self.parse()

#调用保存函数

self.save_data(data_list,i)

try:

#定位包含“下一页”字段的按钮并点击

button = self.bro.find_element_by_xpath(‘//span[contains(text(),“下一页”)]’)

button.click()

i += 1

except:

break

self.bro.quit()

else:

print(“输入格式错误！”)

自我介绍一下，小编13年上海交大毕业，曾经在小公司待过，也去过华为、OPPO等大厂，18年进入阿里一直到现在。

深知大多数前端工程师，想要提升技能，往往是自己摸索成长或者是报班学习，但对于培训机构动则几千的学费，着实压力不小。自己不成体系的自学效果低效又漫长，而且极易碰到天花板技术停滞不前！

因此收集整理了一份《2024年Web前端开发全套学习资料》，初衷也很简单，就是希望能够帮助到想自学提升又不知道该从何学起的朋友，同时减轻大家的负担。

既有适合小白学习的零基础资料，也有适合3年以上经验的小伙伴深入学习提升的进阶课程，基本涵盖了95%以上前端开发知识点，真正体系化！

由于文件比较大，这里只是将部分目录截图出来，每个节点里面都包含大厂面经、学习笔记、源码讲义、实战项目、讲解视频，并且会持续更新！

如果你觉得这些内容对你有帮助，可以扫码获取！！（备注：前端）

最后

由于文档内容过多，为了避免影响到大家的阅读体验，在此只以截图展示部分内容，详细完整版的JavaScript面试题文档，或更多前端资料可以点此处获取。

目、讲解视频，并且会持续更新！**

如果你觉得这些内容对你有帮助，可以扫码获取！！（备注：前端）

最后

[外链图片转存中…(img-0gYBNq5j-1712817984593)]

[外链图片转存中…(img-O002Ljku-1712817984594)]

由于文档内容过多，为了避免影响到大家的阅读体验，在此只以截图展示部分内容，详细完整版的JavaScript面试题文档，或更多前端资料可以点此处获取。