python爬虫:爬取网站视频

python爬虫:爬取网站视频

python爬取百思不得姐网站视频http://www.budejie.com/video/

新建一个py文件,代码如下:

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
#!/usr/bin/python
# -*- coding: UTF-8 -*-

 

import 
urllib,re,requests
import 
sys
reload
(sys)
sys.setdefaultencoding(
'utf-8'
)

 

url_name 
= 
[] 
#url name

 

def 
get():
    
#获取源码
    
hd 
= 
{

"User-Agent"
:
"Mozilla/5.0 (Windows NT 6.3; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/58.0.3029.110 Safari/537.36"
}
    
url 
= 
'http://www.budejie.com/video/'
    
html 
= 
requests.get(url,headers
=
hd).text
    
url_content 
= 
re.
compile
(r
'(<div class="j-r-list-c">.*?</div>.*?</div>)'
,re.S) 
#编译
    
url_contents 
= 
re.findall(url_content,html) 
#匹配

 

    
for 

in 
url_contents:
        
#匹配视频
        
url_reg 
= 
r
'data-mp4="(.*?)"'  
#视频地址
        
url_items 
= 
re.findall(url_reg,i)
        
#print url_items
        
if 
url_items:  
#判断视频是否存在
            
name_reg 
= 
re.
compile
(r
'<a href="/detail-.{8}?.html">(.*?)</a>'
,re.S)
            
name_items 
= 
re.findall(name_reg,i)
            
#print name_items[0]
            
for 
i,k 
in 
zip
(name_items,url_items):
                
url_name.append([i,k])
                
print 
i,k
    
for 

in 
url_name:  
#i[1]=url i[0]=name
        
urllib.urlretrieve(i[
1
],
'video\\%s.mp4' 
% 
(i[
0
].decode(
'utf-8'
)))

 

if 
__name__ 
=
= 
"__main__"
:
    
get()

 

在 py 文件下新建一个 video 文件夹,执行后结果如下:

wKiom1kkMz-i8-RdAAIVKL2KXsw022.png

在 video 文件夹可以看到下载好的视频

blank

 

注意报错:

UnicodeEncodeError: ‘ascii’ codec can’t encode characters in position 0-9: ordinal not in range(128)

解决:

import sys
reload(sys)

sys.setdefaultencoding(‘utf-8’)

 

 

转载:http://blog.51cto.com/xiaogongju/2061754

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 举报,一经查实,本站将立刻删除。

发布者:全栈程序员-用户IM,转载请注明出处:https://javaforall.cn/112606.html原文链接:https://javaforall.cn

【正版授权,激活自己账号】: Jetbrains全家桶Ide使用,1年售后保障,每天仅需1毛

【官方授权 正版激活】: 官方授权 正版激活 支持Jetbrains家族下所有IDE 使用个人JB账号...

(0)
blank

相关推荐

  • [深度学习] FM & FFM 算法基本原理

    [深度学习] FM & FFM 算法基本原理在推荐系统和计算广告业务中,点击率CTR(click-throughrate)和转化率CVR(conversionrate)是衡量流量转化的两个关键指标。准确的估计CTR、CVR对于提高流量的价值,增加广告及电商收入有重要的指导作用。无论使用什么类型的模型,点击率这个命题可以被归纳到二元分类的问题,我们通过单个个体的特征,计算出对于某个内容,是否点击了,点击了就是1,没点击就是0。对于任何二元分类的问题,最后我们都可以归结到逻辑回归上面。早期的人工特征工程+LR(Logisti…

  • HTML转word_讯飞语记怎么变成word文档

    HTML转word_讯飞语记怎么变成word文档HTML转word背景介绍1.使用POI进行转化1.1思路1.2代码示例1.3思考2.使用jacob进行转化2.1思路2.2代码示例2.3思考3.总结背景介绍业务:将平台中尽调笔记(富文本)以word形式导出。1.使用POI进行转化依赖jarpoi-3.17.jarpoi-excelant-3.17.jarpoi-ooxml-3.17.jarpoi-ooxml-…

    2022年10月12日
  • 图解BIO、NIO、AIO、多路复用IO的区别

    点击上方“全栈程序员社区”,星标公众号 重磅干货,第一时间送达 作者:扛麻袋的少年 blog.csdn.net/lzb348110175/article/details/98941…

  • outlook显示与服务器断开连接,Outlook 与Exchange 服务器断开连接「建议收藏」

    outlook显示与服务器断开连接,Outlook 与Exchange 服务器断开连接「建议收藏」您好:我们使用的是Exchange2013标准版邮件服务器,上周升级为CU3后频繁出现outlook与exchange断开连接“outlook已失去与MicrosoftExchange的连接,如果有可能将尝试连接”……(当然之前也有只是不怎么影响使用,现在每分钟会出现55次,无法使用Exchange模式收发邮件)。下面截取了服务器日志和outlook日志,请帮忙分析下,不胜感激!!!服务器日志…

    2022年10月28日
  • python实现火车票查询「建议收藏」

    python实现火车票查询「建议收藏」1.知识点: Python基础知识的综合运用 docopt,requests,colorama,prettytable库的使用2requests:使用Python访问HTTP资源的必备库            prettytable:可以将打印内容格式化为像MySQL一样的输出      docopt:命令行参数解析工具               …

  • eclipse安装gwt插件,浏览器安装gwt插件,eclipse启动gwt自带的工程,并在浏览器上访问,eclipse导入gwt工程「建议收藏」

    eclipse安装gwt插件,浏览器安装gwt插件,eclipse启动gwt自带的工程,并在浏览器上访问,eclipse导入gwt工程「建议收藏」eclipse安装gwt插件,浏览器安装gwt插件,eclipse启动gwt自带的工程,并在浏览器上访问,eclipse导入gwt工程

发表回复

您的电子邮箱地址不会被公开。

关注全栈程序员社区公众号