博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
Python 爬虫学习笔记5
阅读量:6320 次
发布时间:2019-06-22

本文共 1419 字,大约阅读时间需要 4 分钟。

ajax:异步请求, 一定会有URL,请求方法,可能会有数据。 一般用json

 

https://movie.douban.com/j/chart/top_list?type=11&interval_id=100%3A90&action=&start=20&limit=20

Requests: 继承了urllib所有特征,底层使用的是urllib3

get请求:requests.get(url)
requests.request('get',url)
可以带有params 和 headers参数

post

-rsp = requests.post(url, data=data)
data headers 要求dict类型

proxy:

proxies = {
'http':'address of proxy'
'https':'address of proxy'
}
rsp = requests.request('get', 'http:xxxxxxxx', proxies = proxies)
有可能会报错,如果使用人数过多,考虑安全问题,可能会被强行关闭

用户验证:

-代理验证
#可能需要使用HTTP basic Auth‘
#格式为 用户名:密码@代理地址:端口地址
proxy = {'http': 'xxxxx:xxxxx@xxx.xxx.x.xxx:xxxx'}
rsp = requests.get('http://baidu.com', proxies = proxy)

web客户端验证:需要添加auth = (用户名,密码)

auth = ('用户名', '密码')
rsp = requests.get('http://www.baidu.com', auth = auth)

cookie

requests可以自动处理cookie信息
rsp = requests.get('http://xxxxxxxxxxxx')
#如果对方服务器传送过来cookie信息,则可以通过反馈的cookie属性得到
#返回一个cookiejar的实例
cookiejar = rsp.cookies

#可以将cookiejar转换成字典

cookiedict = requests.utils.dict_from_cookiejar(cookiejar)

 

session:

#创建session对象

ss = requests.session()

headers = {'User-Agent': 'xxxxxxxxxxxxxxx'}

data = {'name': 'xxxxxxxxxxxx'}

#此时,发出的请求由session管理

ss.post('http://www.baidu.com', data = data, headers = headers)

rsp = ss.get('xxxxxxxxxxxxx')

 

https请求验证ssl证书

- 参数verify负责表示是否需要验证ss证书,默认是True

- 如果不需要验证ssl 证书, 则设置成false表示关闭

rsp = requests.get('https://www.baidu.com', verify = false)

 

转载于:https://www.cnblogs.com/chickenwrap/p/10198522.html

你可能感兴趣的文章
Mui picker 的 Bug
查看>>
加拿大程序员趣闻系列 3/N : 生活篇
查看>>
Git工程实践(一)巧用commit message
查看>>
iOS中如何使用多个Target去管理你的项目环境版本(测试环境与线上环境)
查看>>
Java程序员必看:技术大牛都在用这四个小技巧
查看>>
九、Touchable组件点击事件
查看>>
ArcBlock 合作 | ABT 加入美国数码产业商会
查看>>
Android系统全貌
查看>>
爱因斯坦的思考题Java语言求解
查看>>
Java虚拟机 —— 垃圾回收机制
查看>>
180612-Spring之Yml配置文件加载问题
查看>>
【译】十五分钟,学习 Webpack
查看>>
scrapy进阶开发(一):scrapy架构源码分析
查看>>
iOS入门常见错误
查看>>
React全家桶构建一款Web音乐App实战(二):字体图标制作及页面路由搭建
查看>>
Deep learning学习记录(课程2)
查看>>
web页面兼容性问题记录
查看>>
如何优雅地使用 macOS
查看>>
【TopRightMenu】一步搞定手机QQ界面右上角弹出菜单
查看>>
说说 Vue.js 中的 v-show 指令
查看>>