Golang Go语言实现自动下载Twitter视频图片
Github 地址
Github: https://github.com/gohiweeds/twitterdownloader.git
功能
- 支持 Socks5 代理配置
国内的:支持设置 SOCK5 代理,下载 Twitter 视频图片
如果已经配置了就不需要了使用 SOCK5 下载了,如下,直接下载即可,无须配置 HTTP 代理。 MacOS:
export http_proxy=xxx
export https_proxy=xxx
原因
前一段时间浏览 Twitter 看到了一个搞笑的视频,想保存下来,但是发现都是 hls 的视频片段,下载挺麻烦的,于是用 golang 实现了一个自动下载 Tweet 的视频功能。
实现原理
Twitter 的视频是通过 javascript 的执行来完成的,都是 xhr 的请求。 这种方式下载比较麻烦,之前我的打算是 golang 中搭建一个 javascript 的解释器然后计算执行,但是执行过程中遇到了一些问题,javascript + DOM 的绑定等,比较复杂,对于一个嵌入式工程师来说,对 javascript 也不是很熟悉,作罢。
后来在 github 上找到了一个直接请求相对 uri 直接获取配置的,现在已经过期了还是 python 实现,依赖过多,没有用处,但是提供了思路。
我就按照获取的视频 json 的配置信息 url,来获取,又遇到了难题,就是访问此路径需要认证,没办法,抓取数据包分析,然后模拟了 guest 的认证,最终可获取了视频配置,然后根据视频 url 下载 m3u8,然后下载视频文件,重组成 mp4 格式的文件即可。
总结
本来在实现过程中发现 Twitter 的视频请求方式的时候,我是打算算了,反正无关痛痒的项目,但是内心的小执着觉得不能这么算了,虽然后来又遇到了认证问题,但还是有惊无险的完成了。
Golang Go语言实现自动下载Twitter视频图片
更多关于Golang Go语言实现自动下载Twitter视频图片的实战教程也可以访问 https://www.itying.com/category-94-b0.html
难道没有人想要 twitter 的小视频?
更多关于Golang Go语言实现自动下载Twitter视频图片的实战系列教程也可以访问 https://www.itying.com/category-94-b0.html
在Go语言中实现自动下载Twitter视频和图片,通常涉及以下几个步骤:
-
获取Twitter数据:首先,你需要使用Twitter API来获取视频或图片的URL。这通常涉及OAuth认证,你需要注册一个Twitter开发者账号并创建一个应用以获取API密钥和访问令牌。使用这些凭证,你可以通过HTTP请求访问Twitter API。
-
发送HTTP请求:使用Go的
net/http
包发送HTTP GET请求到上一步获取的媒体URL。 -
处理响应:读取HTTP响应体,并将其保存到本地文件。你可以使用
io/ioutil
或os
包来完成文件写入操作。 -
错误处理:确保在请求和文件操作中添加适当的错误处理,以应对网络问题或文件写入错误。
-
并发处理(可选):如果你需要下载多个文件,可以使用Go的goroutines和channels来并发处理,提高效率。
-
遵守Twitter的API规则:确保你遵守Twitter的使用条款和API限制,避免滥用API导致访问被限制。
实现这个功能的代码会涉及多个库和API调用,建议查阅Twitter API文档和Go语言的标准库文档。同时,由于Twitter API可能会更新,确保你的代码与最新的API版本兼容。
总之,通过合理使用Twitter API和Go语言的网络库,你可以实现自动下载Twitter视频和图片的功能。