Golang Go语言实现自动下载Twitter视频图片

Github 地址

Github: https://github.com/gohiweeds/twitterdownloader.git

功能

  • 支持 Socks5 代理配置

国内的:支持设置 SOCK5 代理,下载 Twitter 视频图片

如果已经配置了就不需要了使用 SOCK5 下载了,如下,直接下载即可,无须配置 HTTP 代理。 MacOS:

export http_proxy=xxx
export https_proxy=xxx

原因

前一段时间浏览 Twitter 看到了一个搞笑的视频,想保存下来,但是发现都是 hls 的视频片段,下载挺麻烦的,于是用 golang 实现了一个自动下载 Tweet 的视频功能。

实现原理

Twitter 的视频是通过 javascript 的执行来完成的,都是 xhr 的请求。 这种方式下载比较麻烦,之前我的打算是 golang 中搭建一个 javascript 的解释器然后计算执行,但是执行过程中遇到了一些问题,javascript + DOM 的绑定等,比较复杂,对于一个嵌入式工程师来说,对 javascript 也不是很熟悉,作罢。

后来在 github 上找到了一个直接请求相对 uri 直接获取配置的,现在已经过期了还是 python 实现,依赖过多,没有用处,但是提供了思路。

我就按照获取的视频 json 的配置信息 url,来获取,又遇到了难题,就是访问此路径需要认证,没办法,抓取数据包分析,然后模拟了 guest 的认证,最终可获取了视频配置,然后根据视频 url 下载 m3u8,然后下载视频文件,重组成 mp4 格式的文件即可。

总结

本来在实现过程中发现 Twitter 的视频请求方式的时候,我是打算算了,反正无关痛痒的项目,但是内心的小执着觉得不能这么算了,虽然后来又遇到了认证问题,但还是有惊无险的完成了。


Golang Go语言实现自动下载Twitter视频图片

更多关于Golang Go语言实现自动下载Twitter视频图片的实战教程也可以访问 https://www.itying.com/category-94-b0.html

2 回复

难道没有人想要 twitter 的小视频?

更多关于Golang Go语言实现自动下载Twitter视频图片的实战系列教程也可以访问 https://www.itying.com/category-94-b0.html


在Go语言中实现自动下载Twitter视频和图片,通常涉及以下几个步骤:

  1. 获取Twitter数据:首先,你需要使用Twitter API来获取视频或图片的URL。这通常涉及OAuth认证,你需要注册一个Twitter开发者账号并创建一个应用以获取API密钥和访问令牌。使用这些凭证,你可以通过HTTP请求访问Twitter API。

  2. 发送HTTP请求:使用Go的net/http包发送HTTP GET请求到上一步获取的媒体URL。

  3. 处理响应:读取HTTP响应体,并将其保存到本地文件。你可以使用io/ioutilos包来完成文件写入操作。

  4. 错误处理:确保在请求和文件操作中添加适当的错误处理,以应对网络问题或文件写入错误。

  5. 并发处理(可选):如果你需要下载多个文件,可以使用Go的goroutines和channels来并发处理,提高效率。

  6. 遵守Twitter的API规则:确保你遵守Twitter的使用条款和API限制,避免滥用API导致访问被限制。

实现这个功能的代码会涉及多个库和API调用,建议查阅Twitter API文档和Go语言的标准库文档。同时,由于Twitter API可能会更新,确保你的代码与最新的API版本兼容。

总之,通过合理使用Twitter API和Go语言的网络库,你可以实现自动下载Twitter视频和图片的功能。

回到顶部