Python项目如何实现跨Linux系统的移植与适配
RT,领导要求移植某个项目,要求移植到不同的 linux 机器上都能适配。 领导的意思是,python 本来全平台通用,完全能打包到内网无人值守安装,完全无错完成。 我这边本来想的是,用 virtualenv 直接打包,但是发现几个坑,打包好的很多文件里,有些是直接引用的系统软 link:
/home/lab/venv/local/bin
引用的是:
lrwxrwxrwx 1 lab lab 18 Apr 29 07:53 bin -> /home/lab/venv/bin
换到新环境下,要是不存在改文件,或者环境不同换了位置,该如何处理。 领导应该会要求,不能固定在某一个目录,这个我不知道怎么弄。
另外,在安装库文件的过程中,领导要求把库文件弄下来,不能即时下载纠错。 我在安装某一些库文件的过程中,比如:
pip install lxml
pip install gevent
可能会出现部分报错,其实人工纠正还是不难,但是现在要求全部弄下来打包的话, 如何才能做到完全适配,比如缺啥底层文件,都加到这个文件夹里,做好链接,直接能用,适配全系统 linux。 领导还加了句,实在不行还可以判断下系统内核版本和系统版本再进行加载。
另外,领导附加了要求,不能用镜像虚拟机 docker 之类的。
很僵硬,我这边实在绝望,希望各位大佬能指点下。 在线等,很急,领导催的紧! 感谢!
Python项目如何实现跨Linux系统的移植与适配
docker 不行可以 runc
他的意思是机器可能啥都没装,临时用没时间装,要求直接解压安装就能用。
完全是张口就来——虽然我不知道该怎么做,但是这个问题肯定很简单,简单抽空做一下,明天就要。
就算是跨平台也是有 glibc 之类依赖,适配全系统 Linux 还是得分平台打包才能实现,更何况还有一些依赖库可能是动态编译,还会依赖系统 ssl 库之类的,对版本还有要求。
用 pyinstaller 之类的工具能解决 一部分问题,不过也不是短时间马上就能搞定全系统 Linux 适配。
virtualenv --relocatable
不知道是不是这个
换 go,禁用 cgo,保证放到哪里都能跑。
既然有 docker 这样的东西干嘛不让用,自己造个轮子又麻烦,问题还多。
如果不依赖于任何系统上特殊组件的话,可以通过 chroot,直接打包所有的依赖库,也许能解决问题。
全平台就搞 docker 镜像吧
miniconda,所有依赖库都用 conda 下载的二进制包
用 pyenv,连 pyenv 一起复杂,后面只需要改下环境变量。
linux 底层依赖的话,可能你要写个 script 根据平台不同去安装
这要求小工具还是用 go 写过吧 pyinstaller 我当年愣是想打一个 win 包 没打出来
可以试试 https://github.com/facebookincubator/xar
我们所有的 python binary 分发部署都使用 xar 格式, 无需依赖系统 Python 环境。
用 pypy 绿色版试试呢,不清楚你们的包支持不支持
glibc 依赖不对可以让这个包跪在地上哭(我就这么被一个中老年版本的 linux 系统整哭过,就差没跪在地上求管理员爸爸升级系统了
docker 一步到位。别的 chroot 类解决方案都不成熟
采用了 docker 方案以后,你的问题就转移成怎么安装和维护 docker 了。
嗯 前天因为跨发行版安装了个带 glibc 的包 系统瞬间就崩了😂
我记得 docker 没有对老 Linux 比如 centos6 支持吧,不符合楼主要求的。
楼上都说了用禁用 cgo 的 go 写是满足楼主需求的唯一途径了
你直接把依赖都打包进去不就得了,甚至 python 运行时都打包进去,赶上这样的领导该粗暴就粗暴。
你们还 too young
Armv8 i386 mips armv5 怎么办?
Windows FreeBSD NetBSD Darwin 呢?
还敢叫全平台么?
我也投票 docker
这个要求简直就是给 docker 量身订做的 结果还不让用
领导指着哆啦 A 梦的四维空间袋说道"这口袋挺可爱,你也给我整一个呗"
“我整你妈!”
#24 感谢,这个我刚才还真没想到。
就问题聊问题,如果是其它硬件平台,那应该是打多种包呀,我们装软件不都是 for x86/for armv8 那样多种包嘛。
其实完全就是跟 pyinstaller 那样打包嘛。
然后检查下依赖的库里有没有平台限制相关的,有的库是特定平台要求的。
你领导的需求完全可以实现, 我自己以前就实现过.
你老板就是让你自己弄个容器,拿 docker 做,自己 chroot 进去跑
docker 在老 centos 什么的系统支持可并不好,唯一途径就是禁用 cgo 的 go
全平台完全是拍脑袋说话,明确几个版本的操作系统,然后分别适配吧。
Java 也可以
misp cpu 的 linux 路由器上跑 java 基本不可能,golang 可以
https://www.jianshu.com/p/08c657bd34f1
感谢,不过他不能使虚拟环境跨平台使用,只能本机移动位置?
我换了机器就路径不对识别不了。
求指点,我迁移后没法用管理器,老板要求即使没有 docker 之类的,也是解压就能用。原生能支持么?
是,所以我想用借助三方软件打包的,但领导意思是新机器可能啥都没有,也没有管理软件,要求能解压完直接用,我不知道原生的怎么做到。
是啊,他要求依赖全拿进去,不管啥系统都能适配,连着 python 本身一起打包,说新机器可能没有 python。
docker…
给赞,很好的东西,但是我那儿环境比较复杂,里面还加了 celery 之类的,不是很适合。
前提部署环境都是 Linux 内核且版本不太低, 剩下的就是堆 lib 和 bin 了, 整个过程本质是把操作系统发行版做的一些事情自己再做一遍, 如果对编译链接有一定理解的话, 难度并没有想象的那么大. 之所以很多人觉得很困难, 可能是现在流行的编程语言把很多有趣的东西封装起来了.
直接 miniconda 行不行?实在不行连整个 py 环境都给他……
他那边就不让用第三方管理器,说是怕断网的纯净环境呢。
非常感谢,我研究下。另外,他那边的意思我得自带 python 环境打包,调相对路径。主要是 whl 也需要系统依赖吧。
是,确实难点在这儿,我看了下安装过程中的一些坑,让我去 yum 或者 apt-get 一些包,关键点在于,我无法定位我这报错,到底是缺了什么 lib 和 bin,这是最蛋疼的,所以让我单独去编译链接坑点还是比较多。
想着做适配主流,判断下,根据不同的系统去装不同的包,不过领导估计不一定认可,他要求在纯净断网环境也能用上。
我是想说你自己用 miniconda 搞一个,连整个 conda 的 python 环境一起给他,只有自己的项目调用那个 python…保证通用。


