Python WSGI servers 高性能选型指南

现在系统使用的是 nginx+uwsgi(开启 gevent)+bottle(gevent monkey patch)，测试场景(读 redis)， qps 4k 左右，请问还有性能更高、稳定的生产级别架构吗？谢谢！


Python WSGI servers 高性能选型指南
19 回复

我用 flask ，一直配合 gunicorn 的 eventlet 选项使用。貌似没毛病。


Python WSGI服务器高性能选型指南

选型主要看并发模型和实现语言。简单来说：

  • Gunicorn：最主流、最稳妥的选择。纯Python实现，使用pre-fork worker模型（同步）。配置简单，生态好，配合Nginx前端代理是生产环境黄金组合。处理CPU密集型或慢速I/O请求时，单个worker会阻塞。
  • uWSGI：功能怪兽，性能强劲。C语言实现，支持多种协议和并发模式（进程、线程、协程）。配置复杂但极其灵活，适合大型、复杂部署。内存开销通常比Gunicorn大。
  • Waitress：纯Python实现，但使用多线程模型，在Windows平台表现很好。适合需要跨平台或不想处理C依赖的中小型应用。
  • mod_wsgi：Apache模块，适合已有Apache生态或需要与Apache深度集成的场景。通常不作为高性能首选。
  • Hypercorn/ Daphne：为ASGI协议设计，用于异步框架（FastAPI, Quart）。如果你的应用是异步的，选它们。

一句话建议：默认用Gunicorn，要极致功能选uWSGI，异步应用上Hypercorn。

先测 redis 。

mark 你的 nginx 多少个 worker? upstream? uwsgi 多少个 processes?

Cherrypy 的 wsgi

你都用 Bottle 了 可以看下这个
http://bottlepy.org/docs/dev/deployment.html#switching-the-server-backend 列举了好多 wsgi server

nginx 16 worker,upstream 2, uwsgi 8 processes, gevent 800,没做优化，但是使用 node 来测试，性能要高出很多， 1w+ qps 。

gunicorn+meinheld

qps 能到多少？我们这个产品是 n 年前的了，想知道现在业界主流的玩法。

性能 uwsgi 算是比较高的，但是我还是建议 gunicorn ，因为我们团队碰到一些问题：

性能 uwsgi 算是比较高的，但是我还是建议 gunicorn ，因为我们团队碰到一些问题：
使用 uwsgi ，通过 zmq 发消息会丢失；有时候使用 requests 抓取网页会卡死

gunicorn+meinheld 我测试不稳定，会出现空白页面。我现在用的是 gunicorn+gevent

如果要性能高，可以试试 sanic ，速度很惊艳

大概就是这个水平，用 cache 吧

redis 用了链接池没有？

上次代码有错，连接池没有挂上。

不管什么机器死活只有几千 qps 。

改成连接池后上几 w 了。

楼主可以试试 gunicorn+meinheld 并发很高

能具体描述下空白页怎么出现的吗，我用了一年多，好像没出现说白页的…

当时的情况：
有几个 API 服务， flask 写的，用的是 uWSGI ，工作一直正常，但是加上日志后（用 zmq 转发），出现日志丢失的情况
然后改用 gunicorn ，默认 worker class 是 sync ，测试正常
由于性能偏低，改用 meinheld ，然后客户端有时会出现异常，输出日志发现 API 服务返回的是空白页（状态是 200 ）
现在用 gunicorn+gevent ，未出现问题

顺便说下， API 服务是在 docker 中运行的

uwsgi 里用 zmq 需要 enable-threads 和 lazy-apps 。因为 zmq 会创建后台线程去做报文收发，操作系统的机制决定， fork 出来的子进程会丢失线程，导致新创建的 worker 进程没有 zmq 的线程，能正常工作就怪了。

回到顶部