跳转到主要内容

VillageSQL is a drop-in replacement for MySQL with extensions.

All examples on this page work on VillageSQL. Install Now →
长期运行的 Node 服务器在进程启动时打开一个连接池,并在每个请求中重用它,直到进程关闭。无服务器函数没有这种保证:每次调用都可能在一个全新的执行环境中运行,对上一次调用没有任何记忆,因此”按常规方式”创建连接池的代码最终可能在每一个请求上都创建一个全新的连接池,或者一个全新的连接。本指南用 Drizzle ORM 和 mysql2 构建一个小型 Hono 应用程序,然后测量在并发负载下,每种模式会对 MySQL 的连接数产生什么影响。

本指南测试了什么,没有测试什么

下面的所有内容都在一台真实的本地 VillageSQL 服务器和一个真实的 Node 进程上运行过。该应用程序是用 nodejs 模板(npm create hono@latest)构建的 Hono 应用,在本指南的测试期间作为普通的长期运行 Node 进程运行,没有部署到 Cloudflare Workers、AWS Lambda 或 Vercel 的边缘运行时。 这对本指南提出的一个具体主张和一个未提出的主张很重要:
  • 真正测试过的内容:一个每次运行都打开新 MySQL 连接的请求处理程序,与一个重用在模块加载时创建一次的连接池的处理程序之间的对比。对每个版本发起并发 HTTP 请求并观察 MySQL 的连接数,忠实地再现了单个无服务器函数实例处理并发调用时、或者一个模块级代码重新运行的冷启动实例内部发生的情况。
  • 没有测试的内容:许多独立的执行环境同时冷启动、各自运行本进程的一个副本并打开各自连接池所产生的倍增效应。AWS Lambda 或 Cloudflare Workers 上一次真实的流量突发可以同时启动数十个相互隔离的实例,每个实例中 10 个连接的连接池很快就会累加起来,即使应用了本指南中的修复也是如此。下面的”超出单个实例”部分介绍了如何应对这种情况,但本指南的 Node 进程按定义只是单个实例,无法再现这种情况。

设置数据库

创建一个专用数据库和一个作用域限定于该数据库的用户:

搭建应用程序

本指南使用 Hono 的 nodejs 模板,它运行在 @hono/node-server 上,开发时不需要特定的云平台:
安装 Drizzle、mysql2 驱动和 drizzle-kit:
drizzle-orm 和 drizzle-kit 都在 dist-tags 下与 latest 一起发布预发布标签(beta、rc)。安装前请检查:
在撰写本文时,drizzle-orm 的 latest 解析为 0.45.2,drizzle-kit 的解析为 0.31.10,两者都是稳定版本,而不是候选发布版本。 在 .env 中设置连接字符串:

定义模式并运行迁移

src/db/schema.ts
drizzle.config.ts
生成并应用迁移:
确认表已存在:

反模式:每个请求一个连接

这个问题最常见的表现形式是一段单独看起来很合理的代码。它打开一个 mysql2 连接,运行一条查询,然后关闭连接,全都在请求处理程序内部:
src/index.bad.ts
在低并发下这是可行的。五个并发客户端连续访问它三秒钟,失败响应为零。只有当并发调用的数量超过数据库对该用户的允许值时,问题才会出现。

演示连接耗尽

MySQL 的 max_connections 是服务器范围的上限,在共享服务器上降低它来制造失败会影响该实例上的所有其他连接。为单个应用程序再现连接上限的一种更有针对性的方法,也是云 MySQL 提供商正是出于这个原因而使用的方法,是在账户本身上设置 MAX_USER_CONNECTIONS:
在反模式服务器运行、且 serverless_app 被限制为 15 个连接的情况下,持续 5 秒的 30 个并发请求突发(使用 autocannon)产生了以下结果:
在突发期间,每 150ms 用 SELECT COUNT(*) FROM information_schema.processlist WHERE user = 'serverless_app' 采样 serverless_app 的活动连接数,显示该计数攀升到并超过了 15 个连接的上限(最高的几个样本为 15、15、16、17、17、17、17、25)。那 3614 个非 2xx 响应就是触及该上限的结果。上面的处理程序捕获错误并在每个 503 的响应体中返回它,因此失败的响应携带的是这个:
这一切都不是 MAX_USER_CONNECTIONS 特有的。一台完全没有按用户限制的服务器会显示同样攀升的计数,只不过是针对 max_connections,并在达到服务器范围的上限时报出同样的错误,只是名称不同(ERROR 1040 (08004): Too many connections)。按用户的上限使得这个问题可以再现,而不会干扰同一服务器上运行的任何其他东西。

修复方法:在处理程序之外只创建一次连接池

修复方法不是停止使用连接池。而是确保连接池只在模块加载时创建一次,而不是在处理每个请求的函数内部创建:
src/db/index.ts
src/index.ts
db/index.ts 的顶层 mysql.createPool() 调用只在模块首次被导入时运行一次。在长期运行的 Node 服务器中,这意味着在进程启动时运行一次。在提供商为后续请求重用执行环境、无需冷启动的无服务器运行时上,已导入的模块仍在内存中,因此第一次调用创建的连接池会被重用而不是重新创建。只有真正的冷启动(从头重新加载模块)才会打开新的连接池。 对这个版本运行同样的 30 并发、5 秒突发,serverless_app 仍然被限制为 15 个连接:
完全没有非 2xx 响应。在这次突发期间,对同一按用户连接数的采样在每一个样本中都稳定地保持在恰好 10,也就是连接池自身的 connectionLimit。无论有多少并发请求到达,连接池向 MySQL 请求的连接数从未超过它被配置保持打开的数量。在同样的 5 秒窗口内,总吞吐量也大约高出三倍(77,000 个请求对 25,000 个)。这个差距的一部分来自连接池版本在每个请求上省去了完整的 TCP 握手和身份验证往返;另一部分则是因为反模式版本的 25,000 个请求中,有许多是在触及连接上限之后快速返回的 503 失败,而不是完成的查询,这在没有做真正工作的情况下抬高了它的请求计数。

超出单个实例

上面的修复解决了本指南能够再现的问题:单个运行实例内的并发请求。它没有解决第二个只在真实无服务器平台上出现的问题:在流量高峰下,许多独立的实例同时冷启动,各自运行这段代码的一个副本,因此各自打开自己的连接池。连接池是惰性打开连接的,只在并发请求真正需要时才打开,所以十个空闲实例不会仅仅因为存在就打开 100 个连接。但一旦每个实例都在处理哪怕是适度的、普通的流量,十个 connectionLimit 各为 10 的实例就可能累加到 100 个连接,而此时的工作负载看起来还远谈不上异常。本指南的 Node 进程无法再现这种情况,因为它是一个进程,而不是多个。 有两种方法可以解决这个问题,两者都不能替代上面的修复;它们是叠加的:
  • 为每个实例设置小得多的 connectionLimit,通常是 1 或 2 而不是 10,因为在大多数无服务器平台上,每个并发运行的实例一次只处理少量请求。
  • 在 MySQL 前面放置一个连接池代理,例如 ProxySQL,这样许多独立的无服务器实例就可以共享数量少得多的实际 MySQL 连接。有关 ProxySQL 如何融入这一方案,请参阅 MySQL 连接池。

常见问题

为什么不直接提高 max_connections?

这会提高上限但不会消除它,而且每个连接都在服务器上消耗真实的内存(有关每个连接的成本明细,请参阅 MySQL 连接池)。一个可以扩展到数百个并发实例的无服务器工作负载最终会达到任何固定的上限;修复方法是阻止每个实例打开超出其需要的连接,而不是提高这些实例被允许耗尽的数量。

除了 Hono,这也适用于 Express 吗?

是的。这种失败模式关乎连接池或连接相对于请求处理程序在哪里创建,而不关乎哪个 Web 框架路由了请求。在路由处理程序内部调用 mysql.createConnection() 的 Express 应用有完全相同的问题,而在模块作用域调用一次 mysql.createPool() 则是完全相同的修复。

mysql2 的内置连接池够用吗,还是我需要 ProxySQL 之类的东西?

对于单个长期运行的服务器,mysql2 的连接池本身就够用;这正是 MySQL 连接池 所介绍的内容。在无服务器平台上,本指南中的模块级连接池模式可以防止一个实例打开超过其 connectionLimit 的连接,但它无法在多个并发运行的独立实例之间进行协调。像 ProxySQL 这样的代理才能跨实例协调。

为什么修复后版本的连接数恰好停在 10,而不是攀升到与测试并发数相符的 30?

因为连接池设置了 waitForConnections: true 且 connectionLimit 为 10。一旦 10 个连接都被取出,第十一个并发请求会等待某个连接归还到连接池,而不是打开新连接。请求会短暂排队,而不是让连接池无限增长。

故障排除

另请参阅