扩展 SaaS 应用:架构与性能
大多数 SaaS 应用崩溃并不是因为代码写得差,而是因为把你带到 100 个客户的架构无法承载 10,000 个客户。本指南按照你应当拉动的顺序,逐一讲解在扩展 SaaS 应用时真正能见效的那些杠杆。
性能和可扩展性不是同一个问题
把话说精确是值得的,因为团队会浪费几个月把这两者混为一谈。性能是指你的系统在当前拥有的资源下响应有多快。如果你缓存了一条查询、精简了载荷或加了索引,你提升的是性能。可扩展性是指当流量翻倍、再翻倍时,这种响应能力是否还能保持。一个服务可以很快却不可扩展,比如一个能在 2ms 内响应、却在每秒 100 个请求时垮掉的端点。真正重要的两个指标是延迟(每个请求的耗时,以 p50、p95、p99 来跟踪)和吞吐量(每秒处理的请求数)。性能调优有天花板。随着负载攀升,延迟会先缓慢上升,然后猛然飙升,过了那个点,只有真正的容量,即用得好的更多或更大的机器,才能让你撑下去。实用法则是:把性能优化到撞墙为止,然后才为扩展而设计。不要一上来就直接加基础设施,因为更多服务器上的慢代码不过是更贵的慢代码。
有意地选择多租户模型,而不是顺其自然
多租户是塑造下游一切的架构决策。有三种模式。池化(共享 schema)把所有租户放在同一批表里,用一列 tenant_id 区分,资源效率最高。桥接(每租户一个 schema)在一个数据库里给每个租户一个 schema,隔离更强,但跨 N 个 schema 的迁移更难。隔离(每租户一个数据库)给每个租户一个专属数据库,隔离最强,运行成本也最高。陷阱在于把它当作一个全局的单一选择。大多数成熟的 SaaS 团队在 2025 和 2026 年趋同采用的模式是混合式:标准层客户共享池化的基础设施,而有合规或重负载需求的企业账户则获得隔离的 schema 或数据库。这正好直接对应你的定价分层。一条严厉的警告:每租户一个数据库在 Postgres 或 MySQL 上无法扩展到数万个租户。你会遇到目录膨胀、DDL 瓶颈,以及一份可能威胁到生意的云账单。如果你预期会在分层之间迁移客户,请尽早构建迁移工具,因为事后补建会很痛苦。
在数据库里强制租户隔离,而不仅仅在应用层
在池化模型中,唯一挡在租户 A 和租户 B 数据之间的,只是一句 WHERE tenant_id = ? 子句,而指望每个开发者在每条查询上都记得加它,无异于一场等待发生的数据泄露。2025 年的标准做法是用 PostgreSQL 的行级安全(RLS)把这种强制下推到引擎里。一旦会话设定了租户上下文,数据库就会自动过滤每条查询,是靠构造保证而不是靠习惯。租户上下文通常作为 JWT 声明随会话令牌一起传递,而你的授权层应当在每个请求上、而不仅是在登录时,重新校验令牌中的租户与已认证用户相匹配。一个团队常忽略的细节是:隔离必须贯穿整个技术栈,而不只是主数据库。你的缓存、消息队列、文件存储和搜索索引也都需要按租户隔离。搜索的一个常见模式是按每租户一个索引的命名方案,让设置和生命周期规则保持分离。
在扩展数据库之前先优化它
数据库扩展是把顺序做对能带来最大回报的地方,因为数据库通常是限制因素,而应用服务器很容易横向扩展。低效的查询要为现实中很大一部分、往往是大多数瓶颈负责。先从剖析慢查询、并为你最常见的访问模式真正需要的地方加索引开始。恰当的索引能大幅缩短查询时间。揪出 ORM 里的 N+1 查询模式,即列出条目时每行触发一条额外查询,10 行时还行,10,000 行时就是灾难。使用连接池,这样你就不必为每个请求付出几十毫秒的建立开销。只有在查询干净之后,你才动用结构性变更:把一张大表分区成若干片,让引擎能裁掉无关的部分;为读密集负载使用读副本;当单个实例确实装不下数据时,最终再在多服务器间做分片。这个顺序很重要,因为每一步都会增加运维复杂度,而你只想把这份复杂度花在优化已经无路可走的地方。
缓存:你手里影响最大的杠杆
缓存是你能对数据库性能做出的最有效、也最少干扰的改动。一个配置得当的 Redis 或 Memcached 层能从内存中提供绝大多数读操作,往往是 70 到 90 个百分点,使它们根本不碰数据库。常见做法是旁路缓存(懒加载):应用先查缓存,未命中时从数据库读取并填充缓存。短生命周期的缓存很适合那些能容忍几秒陈旧的看板聚合数据。但缓存是一种权衡,不是免费的提速。失效失败时的陈旧数据,以及缓存宕机、流量蜂拥冲击数据库时的负载尖峰,都是真实的故障模式。要为它们做设计:合理的 TTL、有意为之的失效,以及缓存为空时的优雅行为。读副本天然与缓存配对,适合读密集型 SaaS,唯一的注意点是复制延迟。如果用户更新了资料并立即从副本读回,他可能看到旧值,所以要把写后读的路径路由到主库。
负载均衡、无状态服务和自动伸缩
只有当你的应用服务器是无状态的,横向扩展才奏效。当没有服务器在内存中保存会话状态时,任何服务器都能处理任何请求,负载均衡器就能自由分发流量,同时用健康检查掩盖故障。把会话和共享状态推到 Redis 或数据库里。有了无状态服务,自动伸缩就能让容量随负载调整。目标追踪(例如把 CPU 保持在 70 个百分点附近)和针对已知高峰的计划伸缩能覆盖大多数需求,更高级的负载则可用预测式和基于队列的伸缩。在 Kubernetes 上,这对应于用于 pod 数量的 Horizontal Pod Autoscaler、用于单 pod 资源的 Vertical Pod Autoscaler,以及用于节点的 Cluster Autoscaler。加上缩容和扩容的冷却时间,量级在几分钟,以防系统来回震荡。关键纪律是:当某个 SLO 被突破而服务仍有余量时,就扩展算力;但如果数据库才是瓶颈,先去用分区、副本和缓存。把应用服务器砸向一个数据库问题,只是把队列挪了个地方。
从监控做出扩展决策,而不是凭感觉
你无法管理你无法度量的东西,而上面每一个杠杆都依赖真实的遥测。把什么是好定义为 SLO:一个 p95 延迟目标、一个错误率上限、CPU 处于健康区间。跟踪那些支撑性信号,请求延迟和吞吐量、数据库查询性能、队列深度、CPU 和内存饱和度,用 Prometheus 和 Grafana 之类的工具做看板。然后借用 SRE 的错误预算理念:你的预算是 100 个百分点减去你的 SLO。一个 99.9 个百分点的月可用性目标,留出大约 43 分钟的允许停机。当预算健康时,自信地发布功能。当它在被烧光时,放慢有风险的变更,找出是什么在吃掉它。这把可靠性重新定位成产品和工程共享的一种资源,而不是一场争论。它也告诉你何时该扩展:在真实负载下对 SLO 的持续压力,就是该加容量的信号;而一个安静、预算充裕的系统,则是你还有余地去推进的信号。
常见问题
我应该在什么时候开始扩展我的 SaaS 应用?
当监控显示在真实负载下你的 SLO 持续承压时再扩展:p95 延迟缓慢上升、错误率在高峰期攀升,或队列开始积压。在那之前,把投入放在性能优化上,更快的查询、索引和缓存,因为它更便宜,也能换来真实的余量。优化已经用尽的一个明确信号是高峰时段出现 5xx 错误,这意味着该添加真正的容量,而不是再去挤出一点速度。
我该选择哪种多租户模型?
大多数团队应当从受行级安全保护的池化共享 schema 模型开始,因为它最具成本效益,并能一次性把功能交付给所有人。随着增长,转向混合模型:让标准客户保持池化,并为有合规或重负载需求的企业账户提供隔离的 schema 或专属数据库。避免把每租户一个数据库作为默认选择,因为它在 Postgres 或 MySQL 上无法扩展到数千个租户以上,还会抬高你的基础设施账单。
我应该先加缓存还是先加读副本?
先加缓存。Redis 或 Memcached 层是干扰最小的改动,能从内存中提供绝大多数读操作,立即为数据库卸下负载。读副本是面向读密集负载的下一步,但它们会引入复制延迟,所以要把写后读的路径路由到主库。只有在你剖析并修复了慢查询和缺失的索引之后,才同时做这两件事,因为缓存慢查询只是把问题藏起来了。
为什么数据库通常是扩展的瓶颈?
应用服务器几乎可以毫不费力地横向扩展,因为它们可以是无状态的,所以你只需在负载均衡器后面多加几台。数据库保存状态、协调写入,而且更难拆分,这就是它为何成为约束。修复的顺序是先优化(索引、查询调优、消除 N+1 模式),然后是缓存,然后是读副本,然后是分区,只有当单个实例确实应付不来时,才上分片或分布式 SQL。
为了扩展得好,我应该跟踪哪些指标?
把延迟按百分位(p50、p95、p99)来跟踪,而不是用平均值,再加上以每秒请求数计的吞吐量、错误率、数据库查询性能、队列深度,以及 CPU 和内存饱和度。把重要的那些变成带有错误预算(你被允许的不可靠程度)的 SLO,这样扩展和部署决策就能以数据为依据。这里高分辨率、实时的数据很重要,因为监控上的空隙会导致预算不准、告警漏掉。
我的服务必须是无状态的才能横向扩展吗?
实际上是的。如果某台服务器把会话或其他状态保存在它自己的内存里,请求就会被钉在特定的服务器上,负载均衡器就无法自由分发流量,也无法从故障节点中恢复。把会话数据和共享状态移到像 Redis 这样的缓存或数据库里,这样任何服务器都能处理任何请求。无状态设计是让自动伸缩和负载均衡发挥作用的前提条件。
每周获取运营洞见
加入服务型企业的运营者,每周收到一条关于运营、自动化和增长的可执行洞见。