本地运行 LLM 以满足 HIPAA 和 GDPR 合规

如果患者记录或欧盟个人数据接触到你的 AI,那么模型在哪里运行与它如何回答同样重要。本文介绍本地或自托管的 LLM 在 2026 年如何改变你的合规态势、监管机构真正要求的证据,以及自托管不会替你完成的工作。

阅读约 5 分钟7 个章节2026年6月22日

作者

Kostadin Stamboliev

创始人兼 Imaginator

Pineido 创始人兼 Imaginator。从事 IT 咨询、应用与网站开发、技术 SEO 以及 AI 与自动化。以 30 天冲刺交付生产代码,范围固定,责任明确。

领英

为什么"模型在哪里运行"如今是一个合规问题

当你向托管的 AI API 发送提示词时,你在每次请求中都在做一个数据处理决策。一份临床摘要、一张带有客户姓名的支持工单、一条人力资源备注:所有这些在抵达外部端点的那一刻就离开了你的边界。根据 HIPAA,任何接收、处理或存储受保护健康信息(PHI)的服务都需要一份商业伙伴协议(BAA),而哪怕只是把一个患者姓名发送到未覆盖的 API 也可能构成违规。根据 GDPR,包含姓名、电子邮件或健康细节的提示词就是一次处理事件,如果它落在美国托管的端点上,那也是一次受第五章管辖的跨境传输。在你控制的硬件上运行模型同时瓦解了这两个问题。没有第三方可共享数据,也没有出站流量需要检查,因为推理发生在你自己的网络内部。这正是本地 LLM 对受监管工作的核心吸引力:你把问题从"我们能否信任这家供应商处理这些数据"变成了"数据从未离开"。

本地托管实际解决了什么(以及没有解决什么)

对边界要诚实。自托管消除了两类具体且高价值的风险。第一,第三方处理者关系:模型本身不需要 BAA,因为不存在商业伙伴。第二,国际传输:如果 GPU 在你的机架里或在你于本地区运营的专用服务器上,那么 Schrems II 和美国《云法案》的暴露风险基本消失,因为不存在可被强制的外国控制者。本地托管没有解决的,是模型下游的一切。你仍然需要 GDPR 下处理的合法依据、一份记录在案的风险评估(针对欧盟高风险处理的 DPIA)、数据最小化、保留与删除策略、数据主体权利处理、违规程序以及安全控制。正如 2026 年的一份指南直言不讳地说:本地部署消除了传输风险,但它是必要的,而非充分的。它消除了未通过审计的最简单途径;它并没有消除工作量。

审计日志才是交付物,而非模型

监管机构不会要求查看你的模型权重。他们会问谁在何时、为何访问了什么。HIPAA 的审计控制和最小必要原则、GDPR 的问责原则,以及欧盟 AI 法案的日志要求,全都汇聚到同一件产物上:一份完整、可防篡改的活动记录。对于本地 LLM 而言,这意味着记录访问事件而不记录敏感载荷。首要规则是,你的日志应记录"用户 X 于 14:02 查询了记录 Y",而绝不是"史密斯医生查看了约翰·多伊的 HIV 结果"。日志文件中的 PHI 和个人数据是最常见且危害最大的违规来源之一,正是因为日志会被复制、传送到可观测性工具,并被保留远超任何人预期的时长。把日志构建为既能证明控制、又不会变成你正试图保护的数据的第二份副本:事件类型、操作者、资源标识符、时间戳、结果以及一个请求 ID,以仅追加方式存储并限制访问。

把模型输出也视为受监管数据

任何 LLM(无论本地还是托管)都有一个微妙的陷阱:输出也是一条记录。如果你的检索设置把患者的年龄、诊断和机构名称拉入上下文窗口,而模型回吐其中某种组合,那么这个回复就是 HIPAA 敏感记录,即便它是被组装而非被复制出来的。同样的逻辑适用于 GDPR 个人数据:被推断或重新组合的细节仍然是个人数据。因此,你的应用程序的输出处理、存储和显示逻辑必须以对待源记录同样的谨慎来对待生成的文本。在实践中,这意味着限定检索能呈现的内容,尽可能把原始标识符排除在上下文窗口之外(改为暴露代码、聚合值和按任务限定的特征),并对存储的输出施加与底层数据库相同的访问控制。本地托管把整个这条回路保留在你的边界之内,这正是它对特殊类别数据而言是最强态势的原因。

叠加在 GDPR 之上的欧盟 AI 法案层

GDPR 管辖个人数据。欧盟 AI 法案管辖 AI 系统行为,而在 2026 年,时间表终于在落定。被禁止的做法自 2025 年 2 月起即可执行,通用 AI 模型义务于 2025 年 8 月生效。今年的重大转变是数字综合法案(Digital Omnibus),这是在 2026 年 5 月达成的一项临时协议,把附件 III 的高风险义务从 2026 年 8 月推迟到 2027 年 12 月,更广泛的透明度义务则于 2026 年 12 月到来。把 2027 年 12 月当作你对高风险系统(例如用于招聘或信用评分的系统)的规划锚点,同时在 2026 年晚些时候确认最终通过,因为在撰写本文时该推迟仍是一项临时的政治协议。对于高风险系统,该法案要求的正是良好工程本就想要的那些构件:数据治理、技术文档、记录保存与日志、人工监督,以及准确性与稳健性。一个具备强审计日志和人在回路审查步骤的本地部署已经基本到位了。这些都不是法律意见;请就你的具体部署向有资质的数据保护专业人士确认范围和日期。

一个能产出证据的参考架构

2026 年一个站得住脚的本地 LLM 设置看起来是这样的。推理在你控制的硬件上运行:单块 80 GB GPU 以 4 位量化为小团队从容服务一个 70B 级别的开放权重模型,而开放权重生态系统(Llama、Mistral、Qwen 以及采用 Apache 许可的 GPT-OSS 家族)如今已可投入生产,所以你不需要训练任何东西。在开发、边缘和气隙试点中使用 Ollama,因为它以单个二进制文件安装,模型文件可装在一支 U 盘里随身携带;当并发超过个位数用户时,升级到 vLLM 用于多用户生产服务。用严格的出站控制(使其无法回传)、细粒度的基于角色的访问、静态和传输中的加密、不可篡改的审计日志,以及对任何影响患者或个人权利的输出进行人工审查,来包裹这个模型。把原始 PHI 和个人数据保留在你自己的系统内,只把受治理的、按任务限定的数据暴露给上下文窗口。架构的目的不只是做到私密;而是让合规的证据从正常运营中自然产出。

何时本地是正确选择,以及 Pineido 如何提供帮助

当你处理特殊类别的数据(健康、生物识别,或 GDPR 第 9 条涉及的任何数据)、无法接受跨境传输风险,或物理隔离环境是硬性要求时,本地是最有力的答案。诚实的权衡在运维方面:自托管需要真正的 DevOps 能力,来维护 GPU、更新模型和监控合规,而托管 API 的价格从 2025 年到 2026 年大幅下降,所以请测算你的 token 用量和盈亏平衡点,而不是想当然。如果你想要自主权,又不想自己搭起整套技术栈,这正是我们要填补的空缺。Pineido 提供范围单独界定的本地 AI 部署服务。访问控制、日志、网络限制和运维流程,必须针对具体的工作流程来规定并测试。Pineido Studio 是另一款实体 U 盘产品;它不含合规实施或认证。对于希望长期掌控架构的团队,兼职 CTO 服务能在 AI 法案的期限临近时,让合规状况保持最新。

准备好交付了吗?

告诉我们您卡在哪里。我们会进行评估,并在一个工作日内给出有针对性的建议。

每周获取运营洞见

加入服务型企业的运营者,每周收到一条关于运营、自动化和增长的可执行洞见。

正在确认您是真人,稍后即可发送。

绝无垃圾邮件,可随时退订。

订阅成功!请留意收件箱中的下一期内容。

常见问题

本地运行 LLM 会自动让我们符合 HIPAA 吗?

不会。本地托管消除了与模型提供商签订 BAA 的需要,因为没有第三方接收数据,这是一项重大优势。但 HIPAA 合规仍然取决于你自己的控制措施:记录访问而不记录 PHI 的审计日志、最小必要访问、加密、违规程序,以及与流程中任何接触 PHI 的其他服务签订的 BAA。本地托管让证据的产出容易得多;它并不会让控制措施变得可有可无。

对于 GDPR,自托管模型是否优于欧盟区域的云 API?

对于健康信息等特殊类别数据,大多数数据保护官仍然推荐自托管,因为它同时消除了第三方处理者关系和跨境传输问题,包括残留的美国《云法案》暴露风险。对于普通的 B2B 工作负载,欧盟区域的云 LLM 在具备强有力的数据处理协议和一份完成的 DPIA 后是可以站得住脚的。决定性因素是数据敏感度,以及你能接受多少传输风险。

监管机构期望什么样的审计日志?

他们想要一份完整、可防篡改的记录,说明谁在何时访问了什么、结果如何,以仅追加方式存储并限制访问。关键纪律是记录事件而不记录敏感载荷:记下某用户在某个特定时间查询了某条特定记录,而不是那条记录的内容。日志文件中的 PHI 或个人数据是一种常见且严重的违规来源,所以日志应当证明控制,而不变成受保护数据的第二份副本。

我们在 2026 年应围绕哪些欧盟 AI 法案截止日期进行规划?

被禁止的做法自 2025 年 2 月起适用,通用 AI 模型义务自 2025 年 8 月起适用。根据 2026 年 5 月达成的数字综合法案协议,附件 III 的高风险义务被推迟到 2027 年 12 月,更广泛的透明度义务于 2026 年 12 月到来。为高风险系统按 2027 年 12 月进行规划,同时在 2026 年晚些时候确认最终通过,因为该推迟是临时的。请把这当作规划指引,而非法律意见。

我们自托管需要哪种开放权重模型和硬件?

开放权重生态系统已经成熟,所以你不需要训练模型。单块 80 GB GPU 以 4 位量化为小团队从容服务一个 70B 级别的模型,而 24 GB 对更小的模型来说是一个实用的入门点。在开发和气隙试点中使用 Ollama,然后用 vLLM 进行多用户生产服务。先把你的 token 量与盈亏平衡点对比建模,因为托管 API 价格从 2025 年到 2026 年大幅下跌。

Pineido 能为我们搭建一个合规的本地 LLM 吗?

实体U盘,利用您的电脑运行本地AI。聊天、编程和文档研究。下载并配置模型后可离线推理。 Pineido帮助选择和部署本地语言、代码、视觉、图像、语音、音频、视频及文档搜索模型。我们根据实际任务评估硬件、运行环境和输出。定制部署服务单独报价,不包含在Pineido Studio U盘的价格中。 Pineido帮助选择和部署本地语言、代码、视觉、图像、语音、音频、视频及文档搜索模型。我们根据实际任务评估硬件、运行环境和输出。定制部署服务单独报价,不包含在Pineido Studio U盘的价格中。