美国食品药品监督管理局 (FDA) 最近发布了两份关于人工智能 (AI) 和机器学习 (ML) 在药物和生物制剂开发以及这些药品生产中的应用的讨论文件。由于这些潜在的长期监管范式的快速发展性质，药物和生物制品公司以及人工智能/机器学习技术开发人员将希望通过公开评论、研讨会和私人会议与 FDA 进行战略性接触，以确保明确与药物开发和制造过程相关的合规义务。
这些新监管结构的重要性不可低估；事实上，在 FDA Voices 宣布发表这两篇讨论论文的文章中，CDER 主任 Patrizia Cavazzoni M.D. 写道，人工智能和机器学习「不再是未来概念；它们现在已成为我们生活和工作方式的一部分。」 FDA 将在 8 月 9 日之前就这些讨论文件征求意见，并将依靠行业参与来制定其人工智能监管框架。
FDA 的讨论文件和最近与 AI/ML 相关的活动的一个关键要点是，该机构认识到推进药物开发、制造和合规性的巨大潜在好处，并且愿意调整当前的监管范式，为基于风险的方法腾出空间 。然而，FDA 也存在一些担忧，例如人工智能模型的透明度以及确保持续学习方法生成的数据的安全性和完整性；因此，该机构渴望获得利益相关者的意见，以了解 AI/ML 在生命科学行业的无所存在，以评估潜在的风险和收益。
近几个月来，FDA 一直在提高与利益相关者就其在药物开发和制造中不断发展的人工智能监管范式的参与程度，并发布了两份关于「在药物和生物产品开发中使用人工智能和机器学习」（2023 年 5 月）和「药品生产中的人工智能」（2023 年 2 月）的讨论文件，后者来自 FDA 药物评估和研究中心 (CDER)，作为其监管先进制造评估框架 (FRAME) 计划的一部分。
人工智能在药物开发中的应用
FDA 最新的药物开发中的人工智能讨论文件包括涵盖药物开发中人工智能和机器学习的当前前景、使用人工智能和机器学习的考虑因素以及 FDA 和行业之间的「参与和合作」的章节，该机构强调其打算发布讨论文件「作为多方面方法的一部分，以加强相互学习，并与 FDA 利益相关者就这一主题建立对话。」在一篇「FDA 之声」的帖子中，Cavazzoni博士强调，该机构正在寻求各种利益相关者的参与，包括「制药公司、伦理学家、学术界、患者和患者团体，以及全球相应的监管机构和其他当局」。
在讨论文件中，FDA 提倡在药物开发中使用人工智能和机器学习：
- 药物发现，包括靶点识别、选择和优先排序；以及化合物筛选和设计；
- 非临床研究，包括在动物身上进行的药代动力学、药效学和毒理学研究；在动物模型中进行探索性体外和体内机制研究；器官芯片和多器官芯片系统；和细胞检测平台；
- 临床研究，包括患者招募；试验参与者的选择和分层；剂量/给药方案优化；监测/提高试验设计的依从性；参与者保留；临床试验地点选择；以及临床试验数据的收集、管理和分析;
- 上市后安全监测，包括案件处理、评估和提交；
- 先进制药制造，包括工艺设计优化、先进过程控制、智能监控维护、趋势监控。
药品生产中的人工智能
随着 FDA 建立监管范式，将其基于风险的监管框架应用于药品制造中人工智能技术的使用，FDA 发布了第二份讨论文件，涉及公众反馈有价值的领域。该机构一直在制定将人工智能纳入医疗器械监管框架的计划，并越来越关注人工智能模型在药品制造中的应用。在第二份讨论文件中，FDA 要求提供与所使用的基于人工智能的模型类型、CGMP 环境中的人工智能技术要素、验证人工智能模型的实践、适当的数据管理等相关的额外反馈。
今年 3 月，CDER 和 CBER 联合发布了第一份关于将人工智能和先进制造技术纳入药品制造监管框架的讨论文件。FDA 承认存在「有限的行业标准」，并强调了与药品制造中人工智能使用相关的以下领域的担忧：
- 云应用程序可能会影响对药品制造数据和记录的监督，这可能会在检查过程中带来挑战，以确保第三方人工智能软件的更新具有适当的数据安全保障措施。
- 物联网 (IOT) 可能会增加药品制造过程中生成的数据量，从而影响现有的数据管理实践。FDA 表示，这意味着行业可能需要进一步明确所生成数据的监管合规性，以及「数据采样率、数据压缩或其他数据管理方法，以确保维持药品制造过程的准确记录」。
- 用于过程控制和支持发布测试的人工智能模型的开发和验证标准可能需要 FDA 的额外澄清。
- 由于确定人工智能模型何时可以被视为流程的既定条件的问题，以及与确定监管通知标准相关的挑战，不断学习适应实时数据的人工智能系统可能会挑战监管评估和监督。作为产品生命周期中模型维护的一部分，对模型进行更改。
FDA 收到了利益相关者针对该机构第一份讨论文件和反馈请求的大量广泛评论。总之，利益相关者详细介绍了人工智能技术的当前和预期用途，包括化学、制造和控制 (CMC) 开发和规模化、先进过程控制以实现对制造过程的动态控制、药品制造自主系统、生产规划、资产 管理、质量保证、稳定性和保质期监控、文件管理和供应链优化。
利益相关者评论的其他要点包括：
- 美国国家生物制药创新研究所 (NIIMBL) 写道，「区分使用人工智能来定义操作空间的应用程序是关键，例如，‘这就是流程正确运行时的样子’和使用人工智能来定义操作空间的应用程序。」 AI 正在用于操作空间内的控制，例如，「这批产品是由正确运行的流程生产的。」NIIMBL 似乎在强调 CGMP 是否适用于 AI 在使用环境中的门槛问题。例如，如果人工智能用于资产管理决策，我们预计 CGMP 要求不会适用。
- 互联健康倡议 (CHI) 鼓励与国际协调委员会 (ICH) 等其他制定人工智能相关文件的组织协调一致，以帮助促进更广泛的采用，并避免在全球环境中给制造商带来额外的复杂性。
- 利益相关者也对行业指导感兴趣。生物技术创新组织 (BIO) 表示，现有的 CGMP 指南需要更新，澄清该指南是否适用于人工智能模型，并邀请就人工智能和机器学习的预期用途、可接受性和变更管理提供额外的指南。
- 无障碍药物协会 (AAM) 表示，该机构迫切需要「确定人工智能最有可能在制造业中做出最大贡献的领域，并重点澄清适用于这些领域人工智能的监管要求。」 AAM 表示，投资新技术的好处必须具有引人注目的优势，才能促进仿制药行业的采用。
在药物开发讨论文件中的人工智能中，FDA 提供了有关已部署或有潜力支持 CGMP 制造的人工智能应用程序的详细信息，并确定了在药物制造生命周期（从设计到商业生产）中可以应用人工智能/机器学习的四个领域：（ 1）流程设计的优化（例如数字孪生方法）；(2)实施先进的过程控制；(3)智能监控与维护；(4) 趋势活动，以分析与制造相关的偏差趋势，对问题领域进行聚类，并确定主动持续改进领域的优先顺序。
总体标准和实践
FDA 承认该机构需要评估在使用环境中使用人工智能/机器学习是否会带来增加或独特的风险，例如由于系统的潜在复杂性导致可解释性有限，或者由于专有原因可能不完全透明，以及潜在的风险 放大错误和先前存在的偏见。
FDA 在讨论文件中表示，根据总问责办公室人工智能问责框架的总体原则，其目标是与利益相关者展开讨论，并就药物开发中人工智能/机器学习的三个关键领域征求反馈：
- 以人为本的治理、问责制和透明度；
- 数据的质量、可靠性和代表性；
- 模型开发、性能、监控和验证。
为了促进以人为本的治理，FDA 敦促制定考虑使用环境的风险管理计划，以识别和减轻药物开发中与人工智能相关的风险。FDA 邀请业界就几个问题发表意见，包括：
- 人工智能/机器学习在药物开发中的哪些用途需要额外的监管明确性？
- 在药物开发中使用人工智能/机器学习需要足够的透明度，以及哪些障碍阻碍了这种透明度？
- 当人工智能/机器学习用于药物开发时，如何纳入基于风险的、有意义的人类参与？
- 如何实现充分的可追溯性和可审核性？
- 如何对药物开发中人工智能/机器学习中预先指定的活动保持质量控制？
关于数据质量、可靠性和代表性问题，讨论论文重点介绍了 AI/ML 如何对用于训练、测试和验证的数据的属性或特征特别敏感。因此，FDA 邀请对数据相关问题发表评论，包括：
- 在药物开发中使用 AI/ML 时解决偏见、缺失数据和其他数据质量注意事项
- 确保数据隐私和安全
- 再现性和可复制性
第三，药物开发中的人工智能讨论文件强调了预先规范步骤的实践以及开发和评估模型标准的清晰记录的重要性。在 FDA 权衡 AI/ML 模型开发和性能风险时，它要求行业提供有关以下相关问题的反馈：
- 利益相关者正在使用的当前工具、流程、方法和最佳实践有哪些示例：记录开发和性能？选择模型类型和算法？选择验证和测量模型性能的方法？评估透明度和可解释性并提高模型透明度？选择开源 AI 软件进行 AI/ML 模型开发？
- 使用哪些实践和文档来通知和记录数据源选择以及纳入或排除标准？
- 利益相关者在什么使用环境中解决可解释性问题，以及您如何平衡性能和可解释性的考虑？
- 使用哪些方法来记录模型预测中的不确定性评估，以及如何传达不确定性？应制定哪些方法和标准来帮助支持不确定性评估？
该讨论文件还考虑了如何将人工智能/机器学习应用于现实世界数据 (RWD) 和数字健康技术 (DHT) 数据以支持药物开发 。
利益相关者参与 – 请求反馈
总而言之，FDA 最近在这一领域采取的一系列行动表明，该机构致力于通过向行业学习来帮助了解如何监管人工智能和机器学习来支持创新。
事实上，本月早些时候，FDA 专员 Robert Califf M.D. 在国家卫生委员会患者参与研讨会上发表讲话时承认，数字医疗工具的发展速度超过了 FDA 监管能力。Califf 博士引用了 FDA 如何「正在进行多个项目，以生成更多高质量、相关的数字健康数据，包括通过扩展现有数字健康数据的用途来促进高效、简化的随机对照试验和登记。」
CDER 正在就其药物开发中的人工智能讨论文件征求意见，截止时间为 8 月 9 日，并为政府计划了其他几个与利益相关者就人工智能/机器学习相关问题进行接触的机会，包括：
- CDER 的首次虚拟研讨会定于 2023 年 9 月 26 日至 27 日举行，主题是「药品制造中人工智能应用的监管框架」，该研讨会向任何对药品制造中人工智能技术感兴趣的人开放，专门旨在向专家学习。
- FDA 药品质量办公室 (OPQ) 的新兴技术计划 (ETP)：这是一个协作计划，行业代表可以与新兴技术团队成员会面，讨论、识别和解决有关新型药物开发和实施的潜在技术和监管问题 提交监管意见书之前的技术；它的存在是为了促进人工智能和机器学习等变革性新技术的良好治理。
- FDA 的「2023 年科学计算日」虚拟研讨会定于 2023 年 9 月 12 日至 13 日举行。
- FDA 的推进真实世界证据 (RWE) 计划旨在提高基于 RWE 的方法的质量和可接受性，以支持新的预期标签声明，并总体上促进基于 AI/ML 的医疗设备的研究。
- 新药创新科学技术方法 (ISTAND) 试点计划，旨在通过鼓励开发超出现有 DDT 资格计划范围但仍可能有益于药物开发的 DDT 来扩展药物开发工具 (DDT) 类型 ，包括 AI/ML 相关的 DDT。
FDA 为利益相关者提供的参与工具的数量代表了帮助对现有监管框架实施有意义的改变的重要机会。为了与 FDA 进行有效的合作，建议与监管专家和战略顾问密切合作，他们对 FDA 当前的监管范式和机构内决策流程有深入的了解，并且充分了解公司的目标和更广泛的行业阻力。
参考内容：https://www.engage.hoganlovells.com/knowledgeservices/viewContent.action?key=Ec8teaJ9VapWe2Sy8gPzAl7eOOGbnAEFKCLORG72fHz0%2BNbpi2jDfaB8lgiEyY1JAvAvaah9lF3dzoxprWhI6w%3D%3D&nav=FRbANEucS95NMLRN47z%2BeeOgEFCt8EGQ0qFfoEM4UR4%3D&emailtofriendview=true&freeviewlink=true
