透明
Laerdal 在客户产品中运用人工智能时秉持透明原则,并为用户、客户以及合作伙伴提供所需信息,具体如下:
- Samaritan™:Laerdal 所有经由高级数据处理或人工智能赋能的产品和服务,均配备 Samaritan™ 图标,以此告知用户。
- 系统概览:向合作方及利益相关者提供系统架构图,助力其深入洞察人工智能解决方案。
人的作用
Laerdal 深知人在人工智能开发与应用中的关键地位,并明确人肩负着最终责任:
- 人工智能辅助人:当人工智能解决方案助力人完成任务时,该解决方案必须按既定目标运行,其开发与测试团队需对质量负责。然而,使用该解决方案的人仍需对其基于该方案所做决策及行动后果负责。
- 人工智能自动化:若人工智能解决方案用于自动化任务且无人直接介入,需格外关注其质量与可能产生的意外后果。此外,必须定期开展审查与调整工作,因为人始终对人工智能解决方案负有最终责任。
- 人的能动性:在人工智能解决方案目的允许的范围内,Laerdal 尽可能为人提供合理的控制与参与选项,例如暂停、退出、撤销以及驳回该解决方案的某些方面。
测试以确保质量
Laerdal 的所有人工智能解决方案均依据意外事件发生的可能性及其后果的严重程度进行相应测试,具体包括:
- 软件测试:采用传统软件测试方法,涵盖自动化测试、内部人工测试,以及首次发布前和后续发布的回归测试。
- 用户测试:通过真实用户进行测试,以验证开发过程中的假设并避免潜在盲点。
- 测试训练模型:若人工智能解决方案中包含自定义机器学习模型训练,必须在测试数据集上运用机器学习特定评估方法进行质量检测,防止因过拟合产生误导性的积极性能指标。
- 事件预测:除测试过程中发现的问题外,还需对人工智能解决方案进行全面审查,识别最相关的潜在事件风险。
- 发布后改进:Laerdal 始终致力于产品持续改进,在产品最初发布后,积极收集用户反馈与测试结果,以推动产品优化升级。
运营治理
Laerdal 部署的所有影响用户的人工智能解决方案,必须进行严格监控与追溯,以确保稳健运营并实现快速故障排除,具体措施包括:
- 版本控制:必须能够精准识别每个组件的版本,确保数字解决方案处于有效版本控制之下。
- 日志记录:全程记录人工智能解决方案的活动日志,以便进行故障排除、调查意外事件并落实问责制。
- 监控:在运营期间持续监控人工智能解决方案,确保服务正常运行、按预期工作,并防止人工智能性能随时间下降。监控系统应包含警报功能,及时通知相关人员任何不期望或异常事件。
- 问责制:在人工智能驱动的产品和服务的开发、发布与运营过程中,Laerdal 明确各角色职责与问责机制,同时为用户提供反馈渠道及事件报告途径。
数据保护
所有面向客户的产品开发与运营,以及内部解决方案,均需以维护用户、客户及合作伙伴对 Laerdal 数据保护能力的信任为前提,具体要求如下:
- 数据安全服务:无论是面向客户还是内部使用的人工智能应用,都必须确保数据不被共享至不安全环境。使用外部服务时,必须遵循既定审批流程。
- 法律标准:Laerdal 的所有人工智能应用必须严格遵守相关法规与标准,具体可参见 “合规指南” 子部分。
技术供应商
Laerdal 与不同技术供应商合作开发人工智能解决方案,涵盖但不限于主要云服务提供商。对于所有技术供应商,Laerdal 承诺确保以下事项:
- 采购:依据公司现有流程对技术供应商进行采购,全面评估软件及供应商资质。
- 法律和标准:Laerdal 的所有人工智能应用必须严格遵守相关法规与标准,具体可参见 “合规指南” 子部分。