由 dawei PEAC主席、美国肾脏患者协会政策和全球事务主席Paul Conway博士说：“使用AI和机器学习技术的设备将通过提高患者治疗关键过程的效率来改变医疗服务。”
此外，Conway和其他人在小组讨论中也指出，人工智能和机器学习系统可能存在算法偏见和缺乏透明度——反过来，这可能会削弱患者对设备的信任。
为了应对新冠疫情，医疗设备的创新速度不断加快。设备和放射健康中心主任Jeff Shuren博士指出，已经有562款医疗设备获得了FDA的紧急使用授权。
Shuren说，患者的需求必须作为研发过程的一部分来考虑。
“我们继续鼓励医疗系统的所有成员努力理解患者的观点，并积极主动地将他们纳入医疗设备的开发、修改和评估中。患者是我们工作的灵感来源，尽管新冠疫情这一突发的公卫事件给全球带来了挑战。但是患者的呼声不会停止。如果说有什么不同的话，那就是更有理由让人们听到它。”
然而，飞利浦全球软件标准监管主管Pat Baird表示，获得患者信任还意味着，要正视稳定和准确的数据集的重要性。
Baird表示，“为了帮助患者，我们需要更加熟悉他们，了解他们的医疗条件、需求和愿望，更好地了解那些潜在的因素，这些因素往往在收集的数据中潜藏着一些趋势。”
Baird解释说：“在一个子集上训练的算法可能与另一个子集不相关。”
例如，如果一家医院需要为佛罗里达州退休社区的老年人提供医疗设备，一种识别缅因州青少年医疗需求的训练算法就不会有效——换言之，不是每个人都有同样的需求。
“数据中的这种偏差不是故意的，但是很难识别，”因此，Baird鼓励对偏见类型进行分类，并向公众公开，“偏差带来的后果，就是失去患者的信任。我们需要集思广益，开发出更好的人工智能产品。”
CDRH的首席医务官兼妇女健康主任Terri Cornelison上尉指出，人口统计鉴定在医学上具有重要意义，这是因为，人口统计包含了遗传和健康的社会决定因素等。
Cornelison说到，“科学告诉我们，这些不仅是明确的鉴别指标，而且实际上与临床相关。”
她指出，一项不识别患者性别的临床研究可能会掩盖不同染色体人群的差异化结果。在许多情况下，如果现有的训练数据不能代表不同类型的患者，那么AI就会学的越来越“窄”。
“更简单地说，如果数据不包括你，AI算法可能就不能代表你。AI正在改变我们的卫生系统和日常生活。尽管取得了这些重大成就，但是，大多数人都忽视了性别、年龄等因素对健康和疾病差异的影响。”
委员会还研究了“知情同意”如何在算法训练中发挥作用。
