合成生物学中的数据冲突 2025.docx

1

合成生物学中的数据冲突

中国科学院上海营养与健康研究所

上海生命科学信息中心上海市生物工程学会2025年1月

合成生物学中的数据冲突合成生物学信息参考2025年1月（总期155期）

2

合成生物学研究中的数据冲突

编者按：数据科学在工程生物学中的应用日益广泛，但其伴随的风险也不容忽视。英国布里斯托尔大学的研究团队在Syntheticbiology(Oxford,England)杂志发表题为《合成生物学中的数据冲突》（Datahazardsinsyntheticbiology）的文章，文中提出了一种“数据冲突”（DataHazards）评估框架，旨在应对这些潜在风险。同时，文章通过两个合成生物学的案例分析，探讨了工程生物学研究活动中数据的问题和风险，并针对这些问题提出了有效的缓解措施与建议。

1.简介

合成生物学在近十年发展迅速，数据驱动的方法已深入生物设计领域。借助深度学习等技术，研究人员能基于大规模生物数据集，精准预测复杂生物系统的行为，并设计新的生物元件和线路。这些进展有望彻底改变生物技术，但也带来了诸多挑战和潜在风险。

首先，数据质量和可靠性是关键挑战。数据驱动模型的精准度性和有效性，很大程度上取决于基础数据的质量。然而，数据可能存在错误、偏差和不一致。基于不完整或有缺陷数据的模型很可能导致意外结果，例如生成不可预测的基因线路或合成生物体，甚至得出错误的生物学结论。其次，数据驱动的复杂性日益增加，这使得合成生物学中的可解释性和透明度问题愈发凸显。复杂模型和庞大的数据集（如大型神经网络或全细胞模型），让研究人员难以理解预测背后的基本原理，透明度的缺乏，也让验证结果和改进模型变得更加艰难。此外，数据驱动方法还面临潜在误用的风险。易于获取的数据科学工具，若被恶意使用，可能会开发出有害的生物制剂，用于生物恐怖袭击或破坏生态系统。合成生物学技术和知识的快速传播及开放的合作文化，也可能增加生物制剂意外（或故意）释放的风险，带来无法预料的后果。同时，许多模型的训练和预测，都需要消耗大量的计算资源和电力，对环境产生的影响不容忽视。

数据驱动方法在科学和技术领域的广泛应用，虽然推动了许多进展，但同时也带来了伦理上的挑战。这些挑战往往在事后看似可以避免。然而，尽管数据科学和人工智能（AI）从业者具备改善研究的正面影响的能力，将伦理纳入研究过

合成生物学中的数据冲突合成生物学信息参考2025年1月（总期155期）

3

程仍然很难。究其原因，主要在于缺乏激励和培训，且现有伦理框架要么模糊不清、难以操作，要么只走形式，未能发挥实效，导致伦理判断往往被外包给那些不了解研究本质的委员会。例如“AI盲点”等项目（）虽然致力于在AI开发中主动发现潜在的疏忽和有害后果，对提高AI研究的安全性至关重要，但其关注点主要集中在人类的影响上，而忽视了AI对环境和生态系统的潜在危害，尤其在应工程生物学领域，这一问题更加凸显。

在合成生物学领域，数据驱动方法为提高生物系统工程能力带来了巨大潜力，但也伴随着挑战、风险和伦理问题。本文提出了一个基于社区发展的评估框架——“数据冲突”（DataHazards），旨在更全面地识别和应对项目开发过程中潜藏的数据风险。尽管该框架具有广泛的适用性，但本文特别聚焦于其在合成生物学中的应用。通过结合两个具体的案例研究，展示了该框架如何应用于蛋白质设计和全细胞建模中，为合成生物学领域的负责任创新及数据科学应用所带来的挑战，提供了新的视角和思考路径。

2.数据危害的风险评估框架

2.1数据危害评估的社区框架

“数据冲突”（DataHazards）作为一个开源资源，采用知识共享署名（CC-BY）许可，为数据科学和AI从业者提供识别和缓解工作中相关风险的工具，如环境问题、滥用和算法偏见等。该资源基于不断发展的伦理风险词汇，并运用“冲突标签”（hazardlabels）来呈现（图1a），这些标签类似于化学标志，起到重要的警示作用。每个标签都包括图像、名称、描述、应用示例以及安全预防措施（表1），旨在促进跨学科的讨论和反思，并激发从业者采取相应的应对措施。这些危害标签适用于所有涉及数据、统计、算法、机器学习或AI的项目，已广泛应用于不同领域，如社交媒体中的自然语言处理、神经元中分子建模和医疗数据集的整合。通过扩展现有的安全框架，特别是对人