担忧 | 十年前的CNS中,超过50%的实验无法被重复



担忧 | 十年前的CNS中,超过50%的实验无法被重复

文章插图
撰文 | 漓


【担忧 | 十年前的CNS中,超过50%的实验无法被重复】可重复性是科学研究中的一个重要特征 。尤其是涉及到临床癌症研究的相关研究,因为这些研究有可能会影响到诸如生物标记物、药物等方面的研发 。


2013年,开放科学中心(Center for Open Science)、诺赛克中心(Nosek’s center)、Science Exchange公司等共同发起了一项具有挑战性的科研项目—The Reproducibility Project: Cancer Biology(RP:CB) 。该项目的主要目的是重复来自顶级癌症研究实验室于2010-2012年发表在CNS(Cell、Nature、Science)期刊上的临床前癌症研究的文章 。


最初这一项目打算重复53篇CNS文章中的实验,但是由于原始文章中缺乏实验细节,比如试剂来源、统计代码等,且研究人员中无法与作者取得联系或者作者明确表示拒绝提供等,最终将53篇文章缩减到了23篇文章 。


RP:CB的研究人员将这23篇文章中的50个关键实验中的158条数据提取出来来进行重复 。这158条数据中,136条为阳性结果(positive result),22条无效结果(null result);117条为数据型结果,41条为图片型结果 。接下来,研究人员通过不同的标准评估这些结果的重复性,发现只有五篇论文的结果可以完全复制,其他重复产生的结果好坏参半,有些是负面的或不确定的(见下图) 。在112条数据中(研究人员只重复完成了158条中的112条,其他数据尚未完成),只有51条数据可以满足5个重复标准中的3个,即46%(编者注:如果考虑到被剔除的30篇文章,这一重复度又会有多低呢?) 。对于数据型结果,比如癌细胞增多或者肿瘤大小等,重复数据的中位数比原始数据的中位数小85%,且92%的重复数据要低于原始数据 。研究人员提到数据重复成功并不意味着原始文章中的发现或者理论正确,而复制失败也不否定原始文章中的发现,仍需要其他证据来进一步确认这些数据的可重复性 。


担忧 | 十年前的CNS中,超过50%的实验无法被重复

文章插图
23篇文章的重复结果


目前,RP:CB这一项目已花费150万美金,重复结果和相关文章从2014年陆续发表在了eLife上 。


担忧 | 十年前的CNS中,超过50%的实验无法被重复

文章插图


美国国立卫生院院外研究副主任Michael Lauer说到:这项研究非常有意义 。这些高水平文章中的低可重复性也不意外,因为那些引入注目和阳性结果的文章更容易发表 。同时这项研究也不意味着这所有研究都不可信 。


原文链接:
https://elifesciences.org/collections/9b1e83d1/reproducibility-project-cancer-biology