InfoQ研究了 50 篇论文后，他发现 AI 领域的某些进步其实就是炒作( 二 )

其他主要算法的进步似乎也经受住了时间的考验。 1997 年，一种被称为长短时记忆（LSTM）的架构在语言翻译方面取得了重大突破。在经过适当的训练后，LSTM 的性能可以与 20 年后开发的更先进的架构相媲美。另一个机器学习的突破出现在 2014 年的生成对抗网络（GAN）中，举例来说，它可以将网络以生成 - 判别循环的方式进行配对，以提高它们生成图像的能力。据 2018 年的一篇论文报道，只要计算能力足够，原始的 GAN 方法就可以与后续几年的方法相媲美。
Kolter 说，与调整现有算法相比，研究人员更愿意去创造一种新的算法，并对其进行调整，直到达到最先进的水平。他指出，调整现有算法可能显得不那么新颖，使得“发表论文的难度大大增加” 。
Guttag 说，算法的发明者不希望与他人的算法进行彻底的性能比较，结果却发现他们的突破性进展并不是他们所认为的那样。 “比较太仔细是有风险的。 ”同时，那也是一项艰苦的工作：人工智能研究人员使用不同的数据集、调优方法、性能指标和基线。 “完全的横向对比是不现实的。 ”
一些夸大性能的说法可以归因于该领域的爆炸性增长，该领域的论文数量超过了有经验的审稿人。 Blalock 说， “这似乎是成长的烦恼” 。他敦促审稿人，要坚持与基准进行更好地比较，并表示，更好的工具将有所帮助。今年早些时候， Blalock 的合著者、麻省理工学院研究员 Jose Gonzalez Ortiz 发布了一款名为 ShrinkBench 的软件，它可以让人们更轻松地比较剪枝算法。
研究人员指出，即使新方法在本质上并不比旧方法更好，但他们所实现的调整也可以应用到之前的算法上。每隔一段时间，就会有一个新的算法出现。 “这几乎就像一个风险投资组合， ”Blalock 说， “其中一些业务并没有真正发挥作用，但有些却非常成功。 ”
【InfoQ研究了 50 篇论文后，他发现 AI 领域的某些进步其实就是炒作】参考阅读：
https://www.sciencemag.org/news/2020/05/eye-catching-advances-some-ai-fields-are-not-real
点个在看少个 bug