7点科技|「专利解密」举一反三！微软最新公开的趋势预测技术【嘉德点评】微软发明的基于神经网络的

【嘉德点评】微软发明的基于神经网络的趋势预测方法，这种方法通过获取与对象相关联的时间序列数据，利用递归神经网络来计算时间序列数据的向量，这种向量可以用于确定要分析对象与预定义标签相关联的概率，从而可以对于要分析的对象随时间变化的趋势进行预测。
集微网消息，随着大数据和人工智能行业的兴起，趋势预测在很多应用场景中都起着不可估量的作用，例如网店商家会根据库存量与可能的客户需求来存货、机场需要预测节假日游客量来安排航班以及进行应急部署，很多场景中都需要有趋势预测。

文章图片
在一些趋势预测应用中，与对象相关联的数据可能具有突发性和时间相关性。例如，与流行病学相关的新闻数据以及与大规模数据中心内的监控数据可能具有这样的特性，因为某种疾病的出现是突然的，而不具有像货物出售具有历史数据可以用于分析。
因此，基于这类数据来预测对象的趋势将变得非常困难。另外，随着网络的发展，信息的来源越来越丰富、数据的多样性越来越强，这也导致信息的质量和可靠性都难以确定。因此，在这样的大环境下，需要有新的、改进后的趋势预测方案。
为此，微软在18年6月29日申请了一项名为“基于神经网络的趋势预测”的发明专利（申请号：201810716540.8），申请人为微软技术许可有限责任公司。
根据目前该专利公开的资料，让我们一起来看看这项趋势预测方法的专利吧。

文章图片
【7点科技|「专利解密」举一反三！微软最新公开的趋势预测技术】如上图，为该专利中发明的计算设备的框图，其中包括处理器110、存储器120、存储设备130、通信单元140、输入设备150以及多个输出设备160 ，因为输出设备的形式可以有多种形式，例如显示器、扬声器、打印机等。
处理器就是在神经网络中用来进行计算的核心部件；存储器包括预测模块，可以根据执行文本而完成各种功能；存储器用来存储神经网络模型以及用于训练的数据。
而计算设备100完成的任务就是实现对对象的趋势预测，例如对象是增加、减小还是保持稳定：计算设备通过输入和对象相关联的时间序列数据，并根据时间序列数据进行建模，通过神经网络模型来预判对象的趋势，这种趋势可以通过为用户提供精准的信息判断。
完成这个任务的核心就在于这个神经网络模型，那该如何选用神经网络模型以及来完成模型的训练呢？

文章图片
如上图，为该专利中公开的神经网络架构，神经网络200包括递归神经网络(RNN)230 ，递归神经网络可以包括门控递归单元(GRU)、长短时记忆单元(LSTM)等递归神经网络单元。
在每一个时间步长，递归神经网络单元可以接收输入数据和上一时间步长的隐状态，并基于该时间步长的输入数据和上一时间步长的隐状态来确定该时间步长的隐状态。在单向递归神经网络中，通常将最后一个时间步长的隐状态作为输出提供给后续的网络。
神经网络的输入是与对象相关联的时间序列数据，例如新闻等文本形式的数据或者数字等其他形式的数据，然后通过嵌入层将新闻等数据项转换为相应的向量表示，以用于提供给神经网络来确定时间序列数据。
这样，递归神经网络就可以利用所获取的时间序列数据来进行趋势预测。例如，新闻向量表示为向量V ，判别网络可以基于向量V来确定对象与预定义的标签相关联的概率并作为输出，以便预测该对象随时间变化的趋势，标签指示对象随时间变化的趋势的类别，例如，增大、减小或保持稳定等。