品品科技|迎来TCN!股市预测任务是时候拥抱新技术了,告别RNN( 六 )


文章图片
首先 , 搜索具备高影响或高流行性的事件元组;然后 , 回溯包含这些事件的新闻文本;最后 , 通过实体链接检索与事件元组相关的KG三元组 。 上图中 , 蓝色为事件元组 , 其中的实体与KG链接 。
列出的这些事件元组字面上并没有强相关 。 但是 , 链接KG后 , 它们可以彼此建立关联 , 并与英国脱欧和欧盟公投事件产生强相关 。 通过集成事件影响的解释 , 我们可以证明知识驱动事件是突变的常规来源 。
结论
循环网络在序列建模中的优秀效果可能大多是历史的痕迹 。 最近 , 扩张卷积和残差连接等架构元素的引入使得卷积架构不那么弱了 。 近期的学术研究表明 , 使用这些元素后 , 简单的卷积架构在不同序列建模任务上的效果优于循环架构 , 如LSTM 。 由于TCN的清晰性和简洁性 , ShaojieBai等人提出卷积网络应被看作序列建模的起点和强大工具 。
此外 , 本文介绍的TCN在股市趋势预测任务中的应用表明 , 集成新闻事件和知识图谱后 , TCN的性能大幅超过RNN 。
参考文献
[1]Hollis,T.,Viscardi,A.andYi,S.(2020).“AComparisonOfLstmsAndAttentionMechanismsForForecastingFinancialTimeSeries”.(https://arxiv.org/abs/1812.07699)
[2]QiuJ,WangB,ZhouC.(2020).“Forecastingstockpriceswithlong-shorttermmemoryneuralnetworkbasedonattentionmechanism”.(https://doi.org/10.1371/journal.pone.0227222)
[3]Bahdanau,Dzmitry,KyunghyunCho,andYoshuaBengio.(2020).“NeuralMachineTranslationByJointlyLearningToAlignAndTranslate”.(https://arxiv.org/abs/1409.0473)
[4]Bai,S.,Kolter,J.andKoltun,V.,2020.“AnEmpiricalEvaluationOfGenericConvolutionalAndRecurrentNetworksForSequenceModeling”.(https://arxiv.org/abs/1803.01271)
[6]Deng,S.,Zhang,N.,Zhang,W.,Chen,J.,Pan,J.andChen,H.,2019.“Knowledge-DrivenStockTrendPredictionandExplanationviaTemporalConvolutionalNetwork”.(https://dl.acm.org/doi/10.1145/3308560.3317701)
【品品科技|迎来TCN!股市预测任务是时候拥抱新技术了,告别RNN】[5]Hao,H.,Wang,Y.,Xia,Y.,Zhao,J.andShen,F.,2020.“TemporalConvolutionalAttention-BasedNetworkForSequenceModeling”.(https://arxiv.org/abs/2002.12530)