实时时间序列信息进

[rochona]

FSNet 简介
以下是我们的 FSNet 框架的一些主要特性和贡献：

动态预测：可以处理流数据并可以根据行预测
适应变化和重复模式：增强标准深度神经网络的快速适应能力，同时处理时间序列中的突变模式和重复模式
可以磨练其主干：通过动态平衡快速适应近期变化和检索相似的旧知识，改进 学习缓慢的主干。FSNet 通过两个互补组件之间的交互实现此机制：一个适配器，用于监控每层对损失的贡献；以及一个联想记忆，用于支持记忆、更新和回忆重复事件。
克服灾难性遗忘：深度神经网络在学习新信息时，往往会突然完全忘记之前学过的信息；而 FSNet 则不会出现这种情况。得益于联想记忆，FSNet 始终可以借鉴之前学过的知识。
持续学习的启发
我们方法中的一个关键见解/创新是将在线时间序列预测重新表述为一个在线、无任务、持续学习的问题。持续学习旨在平衡以下两个目标：

利用过去的知识来促进快速学习当前模式
维护和更新已经获得的知识。
我们发现这两个目标与上述深度模型在线预测的挑战高度契合，因此我们开发了一个高效的在线时间序列预测框架，该框架的灵感来自互补学习系统 (CLS) 理论，这是一个用于持续学习的神经科学框架。CLS 理论认为，得益于海马体和大脑皮层之间的相互作用，人类能够持续学习。此外，海马体与大脑 电报数据库 皮层相互作用，巩固、回忆和更新这些经验，形成更通用的表征，从而支持对新经验的泛化。

受到人类对 CLS 理论的这种快速和慢速学习的启发，FSNet 将其应用于机器学习——通过补充组件增强深度神经网络，以支持快速学习和适应在线时间序列预测。

深入了解：FSNet 的工作原理
关键要素：适配器+内存
我们的新框架采用了两个值得特别关注的重要元素：

每层适配器对连续样本之间的时间信息进行建模，这使得每个中间层能够在有限的数据样本的情况下更有效地调整自身，尤其是在发生概念漂移时
联想记忆存储在训练期间观察到的重要、重复的模式；当遇到重复事件时，适配器与其记忆交互以检索和更新先前的操作，以促进快速学习这些模式。
因此，适配器可以模拟时间模式的变化，以促进概念漂移的学习，而它与联想记忆的交互使模型能够快速记忆并继续改进重复模式的学习。