时间序列模型SCINet模型(自定义项目)

阿里云国内75折 回扣 微信号:monov8
阿里云国际,腾讯云国际,低至75折。AWS 93折 免费开户实名账号 代冲值 优惠多多 微信号:monov8 飞机:@monov6

前言

  • 读完代码解析篇我们针对开源项目中的模型预测方法做一下介绍。Github源码下载地址
  • 下载数据集ETThPEMSTrafficSplar-EnergyElectricityExchange-Rate这几类公共数据集的任意一类就行。这里以ETTh数据集为例先在项目文件夹下新建datasets文件夹然后将数据集移至其中
  • 打开项目文件夹下run_ETTh.py文件只需要检查一下数据路径、名称和csv文件就行
# 数据名称
parser.add_argument('--data', type=str, required=False, default='ETTh1', choices=['ETTh1', 'ETTh2', 'ETTm1'], help='name of dataset')
# 数据路径
parser.add_argument('--root_path', type=str, default='./datasets/', help='root path of the data file')
# 数据文件
parser.add_argument('--data_path', type=str, default='ETTh1.csv', help='location of the data file')
  • 然后跑一下看看跑不跑的通注意一定要是在GPU环境下否则报错后面的自定义项目是建立在原代码能跑通的情况下。

自定义项目

参数设定修改

  • 首先将需要预测的数据集放入datasets文件夹中时间列列名必须为date。
  • 然后我们复制run_ETTh.py文件并粘贴在项目文件夹下重命名为run_power.py这个名字随便取别和已有文件重复就行。
  • 打开run_power.py文件修改开头库导入部分主要是最后一句要导入Exp_power
import argparse
import os
import torch
import numpy as np
from torch.utils.tensorboard import SummaryWriter
os.environ["KMP_DUPLICATE_LIB_OK"]="TRUE"
from experiments.exp_power import Exp_power
  • 修改数据载入部分包括数据名称、路径、文件、目标预测列、采样间隔我用的数据集是每1分钟收集一次数据所以参数设为t
# 数据名称
parser.add_argument('--data', type=str, required=False, default='power data', choices=['ETTh1', 'ETTh2', 'ETTm1'], help='name of dataset')
# 数据路径
parser.add_argument('--root_path', type=str, default='./datasets/', help='root path of the data file')
# 文件名
parser.add_argument('--data_path', type=str, default='power data.csv', help='location of the data file')
# 多变量预测
parser.add_argument('--features', type=str, default='M', choices=['S', 'M'], help='features S is univariate, M is multivariate')
# 目标列
parser.add_argument('--target', type=str, default='总有功功率kw', help='target feature')
# 采样间隔分钟
parser.add_argument('--freq', type=str, default='t', help='freq for time features encoding, options:[s:secondly, t:minutely, h:hourly, d:daily, b:business days, w:weekly, m:monthly], you can also use more detailed freq like 15min or 3h')
# 模型保存路径
parser.add_argument('--checkpoints', type=str, default='exp/ETT_checkpoints/', help='location of model checkpoints')
# 是否翻转时间序列
parser.add_argument('--inverse', type=bool, default =False, help='denorm the output data')
# 选择时间编码方式
parser.add_argument('--embed', type=str, default='timeF', help='time features encoding, options:[timeF, fixed, learned]')
  • 修改项目预测需求以及回视窗口等参数
parser.add_argument('--seq_len', type=int, default = 480, help='input sequence length of SCINet encoder, look back window')
parser.add_argument('--label_len', type=int, default = 288, help='start token length of Informer decoder')
parser.add_argument('--pred_len', type=int, default = 960, help='prediction sequence length, horizon')
  • 再修改特征数量设置data_parser变量在run_power.py文件中只需要更改这些。
data_parser = {'power data': {'data': 'power data.csv', 'T': '总有功功率kw', 'M': [5, 5, 5], 'S': [1, 1, 1], 'MS': [5, 5, 1]},}
  • 注意如果需要模型输出中间结果即预测值、真实值测试值等请将--save参数置为True
parser.add_argument('--save', type=bool, default = True, help='save the output results')
  • 同样的打开experiments文件夹复制exp_ETTh.py文件并粘贴在同目录中重命名为exp_power.py并将其中Exp_ETTh类修改为Exp_power
class Exp_power(Exp_Basic):

数据处理

  • 打开experiments文件夹下exp_power.py文件修改Exp_power类下_build_model函数in_dim函数修改为数据特征数我这里是5所以in_dim = 5
def _build_model(self):

        if self.args.features == 'S':
            in_dim = 1
        elif self.args.features == 'M':
            # 自定义项目需要修改
            in_dim = 5
        else:
            print('Error!')
  • 再跳转到_get_data函数修改data_dict
data_dict = {'power data': Dataset_Custom}
  • exp_power.py文件中只需要更改这些。到此为止项目修改工作结束这时跑一下run_power.py函数看看能否跑的通。

在kaggle上使用

  • 因为该源码只支持在GPU上运行若使用的设备没有GPU我们可以将项目文件搬到kaggle上进行首先还是要根据上述说明修改好项目文件然后打包成zip文件上传至kaggle数据集中。
  • 新建notebook文件并将其设置为P100GPU模式下
    在这里插入图片描述

导入包

  • 加入环境变量
import sys
if not '/kaggle/input/scinet-model-data' in sys.path:
    sys.path += ['/kaggle/input/scinet-model-data']
  • 导入必要包
import argparse
import os
import torch
import numpy as np
import optuna
from torch.utils.tensorboard import SummaryWriter
os.environ["KMP_DUPLICATE_LIB_OK"]="TRUE"
from experiments.exp_power import Exp_power

参数传导

args = argparse.ArgumentParser(description='SCINet on ETT dataset')

args.model = 'SCINet'

args.data = 'power data'
args.root_path = '/kaggle/input/scinet-model-data/datasets/'
args.data_path = 'power data.csv'
args.features ='M'
args.target = '总有功功率kw'
args.freq = 't'
args.checkpoints = 'exp/power_checkpoints/'
args.inverse = False
args.embed ='timeF'


### -------  device settings --------------
args.use_gpu = True
args.gpu = 0
args.use_multi_gpu = False
args.devices = '0'

### -------  input/output length settings --------------                                                                            
args.seq_len = 480
args.label_len = 288
args.pred_len = 960
args.concat_len = 0
args.single_step = 0
args.single_step_output_One = 0
args.lastWeight = 1.0

### -------  training settings --------------  
args.cols = False
args.num_workers = 0
args.itr = 0
args.train_epochs = 100
args.batch_size = 128
args.patience = 5
args.lr = 1e-4
args.loss = 'SmoothL1Loss'
args.optim = 'AdamW'
args.lradj = 1
args.use_amp = False
# 是否保存结果文件
args.save = True
args.model_name = 'SCINet'
args.resume = False
args.evaluate = False

### -------  model settings --------------  
args.hidden_size = 1.995
args.INN = 1
args.kernel = 7
args.dilation = 1
args.window_size = 480
args.dropout = 0.5
args.positionalEcoding = False
args.groups = 1
args.levels = 3
args.stacks = 2
args.num_decoder_layer = 1
args.RIN = False
args.decompose = False

检查GPU

args.use_gpu = True if torch.cuda.is_available() and args.use_gpu else False

if args.use_gpu and args.use_multi_gpu:
    args.devices = args.devices.replace(' ', '')
    device_ids = args.devices.split(',')
    args.device_ids = [int(id_) for id_ in device_ids]
    args.gpu = args.device_ids[0]

定义数据加载

data_parser = {'power data': {'data': 'power data.csv', 'T': '总有功功率kw', 'M': [5, 5, 5], 'S': [1, 1, 1], 'MS': [5, 5, 1]},}

if args.data in data_parser.keys():
    data_info = data_parser[args.data]
    args.data_path = data_info['data']
    args.target = data_info['T']
    args.enc_in, args.dec_in, args.c_out = data_info[args.features]

args.detail_freq = args.freq
args.freq = args.freq[-1:]

复现设置

torch.manual_seed(2023)  # reproducible
torch.cuda.manual_seed_all(2023)
torch.backends.cudnn.benchmark = False
torch.backends.cudnn.deterministic = True  # Can change it to False --> default: False
torch.backends.cudnn.enabled = True

训练模型

Exp = Exp_power

mae_ = []
maes_ = []
mse_ = []
mses_ = []

setting = '{}_levels {}_kernel {}_hidden {}'.format(args.model,args.levels,args.kernel,args.hidden_size)
exp = Exp(args)  # set experiments
exp.train(setting)
mae, maes, mse, mses = exp.test(setting)
print('{:s}:{:.4f},mae:{:.4f}'.format(setting, mse, mae))

模型参数调节

  • 根据论文较为重要的几个参数分别为--kernel--levels--stacks--hidden_size其次是--lr--dropout我的建议是先调节联合调节--kernel--levels--stacks参数然后再调节--lr--dropout
  • 参数调节范围建议
    • --kernel整型[1,7]
    • --levels整型[1,5]
    • --stacks整型[1,2]
    • --hidden_size浮点型[0.1,2]
  • 调参时可以选择rayoptuna等智能调参框架也可以选择写脚本进行网格搜索等等。但该模型时空复杂度并不低这里还是建议选用智能优化调参框架在时间尽可能短的情况下锁定局部最优解。

后记

  • 这里放一张模型训练完成后绘制的真实值与预测值间对比图
    请添加图片描述
阿里云国内75折 回扣 微信号:monov8
阿里云国际,腾讯云国际,低至75折。AWS 93折 免费开户实名账号 代冲值 优惠多多 微信号:monov8 飞机:@monov6