拓端tecdat|R語(yǔ)言基于遞歸神經(jīng)網(wǎng)絡(luò )RNN的溫度時(shí)間序列預測

lookback?—是輸入數據應該包括多少個(gè)時(shí)間步。

現在讓我們在溫度預測任務(wù)上嘗試相同的方法。

?

添加層并沒(méi)有很大的幫助，因此此時(shí)您可能會(huì )看到網(wǎng)絡(luò )容量增加帶來(lái)的收益遞減。

編寫(xiě)一個(gè)生成器函數，該函數將獲取當前的浮點(diǎn)數據數組，并生成來(lái)自最近的過(guò)去以及將來(lái)的目標溫度的成批數據。由于數據集中的樣本是高度冗余的（樣本?N?和樣本?N ?+ 1將具有大多數相同的時(shí)間步長(cháng)），因此顯式分配每個(gè)樣本會(huì )很浪費。相反，您將使用原始數據即時(shí)生成樣本。

?

?

為了在Keras中將遞歸層堆疊在一起，所有中間層都應返回其完整的輸出序列（3D張量），而不是最后一個(gè)時(shí)間步的輸出。

min_index?和?max_index?—data?數組中的索引，?用于定義從中提取時(shí)間步長(cháng)。保留一部分數據用于驗證和另一部分用于測試。

嘗試在循環(huán)層的頂部使用更大的緊密連接的回歸變量：即，更大的密集層，甚至一疊密集層。

ggplot(data, aes(x = 1:nrow(data), y = `degC`)) + geom_line()

通常，通過(guò)增加層中的單元數或添加更多層來(lái)增加網(wǎng)絡(luò )容量。遞歸層堆疊是構建功能更強大的遞歸網(wǎng)絡(luò )的經(jīng)典方法：例如，當前為Google Translate算法提供動(dòng)力的是七個(gè)大型LSTM層的堆疊。

更進(jìn)一步

為了提高溫度預測問(wèn)題的性能，您可以嘗試其他許多方法：

delay?—目標應該在未來(lái)多少步。

雙向RNN利用此思想來(lái)改進(jìn)按時(shí)間順序排列的RNN的性能。

model_sequential() %>% bidirectional( layer_gru(units = 32), input_shape = list(NULL, dim(data)[[-1]]) model %>% fit_generator( train_gen, steps_per_epoch = 500, epochs = 40,

這和常規的layer_gru一樣好?。原因很容易理解：所有預測能力都必須來(lái)自網(wǎng)絡(luò )中按時(shí)間順序排列的部分，因為眾所周知，按時(shí)間順序排列的部分在此任務(wù)上的表現嚴重不足，在這種情況下，最近的樣本比過(guò)去的樣本重要得多。

Yarin Gal使用Keras進(jìn)行了研究，并幫助將這種模型直接構建到Keras循環(huán)層中。Keras中的每個(gè)循環(huán)圖層都有兩個(gè)與dropout相關(guān)的參數：? dropout，一個(gè)浮點(diǎn)數，用于指定圖層輸入單元的dropout率；以及?recurrent_dropout，用于指定循環(huán)單元的dropout率。由于使用丟失dropout進(jìn)行正則化的網(wǎng)絡(luò )始終需要更長(cháng)的時(shí)間才能完全收斂，因此您需要兩倍的時(shí)間訓練網(wǎng)絡(luò )。

steps = 6?—觀(guān)測將在每小時(shí)一個(gè)數據點(diǎn)進(jìn)行采樣。

首先，您需要做兩件事：

lookback = 1440?—觀(guān)察將追溯到10天。

基準模型