国产秋霞理论久久久电影-婷婷色九月综合激情丁香-欧美在线观看乱妇视频-精品国avA久久久久久久-国产乱码精品一区二区三区亚洲人-欧美熟妇一区二区三区蜜桃视频

【機(jī)器學(xué)習(xí)基礎(chǔ)】不會(huì)時(shí)間序列預(yù)測(cè)?不要緊,大神來教你

共 10458字,需瀏覽 21分鐘

 ·

2020-09-07 13:45

作者:Leandro Rabelo
譯者:李潔
整理:Lemonbit
譯文出品:Python數(shù)據(jù)之道


「Python數(shù)據(jù)之道」導(dǎo)語
本文內(nèi)容較長(zhǎng),較為詳細(xì)的闡述了進(jìn)行時(shí)間序列預(yù)測(cè)的步驟,有些內(nèi)容可能暫時(shí)用不到或者看不懂,但不要緊,知道有這么一個(gè)概念,后續(xù)碰到的時(shí)候,繼續(xù)深入學(xué)習(xí)以及使用就可以。



一文弄懂時(shí)間序列預(yù)測(cè)的基本原理


Photo by Adrian Schwarz on Unsplash


我們被隨處可見的模式所包圍,人們可以注意到四季與天氣的關(guān)系模式,以交通量計(jì)算的交通高峰期的模式,你的心跳或者是股票市場(chǎng)和某些產(chǎn)品的銷售周期。
分析時(shí)間序列數(shù)據(jù)對(duì)于發(fā)現(xiàn)這些模式和預(yù)測(cè)未來非常有用。有幾種方法可以創(chuàng)建這類預(yù)測(cè),在本文中,我將介紹最基本且最傳統(tǒng)的方法概念。
所有代碼都是用 Python 編寫的,并且在 GitHub 上可以看到所有的信息。
https://nbviewer.jupyter.org/github/leandrovrabelo/tsmodels/blob/master/notebooks/english/Basic Principles for Time Series Forecasting.ipynb
那么讓我們開始談?wù)劮治?strong style="color: rgb(46, 46, 46);">時(shí)間序列的初始條件:


1

平穩(wěn)序列

平穩(wěn)時(shí)間序列是指統(tǒng)計(jì)特性,如均值、方差和自相關(guān)系數(shù),隨時(shí)間相對(duì)恒定的序列。因此,非平穩(wěn)序列是統(tǒng)計(jì)特性隨時(shí)間變化的序列。
在開始任何預(yù)測(cè)建模之前,都有必要驗(yàn)證這些統(tǒng)計(jì)屬性是否是常量,我將一一解釋下面的每個(gè)點(diǎn):
  • 常數(shù)均值

  • 常數(shù)方差

  • 自相關(guān)

常數(shù)均值

一個(gè)平穩(wěn)序列在時(shí)間上具有一個(gè)相對(duì)穩(wěn)定的均值,這個(gè)值沒有減少或者增加的趨勢(shì)。圍繞常數(shù)均值的小的變化,使我們更容易推測(cè)未來。在某些情況下,相對(duì)于平均值的變量比較小,使用它可以很好地預(yù)測(cè)未來。下圖顯示了變量與該常數(shù)平均值相對(duì)于時(shí)間變化的關(guān)系:


在這種情況下,如果序列不是平穩(wěn)的,對(duì)未來的預(yù)測(cè)將是無效的,因?yàn)槠骄抵車淖兞繒?huì)顯著偏離,如下圖所示:


在上圖中,我們可以明顯看到上升的趨勢(shì),均值正在逐漸上升。在這種情況下,如果使用均值進(jìn)行未來值的預(yù)測(cè),誤差將非常大,因?yàn)轭A(yù)測(cè)價(jià)格會(huì)總是低于實(shí)際價(jià)格。

常數(shù)方差

當(dāng)序列的方差為常數(shù)時(shí),我們知道均值和標(biāo)準(zhǔn)差之間存在一種關(guān)系。當(dāng)方差不為常數(shù)時(shí)(如下圖所示),預(yù)測(cè)在某些時(shí)期可能會(huì)有較大的誤差,而這些時(shí)期是不可預(yù)測(cè)的??梢灶A(yù)測(cè)到,隨著時(shí)間的推移直到未來,方差會(huì)保持不穩(wěn)定。


為了減小方差效應(yīng),可以采用對(duì)數(shù)變換。在本例中,也可以使用指數(shù)變換,如 Box-Cox 方法,或者使用膨脹率調(diào)整。

自相關(guān)序列

當(dāng)兩個(gè)變量在時(shí)間上的標(biāo)準(zhǔn)差有相似的變化時(shí),你可以說這些變量是相關(guān)的。例如,體重會(huì)隨著心臟疾病而增加,體重越大,心臟問題的發(fā)生率就越大。在這種情況下,相關(guān)性是正的,圖形應(yīng)該是這樣的:


負(fù)相關(guān)的情況類似于這樣:對(duì)工作安全措施的投入越多,工作相關(guān)的事故數(shù)量就越少。
下面是幾個(gè)相關(guān)級(jí)別的散點(diǎn)圖的例子:


當(dāng)談到自相關(guān)時(shí),意思是某些先前時(shí)期與當(dāng)前時(shí)期存在相關(guān)性,這種相關(guān)性是滯后的。例如,在以小時(shí)為單位的測(cè)量值序列中,今天 12:00 的溫度與 24 小時(shí)前的 12:00 的溫度非常相似。如果你比較 24 小時(shí)內(nèi)的溫度變化,就會(huì)存在自相關(guān),在本例中,我們將與第 24 小時(shí)前的時(shí)間存在自相關(guān)關(guān)系。
自相關(guān)是使用單個(gè)變量創(chuàng)建預(yù)測(cè)的一種情況,因?yàn)槿绻麤]有相關(guān)性,就不能使用過去的值來預(yù)測(cè)未來;當(dāng)有多個(gè)變量時(shí),則可以驗(yàn)證因變量和獨(dú)立變量的滯后之間是否存在相關(guān)性。
如果一個(gè)序列不存在自相關(guān)關(guān)系,那么它就是隨機(jī)且不可預(yù)測(cè)的,做預(yù)測(cè)的最佳方法通常是使用前一天的值。我將在下面使用更詳細(xì)的圖表來解釋。
從這里開始我將分析 Esalq 上的每周含水乙醇價(jià)格(這是巴西談判含水乙醇的價(jià)格參考),數(shù)據(jù)可以在這里(https://www.cepea.esalq.usp.br/br/indicador/etanol.aspx)下載。
價(jià)格單位是巴西雷亞爾每立方米(BRL/m3)。
在開始任何分析之前,要將數(shù)據(jù)劃分為訓(xùn)練集和測(cè)試集。

劃分訓(xùn)練集和測(cè)試集數(shù)據(jù)

當(dāng)我們要?jiǎng)?chuàng)建時(shí)序預(yù)測(cè)模型時(shí),將數(shù)據(jù)劃分為兩部分至關(guān)重要:
訓(xùn)練集:這些數(shù)據(jù)將是定義模型系數(shù)/參數(shù)的主要依據(jù);
測(cè)試集:這些數(shù)據(jù)將被分離且對(duì)模型不可見,用于測(cè)試模型是否有效(通常將這些值與模型結(jié)果進(jìn)行比較,最后測(cè)量平均誤差)。
測(cè)試集的大小通常約為總樣本的20%,盡管這個(gè)百分比取決于你擁有的樣本大小以及你希望提前多少時(shí)間進(jìn)行預(yù)測(cè)。理想情況下,測(cè)試集應(yīng)至少與所需預(yù)測(cè)的最大范圍相同。
與其他如分類和回歸等不受時(shí)間影響的預(yù)測(cè)方法不同,在時(shí)間序列中,不可以將訓(xùn)練和測(cè)試數(shù)據(jù)從數(shù)據(jù)中隨機(jī)抽樣取出,我們必須遵循序列的時(shí)間標(biāo)準(zhǔn),訓(xùn)練數(shù)據(jù)應(yīng)該始終是在測(cè)試數(shù)據(jù)之前。
在本例中,我們有Esalq 含水乙醇的 856 周的價(jià)格數(shù)據(jù),使用前 700 周的數(shù)據(jù)作為訓(xùn)練集,后 156 周(3年,18%)的數(shù)據(jù)用作測(cè)試集:


從現(xiàn)在開始,我們只使用訓(xùn)練集來做研究,測(cè)試集僅用于驗(yàn)證我們的預(yù)測(cè)。
每一個(gè)時(shí)間序列可以分為三個(gè)部分:趨勢(shì)、季節(jié)性和殘差,殘差是將前兩部分從序列中去除后剩下的部分,使用這種分割方法之后:


顯然,該序列具有上升趨勢(shì),在每一年的年底到年初之間達(dá)到峰值,在4月和9月之間達(dá)到最低值(此時(shí)在巴西中南部開始甘蔗的壓榨)。
我們?nèi)匀唤ㄗh使用統(tǒng)計(jì)測(cè)試來確認(rèn)序列是否是平穩(wěn)的,這里將使用兩個(gè)測(cè)試:Dickey-Fuller 測(cè)試和 KPSS 測(cè)試。
首先,我們將使用 Dickey-Fuller 檢驗(yàn),我將使用 5% 的基礎(chǔ) P 值,也就是說,如果 P 值低于 5% 這意味著這個(gè)序列在統(tǒng)計(jì)上是平穩(wěn)的。
此外,還有模型的統(tǒng)計(jì)檢驗(yàn),可以將檢驗(yàn)值與 1%、5%、10% 的臨界值進(jìn)行比較,如果統(tǒng)計(jì)檢驗(yàn)低于選定的某個(gè)臨界值,就認(rèn)為序列是平穩(wěn)的:


在本例中,Dickey-Fuller 檢驗(yàn)結(jié)果表明序列不是平穩(wěn)的( P 值 36%,臨界值 5% 小于統(tǒng)計(jì)檢驗(yàn))。
現(xiàn)在我們要用 KPSS 檢驗(yàn)分析序列,與 Dickey-Fuller 檢驗(yàn)不同,KPSS 檢驗(yàn)已經(jīng)假設(shè)序列是平穩(wěn)的,只有當(dāng) P 值小于 5% 或統(tǒng)計(jì)檢驗(yàn)小于某個(gè)臨界值時(shí),序列才不是平穩(wěn)的:


KPSS 檢驗(yàn)證實(shí)了 Dickey-Fuller 檢驗(yàn)的正確性,同時(shí)也表明該序列不是平穩(wěn)的,因?yàn)?P 值為 1%,統(tǒng)計(jì)檢驗(yàn)高于任何臨界值。
接下來,我將演示如何將序列轉(zhuǎn)換為平穩(wěn)狀態(tài)。

2

將序列轉(zhuǎn)換為平穩(wěn)狀態(tài)

差分

差分法用來移除趨勢(shì)信號(hào),也可以用來減少方差,它只是 T 周期的值與前一個(gè) T-1 周期值的差值。
為了更容易理解,下面我們只用一小部分的乙醇價(jià)格,以便更好地可視化,可以看到從 2005 年 5 月開始價(jià)格上漲,直到 2006 年 5 月中旬,價(jià)格每周都在上漲,這就累積了一個(gè)上升的趨勢(shì),這種情況下,屬于非平穩(wěn)序列。


當(dāng)進(jìn)行一階微分時(shí)(如下圖),我們?nèi)コ诵蛄械睦鄯e效應(yīng),并且僅顯示了整個(gè)系列中時(shí)段 T 相對(duì)于時(shí)段 T-1 的變化,因此如果 3 天前的價(jià)格為 800 BRL 且已漲到 850.00 BRL,差價(jià)將是 50.00 BRL,如果今天的價(jià)格是 860.00 BRL,那么差價(jià)將是 - 10.00 BRL。


通常只需要一階微分就足夠?qū)⑿蛄修D(zhuǎn)換為平穩(wěn)狀態(tài),但如果需要,可以應(yīng)用二階微分,在這種情況下,將對(duì)一階微分的值進(jìn)行求導(dǎo)(幾乎沒有二階以上微分的情況)。
同樣的例子,要進(jìn)行二次微分,我們必須取 T 時(shí)刻減去 T-1 時(shí)刻的微分:2.9 BRL -5.5 BRL = - 2.6 BRL 等等。


我們來做一下 Dickey-Fuller 測(cè)試,看看這個(gè)序列是否會(huì)在一階微分后是平穩(wěn)的:


在這種情況下,我們確定該序列是平穩(wěn)的,P 值為零,并且當(dāng)我們比較統(tǒng)計(jì)檢驗(yàn)的值時(shí),它遠(yuǎn)遠(yuǎn)低于臨界值。
在下一個(gè)例子中,我們將嘗試調(diào)整通貨膨脹率將一個(gè)序列轉(zhuǎn)換到平穩(wěn)狀態(tài)。

膨脹率調(diào)整

價(jià)格是相對(duì)于交易時(shí)間的,2002 年乙醇的價(jià)格是 680.00 BRL,如果現(xiàn)在產(chǎn)品的價(jià)格是這個(gè)價(jià)格,很多工廠肯定會(huì)倒閉,因?yàn)檫@個(gè)價(jià)格非常低。
為了讓序列平穩(wěn),我將基于當(dāng)前值使用巴西 IPCA 索引(巴西的 CPI 指數(shù))調(diào)整整個(gè)序列,從訓(xùn)練區(qū)間的結(jié)尾(2016年4月)到研究的開始,數(shù)據(jù)的來源是 IBGE 網(wǎng)站。


現(xiàn)在我們來看序列如何能變平穩(wěn)以及是否變平穩(wěn)。


如圖所示,上升趨勢(shì)已經(jīng)消失,只剩下季節(jié)性振蕩, Dickey-Fuller 測(cè)試也證實(shí)了這個(gè)序列現(xiàn)在是穩(wěn)定的。
如果好奇,可以參閱下面的圖表,其中調(diào)整后的價(jià)格與原始系列的通貨膨脹率相對(duì)應(yīng)。


減小方差

對(duì)數(shù)變換

對(duì)數(shù)變換通常用于將指數(shù)增長(zhǎng)的序列轉(zhuǎn)換為具有更趨于線性增長(zhǎng)的序列,在本例中,我們將使用自然對(duì)數(shù)(Natural Logarithm,NL),其底數(shù)為 2.718 ,這種對(duì)數(shù)類型在經(jīng)濟(jì)模型中被廣泛使用。
轉(zhuǎn)換成 NL 值的差值近似等于原始序列值的百分比變化,作為降低不同價(jià)格序列的方差的基礎(chǔ)是很有效的,如下例:
如果我們有一個(gè)產(chǎn)品在 2000 年價(jià)格上漲,從 50.00 BRL 到 52.50 BRL,幾年后(2019年),價(jià)格已經(jīng)是 100.00 BRL,已經(jīng)上漲到 105.00 BRL,價(jià)格之間的絕對(duì)差分別是 2.50 BRL 和 5.00 BRL,但兩者的百分比差為 5% 。
當(dāng)我們對(duì)這些價(jià)格中使用 NL 時(shí),我們得到:NL (52.50) - NL(50.00) = 3.96 - 3.912 = 0.048 或 4.8%,同樣地,在第二個(gè)價(jià)格序列中使用 LN 時(shí),我們得到:NL (105) - NL(100) = 4.654-4.605 = 0.049 或 4.9% 。
在這個(gè)例子中,我們可以通過把幾乎所有的東西都放到相同的基上來減少差異值。
下面還是同一個(gè)例子:
  1. price1 = np.log(52.5) - np.log(50)

  2. price2 = np.log(105) - np.log(100)

  3. printf('The percentage variation of the first example is {round(price1*100,1)} and the second is {round(price2*100,1)}')


原始序列與 NL 序列變換的對(duì)比圖:


Box-Cox 變換(指數(shù)變換)

Box-Cox 轉(zhuǎn)換也是一種轉(zhuǎn)換序列的方法,lambda(λ)的值是用于轉(zhuǎn)換序列的參數(shù)。
簡(jiǎn)而言之,這個(gè)函數(shù)是幾個(gè)指數(shù)變換函數(shù)的結(jié)合,我們需要找到轉(zhuǎn)換序列的 lambda 的最佳值,使其分布更接近正態(tài)高斯分布。使用此轉(zhuǎn)換的一個(gè)條件是序列只有正值,公式為:


接下來我將繪制原始序列及其分布圖,然后用 lambda 最佳值繪制新的轉(zhuǎn)換序列及其分布圖,為了找到 lambda 的值,我們將使用庫(kù) Scipy 的?boxcox?函數(shù)生成轉(zhuǎn)換的序列和理想 lambda 值:


下面是一個(gè)交互式圖表,在圖中可以更改 lambda 值和檢查更改:


此工具通常用于提高模型的性能,因?yàn)樗鼓P透呌谡龖B(tài)分布,記住在完成模型的預(yù)測(cè)后,必須根據(jù)以下公式反轉(zhuǎn)轉(zhuǎn)換到原始的基數(shù):


尋找相關(guān)時(shí)滯

為了便于預(yù)測(cè),具有單一變量的序列必須具有自相關(guān)性,即,當(dāng)前時(shí)段必須是能夠基于較早的時(shí)段(滯后)而解釋的。
由于這個(gè)序列每周為一周期,1 年大約 52 周,我將使用 60 的滯后期的自相關(guān)函數(shù)來驗(yàn)證當(dāng)前周期與這些滯后的相關(guān)性。


通過對(duì)上述自相關(guān)圖的分析,似乎所有的滯后都可以用來為未來事件創(chuàng)建預(yù)測(cè),因?yàn)樗鼈兊恼嚓P(guān)接近 1 ,而且都在置信區(qū)間之外,但這一特征屬于非平穩(wěn)序列。
另一個(gè)非常重要的函數(shù)是部分自相關(guān)函數(shù),其中消除了先前的滯后對(duì)當(dāng)前區(qū)間的影響,只保留了當(dāng)前區(qū)間滯后的影響來分析,例如:第四個(gè)滯后的偏自相關(guān)將消除第一、第二和第三個(gè)滯后的影響。
部分自相關(guān)圖如下:


可以看到,幾乎沒有滯后對(duì)當(dāng)前周期有影響,但是正如前面所演示的,沒有微分的序列不是平穩(wěn)的,我們現(xiàn)在用一階微分的序列繪制這兩個(gè)函數(shù)來展示原理:


自相關(guān)曲線變化顯著,表明該序列僅在第一個(gè)滯后期具有顯著相關(guān),在第 26 個(gè)滯后(半年)左右具有負(fù)相關(guān)的季節(jié)效應(yīng)。
為了做出預(yù)測(cè),我們必須注意一個(gè)找到相關(guān)的滯后現(xiàn)象的非常重要的細(xì)節(jié),重要的是這種關(guān)聯(lián)背后的原因,因?yàn)槿绻麤]有邏輯上的原因,就有可能是偶然的,當(dāng)包含更多的數(shù)據(jù)時(shí),這種關(guān)聯(lián)就會(huì)消失。
另一個(gè)重點(diǎn)是自相關(guān)和部分自相關(guān)圖對(duì)異常值非常敏感,因此分析時(shí)間序列本身并與兩個(gè)自相關(guān)圖進(jìn)行對(duì)比非常重要。
在這個(gè)例子中,第一個(gè)滯后與當(dāng)前周期具有高度相關(guān)性,因?yàn)榍耙恢艿膬r(jià)格歷史上沒有顯著變化,在相同的情況下,第 26 個(gè)滯后呈現(xiàn)負(fù)相關(guān),表明與當(dāng)前時(shí)期相反的趨勢(shì),可能原因是一年內(nèi)不同時(shí)期供需不同。
隨著膨脹率調(diào)整后的序列已經(jīng)趨于平穩(wěn),我們將使用它來創(chuàng)建我們的預(yù)測(cè),下圖是調(diào)整后序列的自相關(guān)和部分自相關(guān)圖:


我們將只使用前兩個(gè)滯后作為自回歸序列的預(yù)測(cè)因子。
想要了解更多信息的話,杜克大學(xué)教授 Robert Nau 的網(wǎng)站是與此主題相關(guān)的最佳網(wǎng)站之一。(http://people.duke.edu/~rnau/411home.htm)


3?

模型評(píng)價(jià)指標(biāo)

為了分析預(yù)測(cè)值是否接近當(dāng)前值,必須對(duì)誤差進(jìn)行測(cè)量,此種情況下的誤差(或殘差)基本上是 Yreal-YpredYreal-Ypred (這個(gè)暫時(shí)不知道怎么翻譯, real 真實(shí)值, pred 預(yù)測(cè)值)。
對(duì)訓(xùn)練數(shù)據(jù)中的錯(cuò)誤進(jìn)行評(píng)估以驗(yàn)證模型是否具有良好的確定性,然后通過檢查測(cè)試數(shù)據(jù)中的誤差(模型未“看到”的數(shù)據(jù))來驗(yàn)證模型。
當(dāng)將訓(xùn)練數(shù)據(jù)與測(cè)試數(shù)據(jù)進(jìn)行對(duì)比時(shí),檢查誤差對(duì)于驗(yàn)證你的模型是否過擬合或欠擬合非常重要。
以下是一些用于評(píng)估時(shí)間序列模型的關(guān)鍵指標(biāo):

平均預(yù)測(cè)誤差——偏差(bias)

它只是被評(píng)估序列的平均誤差,值可以是正的也可以是負(fù)的。該指標(biāo)表明,模型傾向于預(yù)測(cè)實(shí)際值以上(負(fù)誤差)還是實(shí)際值以下(正誤差),因此也可以說平均預(yù)測(cè)誤差是模型的偏差。

MAE——平均絕對(duì)誤差

這個(gè)指標(biāo)與上面提到的預(yù)測(cè)的平均誤差非常相似,唯一的區(qū)別是將誤差的負(fù)值轉(zhuǎn)化為正值,然后計(jì)算平均值。
這個(gè)指標(biāo)在時(shí)間序列中被廣泛使用,因?yàn)樵谝恍┣闆r下,負(fù)誤差可以抵消正誤差,使人誤以為模型是準(zhǔn)確的,而在用 MAE 的情況下不會(huì)發(fā)生,因?yàn)檫@個(gè)指標(biāo)顯示預(yù)測(cè)距離實(shí)際值有多遠(yuǎn),不管數(shù)值大還是小,示例如下:
  1. a = np.array([1,2,3,4,5])

  2. b = np.array([5,4,3,2,1])


  3. error = a - b


  4. MFE = error.mean()

  5. MAE = np.abs(error).mean()


  6. print(f'The error of each model value looks like this: {error}')

  7. print(f'The MFE error was {MFE}, the MAE error was {MAE}')

與 MAE 和 MFE 不同,MSE 值是平方單位,而不是模型單位。

RMSE——均方根誤差

這個(gè)指標(biāo)只是 MSE 的平方根,使誤差返回到模型的度量單位(BRL/m3),因?yàn)樗鼘?duì)時(shí)間序列在平方過程中產(chǎn)生的較大誤差更為敏感而非常有用。

MAPE——平均絕對(duì)百分誤差

這是另一個(gè)可用的有趣的指標(biāo),它通常在管理報(bào)告中使用,因?yàn)檎`差是以百分比度量的,所以產(chǎn)品 X 的錯(cuò)誤可以與產(chǎn)品 Y 的誤差進(jìn)行比較。
該指標(biāo)的計(jì)算取誤差的絕對(duì)值除以當(dāng)前價(jià)格,然后計(jì)算平均值:


我們來創(chuàng)建一個(gè)函數(shù),用幾個(gè)評(píng)估指標(biāo)來評(píng)估訓(xùn)練數(shù)據(jù)和測(cè)試數(shù)據(jù)的誤差:
  1. #Libraries to create the function:

  2. from math import sqrt

  3. from sklearn.metrics import mean_squared_error,mean_absolute_error, mean_absolute_error


  4. def check_error(orig, pred, name_col='', index_name=''):

  5. bias = np.mean(orig - pred)

  6. mse = mean_squared_error(orig, pred)

  7. rmse = sqrt(mean_squared_error(orig, pred))

  8. mae = mean_absolute_error(orig, pred)

  9. mape = np.mean(np.abs((orig - pred) / orig)) * 100

  10. error_group = [bias, mse, rmse, mae, mape]

  11. serie = pd.DataFrame(error_group, index=['BIAS','MSE','RMSE','MAE', 'MAPE'], columns=[name_col])

  12. serie.index.name = index_name

  13. return serie

殘差與預(yù)測(cè)值(散點(diǎn)圖):
分析這個(gè)圖是非常重要的,因?yàn)樵谶@個(gè)圖中我們可以檢查模式,它可以告訴我們是否需要對(duì)模型進(jìn)行一些修改,理想的情況是誤差沿著預(yù)測(cè)序列線性分布。
殘差的QQ圖(散點(diǎn)圖):
https://en.wikipedia.org/wiki/Q–Q_plot
總的來說這是一個(gè)顯示了殘差在理論上應(yīng)該如何分布的圖形,遵循高斯分布,而不是實(shí)際情況。
殘差自相關(guān)(序列圖):
如果沒有置信區(qū)間的值,或者說模型不包含信息。
我們需要?jiǎng)?chuàng)建另一個(gè)函數(shù)來繪制這些圖:
  1. def plot_error(data, figsize=(18,8)):


  2. # Creating the column error

  3. data['Error'] = data.iloc[:,0] -data.iloc[:,1]


  4. plt.figure(figsize=figsize)

  5. ax1 = plt.subplot2grid((2,2), (0,0))

  6. ax2 = plt.subplot2grid((2,2), (0,1))

  7. ax3 = plt.subplot2grid((2,2), (1,0))

  8. ax4 = plt.subplot2grid((2,2), (1,1))


  9. #Plotting actual and predicted values

  10. ax1.plot(data.iloc[:,0:2])

  11. ax1.legend(['Real','Pred'])

  12. ax1.set_title('Real Value vs Prediction')


  13. # Error vs Predicted value

  14. ax2.scatter(data.iloc[:,1], data.iloc[:,2])

  15. ax2.set_xlabel('Predicted Values')

  16. ax2.set_ylabel('Residual')

  17. ax2.set_title('Residual vs Predicted Values')


  18. ## Residual QQ Plot

  19. sm.graphics.qqplot(data.iloc[:,2], line='r', ax=ax3)


  20. # Autocorrelation Plot of residual

  21. plot_acf(data.iloc[:,2], lags=60, zero=False, ax=ax4)

  22. plt.tight_layout()

  23. plt.show()

與實(shí)際值相比,誤差往往會(huì)增加。
許多人還使用這種方法作為?基線(baseline),試圖用更復(fù)雜的模型來改進(jìn)。
下面我們將使用訓(xùn)練數(shù)據(jù)和測(cè)試數(shù)據(jù)來進(jìn)行模擬:


QQ 圖顯示了有一些比理論上要大些(包括正負(fù)值)的殘差,這些是所謂的異常值,但在第一,第六和第七個(gè)滯后中仍然存在明顯的自相關(guān),這可以用于改進(jìn)模型。
同樣地,我們現(xiàn)在將在測(cè)試數(shù)據(jù)中進(jìn)行預(yù)測(cè)。預(yù)測(cè)序列的第一個(gè)值將是訓(xùn)練數(shù)據(jù)的最后一個(gè)值,然后這些值將按照測(cè)試的當(dāng)前值逐步更新,依此類推:


RMSE 和 MAE 的誤差與訓(xùn)練數(shù)據(jù)相似,QQ 圖與殘差更符合理論值,可能是由于與訓(xùn)練數(shù)據(jù)相比樣本值較少。
在對(duì)比殘差與預(yù)測(cè)值的圖表中,我們注意到當(dāng)價(jià)格上漲時(shí),誤差絕對(duì)值有增加的趨勢(shì),可能用對(duì)數(shù)調(diào)整會(huì)減少誤差的擴(kuò)大并完成殘差相關(guān)圖,表明由于第一個(gè)滯后有很強(qiáng)的相關(guān)性,因此仍有改進(jìn)的空間,可能添加基于第一個(gè)滯后的回歸來改進(jìn)預(yù)測(cè)。下一個(gè)模型是簡(jiǎn)單平均值:

簡(jiǎn)單平均

另一種預(yù)測(cè)方法是使用序列平均值,通常當(dāng)數(shù)值在平均值附近振蕩時(shí),具有常數(shù)的方差,沒有上升或下降趨勢(shì)時(shí),這種預(yù)測(cè)形式是好的,但是也能使用更好的方法,其中可以使用季節(jié)模式進(jìn)行預(yù)測(cè)。
此模型使用數(shù)據(jù)首端直到分析的前一個(gè)時(shí)期的平均值,并且按天擴(kuò)展到數(shù)據(jù)結(jié)束,最后,趨勢(shì)是一條直線,我們現(xiàn)在將此模型與第一個(gè)模型的誤差進(jìn)行比較:


在測(cè)試數(shù)據(jù)中,我將繼續(xù)使用訓(xùn)練數(shù)據(jù)一開始的均值,并展開添加到測(cè)試數(shù)據(jù)上:


簡(jiǎn)單均值模型無法捕獲序列的相關(guān)信息,如真實(shí)值和預(yù)測(cè)值圖中所示,也可以在相關(guān)性和殘差和預(yù)測(cè)圖中看到。

簡(jiǎn)單滑動(dòng)平均:

滑動(dòng)平均是針對(duì)給定周期(例如 5 天)計(jì)算的平均值,它是滑動(dòng)的并始終使用此特定時(shí)段進(jìn)行計(jì)算,在這種情況下,我們將始終使用過去 5 天的平均值來預(yù)測(cè)下一天的值。


誤差低于簡(jiǎn)單平均,但仍高于簡(jiǎn)單模型,以下是測(cè)試模型:


與訓(xùn)練數(shù)據(jù)相似,滑動(dòng)平均模型優(yōu)于簡(jiǎn)單平均模型,但尚未比簡(jiǎn)單模型基礎(chǔ)有所增益。
預(yù)測(cè)具有 2 個(gè)時(shí)滯的自相關(guān)性,并且相對(duì)于預(yù)測(cè)值有很大的方差誤差。

指數(shù)滑動(dòng)平均:

上述簡(jiǎn)單滑動(dòng)平均模型具有同等地處理最后 X 個(gè)觀測(cè)值并完全忽略所有先前觀測(cè)值的特性。直觀地說,過去的數(shù)據(jù)應(yīng)該逐漸打折,例如,理論上最近的觀測(cè)結(jié)果應(yīng)該比第二近的更重要,而第二近的觀測(cè)應(yīng)該比第三近的數(shù)據(jù)更重要,等等, 指數(shù)滑動(dòng)平均(Exponential Moving Average,EMM)模型就是這樣做的。
由于?α(alpha)是一個(gè)常數(shù),其值介于 0 和 1 之間,因此我們將使用以下公式計(jì)算預(yù)測(cè)值:


如果預(yù)測(cè)的第一個(gè)值是相應(yīng)的當(dāng)前值,其他值將更新為實(shí)際值與前一個(gè)時(shí)段的預(yù)測(cè)之差的 α 倍。當(dāng)α為零時(shí),我們根據(jù)第一個(gè)預(yù)測(cè)值得到一個(gè)常數(shù),當(dāng) α 為 1 時(shí),我們有一個(gè)簡(jiǎn)單方法的模型,因?yàn)榻Y(jié)果是前一個(gè)實(shí)際周期的值。
下面是幾個(gè) α 值的圖表:


EMM 預(yù)測(cè)中的平均數(shù)據(jù)周期為 1 /α。例如,當(dāng) α= 0.5 時(shí),滯后相當(dāng)于 2 個(gè)周期; 當(dāng) α= 0.2 時(shí),滯后是 5 個(gè)周期; 當(dāng) α= 0.1 時(shí),滯后是 10 個(gè)周期,依此類推。
在這個(gè)模型中,我們將任意選用 α 值為 0.5 ,而你可以通過網(wǎng)格搜索算法查找在訓(xùn)練集和驗(yàn)證集中都中減少了錯(cuò)誤的 α,數(shù)據(jù)大概應(yīng)是這樣:


這個(gè)模型的誤差與滑動(dòng)平均的誤差相似,但是我們需要在測(cè)試集對(duì)模型進(jìn)行驗(yàn)證:


在驗(yàn)證數(shù)據(jù)中,目前為止的誤差在我們已經(jīng)訓(xùn)練過的模型中排名第二,而殘差圖的特征與 5 天滑動(dòng)平均模型的特征非常相似。

自回歸

自回歸模型基本上是一個(gè)具有顯著相關(guān)滯后的線性回歸,首先要繪制自相關(guān)圖和部分自相關(guān)圖來驗(yàn)證是否存在相關(guān)關(guān)系。
下面是訓(xùn)練序列的自相關(guān)圖和部分自相關(guān)圖,顯示了自回歸模型的特征為具有 2 個(gè)時(shí)滯的顯著相關(guān)性:


接下來我們將根據(jù)訓(xùn)練數(shù)據(jù)創(chuàng)建模型,得到模型的系數(shù)后,將其乘以測(cè)試數(shù)據(jù)將要執(zhí)行的值:


這個(gè)模型與我們所訓(xùn)練的其他模型相比,誤差最小,現(xiàn)在我們用它的系數(shù)對(duì)訓(xùn)練數(shù)據(jù)進(jìn)行逐步預(yù)測(cè):


注意,在測(cè)試數(shù)據(jù)中,誤差不會(huì)保持穩(wěn)定,甚至?xí)群?jiǎn)單模型更差,可以看到圖中的預(yù)測(cè)值幾乎總是低于當(dāng)前值,偏差測(cè)量顯示實(shí)際值比預(yù)測(cè)值高 50.19 BRL, 也許在訓(xùn)練模型中調(diào)整一些參數(shù),這種差異會(huì)減小。
要改進(jìn)這些模型,你可以應(yīng)用多個(gè)轉(zhuǎn)換,例如本文中介紹的轉(zhuǎn)換,也可以添加外部變量作為預(yù)測(cè)源,但是,這已然超出本文內(nèi)容了。


4?

結(jié)束語

每個(gè)時(shí)間序列模型都有自己的特點(diǎn),應(yīng)該分別單獨(dú)分析,這樣我們就可以提取盡可能多的信息來做出好的預(yù)測(cè),減少未來的不確定性。
檢驗(yàn)平穩(wěn)度、轉(zhuǎn)換數(shù)據(jù)、在訓(xùn)練數(shù)據(jù)中建立模型、驗(yàn)證測(cè)試數(shù)據(jù)、檢驗(yàn)殘差是建立良好時(shí)間序列預(yù)測(cè)的關(guān)鍵步驟。
也可以看看本文原作者的有關(guān)ARIMA模型的文章。
https://www.kaggle.com/leandrovrabelo/climate-change-forecast-sarima-model


原文來源:https://towardsdatascience.com/basic-principles-to-create-a-time-series-forecast-6ae002d177a4


本文來自公眾號(hào)讀者翻譯,歡迎各位童鞋向公號(hào)投稿,點(diǎn)擊下面圖片了解詳情!

譯者簡(jiǎn)介
李潔,北京師范大學(xué)香港浸會(huì)大學(xué)聯(lián)合學(xué)院 數(shù)據(jù)科學(xué)系助教,香港科技大學(xué)電信學(xué)碩士。



-------------------End-------------------



往期精彩回顧





獲取一折本站知識(shí)星球優(yōu)惠券,復(fù)制鏈接直接打開:

https://t.zsxq.com/662nyZF

本站qq群1003271085。

加入微信群請(qǐng)掃碼進(jìn)群(如果是博士或者準(zhǔn)備讀博士請(qǐng)說明):

瀏覽 42
點(diǎn)贊
評(píng)論
收藏
分享

手機(jī)掃一掃分享

分享
舉報(bào)
評(píng)論
圖片
表情
推薦
點(diǎn)贊
評(píng)論
收藏
分享

手機(jī)掃一掃分享

分享
舉報(bào)

感谢您访问我们的网站,您可能还对以下资源感兴趣:

国产秋霞理论久久久电影-婷婷色九月综合激情丁香-欧美在线观看乱妇视频-精品国avA久久久久久久-国产乱码精品一区二区三区亚洲人-欧美熟妇一区二区三区蜜桃视频 黄片网站免费观看| 少妇毛片| 九九r在线精品观看视频| 先锋av资源在线| 先锋影音在线| 亚洲综合另类| 一道本一区二区三区免费视频| 亚洲视频在线观看网站| 欧美老熟女18| www久久| 成年片免费观看网站免费观看,亚洲+欧... | 亚洲黄片免费在线观看| 国产A√| 欧美一区二区三区成人| 中国黄色学生妹一级片| 美女毛片视频| 好好的日视频| 日韩无码人妻一区二区| 大鸡巴黄色视频免费观看| 亚洲日韩在线看| 国产av一级片| 不卡无码中文字幕一区| 久久免费播放视频| 毛片A片| 综合网视频| 久久久波多野结衣| 日韩精品一二三区| 三级无码AV| 久久中文娱乐网| 五月天婷婷在线观看| 免费福利在线视频| 亚洲天堂无码高清| 在线观看无码视频| 国产精品久久久久无码AV| 最近2021中文字幕免费| 欧美婷婷五月| 久久男人| 国产亚洲AV| 欧美日韩字幕| 日本A级视频| 中文字幕+乱码+中文乱码91 | 黄色www| 午夜成人精品一区二区三区 | 天天夜夜操| 中文字幕精品在线| 五月丁香六月色| 在线观看日本vs欧洲vs美洲| 97精品人人A片免费看| 久久538| 强伦人妻一区二区三区| www俺来也com| 97爱| 日韩久久精品视频| 黄色大片在线免费观看| 婷婷五月天色综合| 91人妻人人澡| 婷婷色色五月| 欧美日韩成人视频| 日本绿色精品视频| 人人搞人人摸| 懂色一区二区二区在线播放视频| 日韩特级毛片| 亚洲Av在线观看| 一区二区视频在线| 色五月婷婷视频| 成人毛片100免费观看| 中文人妻av| 成人A片免费观看| 91蝌蚪久久| 一级黄色小视频| www.zaixianshipin| 天天躁夜夜躁狠狠躁AV| 久久黄色视频| 国产黄色视频在线免费看| 热久久亚洲中文字幕| 欧洲精品视频在线观看| 午夜精品久久久久久久久久久久| 99精品热视频| 最新av资源| 午夜久久久久久久久久久久91| а√在线中文网新版地址在线| 99久久婷婷国产精品2020| 国产成人精品a区在线观看| 久久久噜噜噜| 欧美成人乱码一区二区三区| 欧美午夜福利电影| 好好的日视频| 日韩成人视频在线观看| 色情网站在线| 日韩人妻无码专区一区二区| 操一区| 黄色网址五月天| 水蜜桃网| 日韩一级一级一级| 成人毛片18女人毛片真水| 91精品久| 91精品人妻一区二区三区四区| 97精品无码| 一道本激情视频| 欧美性爱日韩| 伊人综合色| 亚洲天堂2014| 18禁一区二区| 天天日天天操天天摸天天干天日射天天插| 高潮免费视频| 久久五月视频| av五月| 高清无码激情| 免费黄色成人| 在线播放91灌醉迷J高跟美女| 无码秘蜜桃一区二区三区| A片免费在线观看| 亚洲成人性爱网站| 波多野结衣一区二区三区在线观看 | a片网| 午夜无码熟妇丰满人妻| 91色伦| 熟妇槡BBBB槡BBBB| 99在线观看免费视频| 日本无码视频在线观看| 69视频网| 日逼一级片| av在线无码| 黄色视频网站免费观看| www.四虎成人网站| 在线播放中文字幕| 国产激倩都市一区二区三区欧美| 中文字幕人妻精品一区| 91精品国产成人www| 污污污污污www网站免费民国| 久久久无码精品亚洲日韩男男| 无码人妻丰满熟妇精品区| 天天操天天干麻豆| 免费啪啪视频| 日韩AⅤ视频| 亚洲AV无码黑人专区| 亚洲色婷婷在线| 国产黄片在线视频| 成人网站在线看。| 免费国产黄色视频| 成年人在线播放| 翔田千里無碼破解| 无码av中文字幕| 日韩a视频| 亚洲精品97久久中文字幕| 中国一级A片| 99久久视频| 国精产品乱码一区一区三区四区 | 日韩中文字幕网| 河南熟妇搡BBBB搡BBBB| 91成人无码视频| 中文字幕在线观看网址最新地址| 蜜臀久久久久久999| 亚洲成人精品在线观看| 日韩国产AV| 综合+++夜夜| 亚洲无码高清在线观看视频| 在线观看一区二区视频| 大香蕉综合闲人| 国产无码操逼视频| 久久精品免费电影| 国产伦子伦一级A片在线| 国产亚洲精品码| 国产精品av在线| 久久久亚洲| www.欧美| 亚洲色播放| 欧美日韩AV| 日本久久播| 翔田千里无码A片| 国产久久在线观看| 精品成人在线视频| 亚洲天堂精品视频| 日韩高清无码不卡| 麻豆精品久久久久久久99蜜桃| 日本黄色免费视频| 国产吃奶| 午夜成人精品一区二区三区 | 成人黄色电影在线观看| 欧美日逼视频| 你懂的在线视频观看| 简单av网| 北条麻妃久久久| 亚洲精品国产AV婷婷| 国产3级片| 欧美熟妇性爱| www.婷婷五月天| 色操人 | 波多野结衣91| 国产—a毛—a毛A免费| 午夜18视频在线观看| 亚洲激情黑人| 婷婷玖玖| 人妻无码人妻| 51国产黑料吃瓜在线入口| 黄色亚洲视频| 国产一级内射| 日韩免费A| 在线伊人网| 精品AV无码| 欧美日韩在线电影| 色婷婷18| 久操无码视频| 欧美性受XXXX黑人XYX性爽一| 日日操人人操| 国产办公室丝袜人妖| 无码AV一区二区| 色天堂在线观看| 婷婷激情中文字幕| 日韩中文字幕网站| 天堂俺去俺来也www久久婷婷| 九九乱伦| 国产AV激情| 狠狠干,狠狠操| 地表最强网红八月未央道具大秀| 欧美人妻日韩精品| 免费网站观看www在线观看| 国产欧美熟妇另类久久久| 伊人综合电影| 亚洲最新AV网站| 色诱AV| 国产三级91| 國產精品77777777777| 精品| 在线成人自拍| AAA无码| 中文字幕在线网站| 久久99久久99久久| 天天看天天色| 欧美一级AA| 久久久久久久性爱| 韩国色情中文字幕| 444444在线观看免费高清电视剧木瓜一 | 免费黄色片子| 日本成人三级片| 日韩免费视频在线观看| 伊人私人影院| 内射老太太| 搡BBBB| 日韩三区| 特一级黄色| 亚洲成人av无码| 中文字幕乱码中文字幕电视剧| 久久久久久久久久久高清毛片一级| 18禁网站网址| 亚洲另类图片小说| 中文字幕一区二区三区四区五区六区| 免费黄色AV| 国产精品久久久久久最猛| 丁香五月亚洲| 大香蕉伊人av| 麻豆电影| 日韩高清欧美| 北条麻妃无码中文| v天堂在线| 中文字幕www一区| 人人干日日干| 黄色小视频在线观看| 2025中文在线观看最好看的电影 | 中文有码在线观看| 免费国产视频| 97av视频| 在线观看的av网站| 内射毛片| 亚洲秘无码一区二区| 中国免费XXXX18| 国产天堂在线| 天天爽天天爽夜夜爽| 97精品一区二区三区A片| 91久久国产性奴调教| caobi999| aaa在线观看| 免费a片视频| a级黄色视频免费观看| 日韩a在线观看| 日韩va中文字幕无码免费| 2025最新国产精品每日更新| 伊人影院在线看| 免费做爱网站| 脓肿是什么原因引起的,该怎么治疗| 欧美AAA大片| 精品人妻午夜一区二区三区四区| 精品网站999www| 亚洲AV无码成人片在线| 俺来也俺去了| 免费中文字幕视频| 国产五月天婷婷| 亚洲综合图区| 丁香五月天婷婷久久| 欧美日韩精品一区二区三区视频播放| 九九成人网站| 亚洲中文无码在线观看| 91成人看片| 亚洲第一网站| 人人人爽| 男人天堂社区| 亚洲人妻免费视频| 老熟妇搡BBBB搡BBBB| 麻豆精品在线| 中文字幕一区二区三区人妻在线视频 | 91在线视频免费播放| 精品国产欧美一区二区三区成人| 免费黄色网址啊不卡| 最好看2019中文在线播放电影| 日韩精品在线免费| 99视频免费看| 国产免费AV在线观看| 亚洲天堂成人网| 人人草人人搞| 大香蕉在线99| 91精品久久久久久久久| 日本人妻中出| 日韩精品在线免费| 天天操天天操| 99精品视频16在线免费观看| 97欧美精品人妻系列| 老女人AV| 成人在线小视频| 亚洲日韩国产中文字幕| 亚洲第五页| 成人a片在线免费观看| 亚洲精品无码a片| 男人天堂99| 欧美av| 肏逼网| 欧美啪啪网站| 8050午夜| 天堂av在线免费观看| 天天操夜夜爽| 亚洲日韩免费| 欧美三级片视频| 手机看片亚洲| 五月婷婷丁香五月| 97国产精品视频人人做人人爱 | 日韩精品久久久久久久| 一卡二卡在线视频| 欧亚av| 国产女人18水真多18精品 | 九九操逼| 翔田千里53歳在线播放| 欧美一级网站| 91精品国产一区二区三区四区大| 欧美一级婬片AAAA毛片| 五月天丁香婷婷视频| JiZZjiZZ亚洲成熟熟妇| 边摸边插| 天天干干| 午夜国产在线视频| 怡红院男人天堂| 91色图| 特级特黄AAAAAAAA片| 香蕉在线观看| 婷婷五月天激情四射| 在线性视频| 蜜桃精品视频| 日韩欧美一级二级| 人人摸人人搞| 成人久久av| 黄色视频一区二区| 国产精品成人免费久久黄AV片| 成人午夜A片| 狠狠干中文字幕| 精品人妻系列| 日韩精品一二三| 亚洲操屄| 伊人亚洲综合| 高清视频一区| 国产区在线观看| 中文字幕第11页| ⅴA日本成人| 国产香蕉av| www.色在线观看| 婷婷五月丁香花| 日韩免费网| 丝瓜视频| av网站免费在线观看| 97色色网| 人妻制服丝袜| 欧美视频色| 一级特黄AA片| 国产凹凸视频在线观看| 欧美亚洲| 中文字幕超清在线观看| 亚洲天堂在线播放| 色五月婷婷基地| 亚洲天堂在线观看网站| 亚洲夜夜操| 9I成人免费版视频| 久久h| 一本无码视频| 豆花网无码视频观看| 热热AV| 天天色天天撸| 精品免费国产一区二区三区四区的使用方法 | 无码av中文字幕| 亚洲最新AV在线| 亚洲在线无码视频| 青娱乐无码视频| 97国产在线视频| 俺也来最新色视频| 欧美精品99久久久| 老太婆擦BBBB撩BBBB| 人人操人人爽| 黄片无码免费| 99热只有精| 久久这里都是精品| AV色图| 五月天婷婷在线播放视频免费观看 | 中文字幕东京热| 国产靠逼| 日本一区二区在线视频| 亚洲精品午夜福利| 大香蕉75在线| 丁香六月婷婷| 人妻精品久久久久中文字幕69| 国产欧美在线观看不卡| www.亚洲精品| 国产激情综合在线| 伊人操| 日韩视频久久| 日韩三级片av| 少妇无码视频| 精品在线第一页| 成人免费网站在线观看| 国产乱子伦-区二区| 九色PORNY自拍视频| 超碰97在线精品国产| 韩国三级HD中文字幕2019年| 日本免费视频| 成人黃色A片免费看| 免费一级a| 中文字幕在线播放av| 99在线视频精品| 五月婷网| 草久视频| 波多野结衣在线无码视频| 97超碰人人操| 丁香五月天激情网| 色逼高清| 亚洲美女免费视频| 38D蜜桃臀| 99热播| 人人人人人人人人操| 中文字幕在线播放AV| 大香蕉精品在线| 精品免费国产一区二区三区四区 | 国产在线内射| 91久久精品日日躁夜夜躁国产| 久草手机视频在线观看| 蜜桃黄片AV在线观看| 欧美性受| 麻豆国产在线| 91外围女视频| 无套内射学生妹去看片| 熟妇高潮一区二区高潮| 五月丁香婷婷激情| 久久综合伊人7777777| 国产综合第一页| 黄色片视频| 男人天堂亚洲| 日韩AV免费在线观看| 91麻豆精品国产91久久久吃药| 成人H动漫精品一区二区无码 | 一级国产欧美成人A片| 麻豆网站91| 国产黄色av| 久久精品一区二区三区蜜芽的特点| 免费无码在线看| 靠逼久久| 91三级片网站| caobi999| 青青草激情视频| 偷拍久久久| 日本最新免费二区| 99热国产在线观看| 三级成人AV| 日韩东京热中文字幕| 激情AV| 亚洲婷婷五月天| 亚洲精品日韩综合观看成人91 | 在线一区观看| 亚洲黄色电影| 亚洲人妻少妇| 最近中文字幕在线中文字幕7| 久久五月天视频| 一区二区三区国产| 大香蕉老师| 欧美一级成人片| 精品无码在线观看| 台湾成人视频| 色五月婷婷激情| 三级网址大全| 女人天堂AV| 国产乱子伦精品久久| 欧美视频A| 91丨人妻丨国产丨丝袜| 亚洲成人网在线观看| 久久精品999| 人妻丰满熟妇av无码| 久久伊人中文字幕| 国产成人a| 亚洲免费黄色电影| 一区二区三区四区免费看| 操操操综合| 免费看黄色电影| 久草在线| 91国产爽黄在线| 成年女人毛片| 日韩色导航| 91蜜桃视频| 国产精品久久久久久久久夜色| 精品国内自产拍在线观看视频| 大香煮伊在75| 国产黄色免费看| 久久国语| 国产精品免费网站| 青青日逼| 日韩不卡免费| 色天使青青草| 亚洲色图偷拍| 白浆在线| 中文字幕黄色电影| 国产高清无码18| 亚洲视频五区| 欧美日韩网| 欧美成人在线免费| 天天色小说| 青青五月天| 色情电影网站| 欧美伦妇AAAAAA片| 人操人操人操| 日本三区视频| 能看的操逼网站| 日韩成人网站| 青娱乐超碰在线| 青春草在线视频观看| 中文字幕av第一页| 高清无码不卡在线观看| 蜜臀精品色无码蜜臀AV| 日韩免费在线观看| 香蕉成人视频| 国产一级片| 麻豆91麻豆国产传媒| 国产久久在线| 亚洲一区AV| 做爰视频毛片蜜桃| 99精品视频16在线免费观看| 五月天无码免费视频| 亚洲天堂AV2025| 黄色带亚州| 搡BBBB推BBBB推BBBB| 91精品久久久久久久| 91免费小视频| 色xxxx| www.黄色片| 巨爆乳肉感一区二区三区| 欧美色视频一区二区三区在线观看 | 亚洲欧美日韩另类| 人妻在线免费视频| 少妇的屄| 亚洲男女内射| 国产aaaaaaaaaaaaa| 国产久久视频在线观看| 国产精品成人国产乱| gogogo高清在线完整免费播放韩国| 午夜操一操| 综合网伊人| 中文字幕+乱码+中文乱码91| 老熟女痒到不行-ThePorn| 第一福利视频导航| 高清无码电影| 午夜福利成人视频| 97国产精品视频| 国产成人精品电影| 亚洲啪啪| 99久久99九九99九九九| 不卡免费视频| 色婷婷影院| 国产精品6| 人人干人人艹| 五月丁香欧美| 亚洲WWW| 高清一区二区三区| 91啪啪| 日本大胆中出| 欧美午夜精品一区二区蜜桃| 免费中文字幕视频| 色就是欧美| 日韩av中文字幕在线播放| 91一区二区在线观看| 十八禁福利网站| 唐嫣一级婬片A片AAA| 欧美爱爱网站| 日本暖暖视频| 综合操逼网| 日本黄色录像| 亚洲黄片免费在线观看| 一本一道无码免费看视频| 北条麻妃高清无码| av黄色在线观看| 91精品人妻一区二区三区蜜桃欧美 | 黄片大全在线观看| 欧美中文字幕在线观看| 色婷婷在线播放| 北条麻妃99精彩视频| 国产综合亚洲精品一区二| 中文字幕无吗| 亚洲天堂视频网站| 中文无码在线观看中文字幕av中文| 一级黄色免费看| 国产一区二区三区在线视频| 日本黄色视频网址| 第四色大香蕉| 婷婷久久综合久色| 成人性生活一级片| 免费操逼网址| 亚洲三级视频在线播出| 性欧美欧美巨大69| 黄片无遮挡| 亚洲无码专区在线观看| 亚洲色综合| 亚洲三级视频| 日本午夜福利电影| 九九无码| 在线草| 我要看黄色一级片| 少妇A片| 色五月婷婷基地| 国产剧情在线| 中文字幕+乱码+中文乱码91 | 九九视频免费在线观看| 91福利在线观看| 影音先锋AV资源网站| 女邻居的B好大| 人人操国产| 无码理论片| 婷婷五月天激情视频| 屁屁影院国产第一页| 国产精品国产三级国产专区52| 成人网站在线看。| 喷水在线观看| 婷婷日韩中文字幕| 美国一级A片草草视频| 手机在线一区| 黄片视频在线播放| 四季AV一区二区夜夜嗨| 狠狠干在线| 青青操首页| av東熱激情东京热| 国产3级片| 亚洲精品国产精品国自产在线| 中文字幕免费视频在线播放| 高清无码网| 免费成人三级片| 欧美性爱一区二区三区| 超碰免费在线| 天堂成人AV| 成年人黄色视频网站| 热久久精品| 一区二区久久| 久久久久99| 操比视频在线观看| 91探花视频精选在线播放| gogogo高清在线完整免费播放韩国| 91欧美精品成人AAA片| 夜夜爽妓女77777毛片A片| av无码在线播放| 两根茎一起进去好爽A片在线观看 日本三级AAA三级AAAA97 | 99久久人妻无码中文字幕系列| 黑人巨粗进入疼哭A片| 欧美精品三级| 亚洲无码一级电影| 阿v视频在线观看| 免费看黄A级毛片成人片| 成人精品无码| 青青草在线观看免费| 91超碰大香蕉| 俺来也俺也啪www色| 五月天婷婷色播| 人妻无码久久精品| 久久久久久亚洲AV无码专区| 色第一页| 黄色视频免费在线观看网站| 中文不卡视频| 欧美日本色| 五月婷婷六月婷婷| 9I免费看片黄| 亚洲高清视频一区| 肏屄视频在线播放| 黄片一区二区| 欧美黄频| 国产免费看片| 国产系列每日更新| 啪啪免费网| 青青久操| 国产精品夜夜爽3000| 伊人精品A片一区二区三区| 成人免费无遮挡无码黄漫视频| 黄片网址在线观看| 成人短视频在线观看| 亚洲无码视频在线| 高清视频一区| 成人国产在线| 爱爱视频无码| 欧美日韩一级A片| 精品久| 国产精品无码免费| 日韩色情片| 9l人人澡人人妻人人精品| 中文字幕免费高清网站| 亚洲国产高清在线观看视频| 天天精品视频| JUY-579被丈夫的上司侵犯后的第7天,我| 色婷婷中文在线| 中文日韩在线| 日韩在线视频不卡| 欧美成人黄色小说| 六月丁香五月天| 大香蕉尹人视频| 好吊视频一区二区三区| 国产又爽又黄A片| 一区二区三区四区五区在线| jizz国产视频| 日韩欧美亚洲| 伊人大久久| 不卡免费视频| 一级婬片A片AAAAA毛片| 精品无码在线| 大香蕉99热| 无码AV大香线蕉伊人| 91精彩视频| 丁香六月综合| 欧美日韩国产三级| 婷婷色亚洲| www.插逼| 午夜无码熟妇丰满人妻| 另类老妇奶性生BBwBBw偷拍| 日本免费中文字幕| 久久青青草在线视频| 国产精品国产| 18禁网站在线播放| 91无码电影| 国产精品国产三级囯产普通话2| 精品人妻一区二区| 三级成人免费| 久久久久久久国产| 日本爱爱网址| 国产在线不卡年轻点的| 天天干天| 日韩不卡免费| 91成人小电影| 自慰一区二区| 欧美狠狠| 操逼二区| 狼人伊人综合| 亚欧洲精品在线视频免费观看| 欧美九九九九| 国产综合久久久7777777| 成人国产精品秘欧美高清| 国产深夜福利| 日本黄色片在线播放| 伊人久久影院| 黄色无码在线观看| 乱码中文字幕日韩欧美在线| 国产AV影片| A免费观看| 99在线视频免费观看| 超碰人| 日韩人妻无码一区二区三区七区| 国产精品视频免费在线观看| 好逼123| 欧美一级一级| 另类老妇奶性BBWBBwBBw | 天天拍天天日| 久久国产无码| 色婷婷五月天在线观看| 国产精品无码激情视频| 人妻FrXXeeXXee护士| 日本一级黄色| 久久亚洲日韩天天做日日做综合亚洲 | 人妖和人妖互交性XXXX视频| 俺来也AV| 神马午夜精品91| 亚洲无码A片在线| A片在线视频| 国产1区2区3区中文字幕| 五月丁香综合久久| 成人在线超碰| 超碰欧美在线| 一级做a爰片毛片A片| 一区二区三区四区免费观看| 黄色在线观看国产| 香蕉av在线观看| 黄色小视频免费观看| 肏逼综合网| 无码三级AV| 91久久综合亚洲鲁鲁五月天| 亚洲肏屄网| 日韩极品视频在线| 亚洲成人免费| 欧美性少妇| 一区免费在线观看| 男女日日批黄色三级| 依人成人| 91精品无码一区二区| 在线中出| 欧美不卡视频| 美女天天肏| 国产免费观看视频| 91久久性奴调教| 中文字幕在线观看网站| 在线观看免费无码| 岛国电影av| 无码日逼视频| 国产精品揄拍一区二区| 高清无码激情| 久久大香蕉网| 岛国av无码免费| wwwA片| 亚洲xxxxx| 超碰成人AV| 怡红院一区二区| 婷婷久草网| 高清无码在线看| 青青草国产亚洲精品久久| 少妇搡BBBB搡BBB搡造水多/| 黃色毛片A片AAAA级20| 风情万种AV| 国产91在线播放| 亚洲人妻无码视频| 日韩精品丰满无码一级A片∴| 中文字幕无吗| 亚洲熟女一区二区三区妖精| 日本乱伦视频| 嫩BBB槡BBBB槡BBBB撒尿| 中文字幕在线日本| 动漫3D成人H无码国漫| 11孩岁女精品A片BBB| 天天综合视频| 国产理伦| 国产9熟妇视频网站| 91在线视频免费| 国产主播一区二区| 色婷婷91| 91在线观看18| 亚洲成人视频网站| 精品乱子伦一区二区三区免费播成| 91丨PORNY丨对白| 国产小黄片在线| 欧美AAAAA| 欧美久久一区二区三区四区视频| av在线天堂| 久久91视频| 日本成人一区| 国产精品无码ThePorn| 美女免费AV| 亚洲.www| 成人久久久久久| 亚洲色婷婷久久精品AV蜜桃| 五月天青青草超碰免费公开在线观看| 久久黄网| 午夜性福利| 免费视频一二三区| 国产精品高潮无套内谢| 东方av在线免费观看| 青青草黄色视频| 99久久亚洲精品日本无码| 成人精品永久免费视频99久久精品| 青榴视频免费观看| 欧美成人毛片AAAAAA| 中文无码在线播放| 精品福利视频导航| 国产一二三视频| 亚洲精品无码电影| 91亚洲精品乱码久久久久久蜜桃| 搡女人视频国产一级午夜片| 五月天婷婷丁香网| 特黄AAAAAAAA片免费直播| 操逼视频高清无码| 国产免费性爱| 黄色生活片| 永久免费看A人片无码精| 亚洲不卡视频| 亚洲高清视频在线观看| 国产高清无码视频在线观看| 日韩在线综合| 久久精品国产亚洲| 亚洲中文字幕免费| 春色av| 久草免费电影| 日韩欧美二区| 亚洲中文娱乐| 欧美日比视频| 婷婷伊人大香蕉| 中文字幕国产在线| 欧美日韩99| 亚洲狼人综合| 国产AV中文字幕| 成人三级av| 亚洲无码综合|