t↑ 點(diǎn)擊 藍(lán)字? 關(guān)注極市平臺(tái) 作者丨Pier Paolo Ippolito、McGL（譯） 引言 作為任何數(shù)據(jù)科學(xué)項(xiàng)目的一部分，數(shù)據(jù)可視化在理解更多可用數(shù)據(jù)和識(shí)別任何主要模式方面發(fā)揮著重要作用。 如果有可能使分析中的機(jī)器學(xué)習(xí)部分盡可能直觀，那不是很好嗎？ 在本文中，我們將探索一些技術(shù)，可以幫助我們面對(duì)這一挑戰(zhàn)，如: 平行坐標(biāo)圖，摘要數(shù)據(jù)表，繪制人工神經(jīng)網(wǎng)絡(luò)圖等等。? 本文中使用的所有代碼都可以在我的 Github （pierpaolo28/Data-Visualization）上免費(fèi)獲得。 技巧 超參數(shù)優(yōu)化是機(jī)器/深度學(xué)習(xí)中最常見的動(dòng)作之一。機(jī)器學(xué)習(xí)模型的調(diào)優(yōu)是最佳化問(wèn)題的一種。我們有一組超參數(shù)（例如：學(xué)習(xí)率，隱藏單元的數(shù)量，等等......）我們的目標(biāo)是找出他們的值的正確組合，這可以幫助我們得到最小值（如損失）或最高值（如函數(shù)的準(zhǔn)確性）。? 此類任務(wù)的最佳解決方案之一是使用平行坐標(biāo)圖（parallel coordinates plot）（圖1）。使用這種類型的圖，我們可以很容易地一起比較不同的變量（例如特征），以發(fā)現(xiàn)可能的關(guān)系。在超參數(shù)優(yōu)化的情況下，這可以作為一個(gè)簡(jiǎn)單的工具來(lái)檢查什么樣的參數(shù)組合可以給我們提供最大的測(cè)試精度。數(shù)據(jù)分析中平行坐標(biāo)圖的另一個(gè)可能用途是檢查數(shù)據(jù)幀中不同特征之間的值之間的關(guān)系。? import plotly.express as pxfig = px.parallel_coordinates(df2, color="mean_test_score" , labels=dict(zip (list(df2.columns), list(['_ '.join (i.split ('_ ')[1 :]) for i in df2.columns]))), color_continuous_scale=px.colors.diverging.Tealrose , color_continuous_midpoint=27 ) fig.show()
圖1: 平行坐標(biāo)超參數(shù)優(yōu)化圖 為了在 Python 中創(chuàng)建平行坐標(biāo)圖，可以使用不同的技術(shù)，如 Pandas、 Yellowbrick、 Matplotlib 或 Plotly。使用所有這些不同方法的一步一步解釋的例子都可以在我的 notebook 鏈接中找到： https://www.kaggle.com/pierpaolo28/parallel-coordinates-plots?scriptVersionId=35973765 最后，另一個(gè)可以用來(lái)創(chuàng)建這種類型的圖的解決方案是Weights & Biases Sweeps。Weights & Biases是一個(gè)免費(fèi)的工具，可以用來(lái)自動(dòng)創(chuàng)建不同的機(jī)器學(xué)習(xí)任務(wù)（如學(xué)習(xí)率曲線，圖模型等等）的圖和日志。個(gè)人和團(tuán)體都適用。 Data Wrapper是一個(gè)免費(fèi)的在線工具，專為創(chuàng)建專業(yè)圖表設(shè)計(jì)。例如，這個(gè)工具被《紐約時(shí)報(bào)》、 Vox 和《連線》等雜志的文章所使用。不需要登錄，所有的過(guò)程都可以在線完成。今年這個(gè)工具額外創(chuàng)建了一個(gè) Python wrapper，可以使用以下方法輕松安裝: 為了使用 Python API，我們還需要注冊(cè) Data Wrapper，進(jìn)入設(shè)置并創(chuàng)建一個(gè) API Key。使用這個(gè) API 鍵，我們就可以遠(yuǎn)程使用Data Wrapper。? 現(xiàn)在，我們可以很容易地創(chuàng)建一個(gè)條形圖，例如，通過(guò)以下幾行代碼，并傳遞一個(gè) Pandas 數(shù)據(jù)幀作為?create _ chart ?函數(shù)的輸入。 from datawrapper import Datawrapperdw = Datawrapper(access_token = "TODO" ) games_chart = dw.create_chart(title = "Most Frequent Game Publishers" , chart_type = 'd3-bars' , data = df) dw.update_description( games_chart['id' ], source_name = 'Video Game Sales' , source_url = 'https://www.kaggle.com/gregorut/videogamesales' , byline = 'Pier Paolo Ippolito' , ) dw.publish_chart(games_chart['id' ])
一旦我們的圖表發(fā)布了，我們就可以在我們的 Data Wrapper 帳戶的創(chuàng)建的圖表列表中找到它。點(diǎn)擊我們的圖表，然后我們會(huì)找到一個(gè)不同選項(xiàng)的列表，我們可以使用以便輕松地共享我們的圖表（例如：嵌入，HTML，PNG，等等）。 在處理時(shí)間序列數(shù)據(jù)時(shí)，有時(shí)如果能夠快速理解我們的模型在哪些數(shù)據(jù)點(diǎn)上表現(xiàn)不佳真的很方便，這樣可以嘗試?yán)斫馑赡苊媾R的限制。? 一種可能的方法是創(chuàng)建一個(gè)匯總表，其中包括實(shí)際值和預(yù)測(cè)值，以及某種形式的度量，用于總結(jié)一個(gè)數(shù)據(jù)點(diǎn)的預(yù)測(cè)好壞。? 使用 Plotly，可以通過(guò)創(chuàng)建一個(gè)繪圖函數(shù)輕松實(shí)現(xiàn): import chart_studio.plotly as pyimport plotly.graph_objs as gofrom plotly.offline import init_notebook_mode, iplotinit_notebook_mode(connected=True ) import plotlydef predreport (y_pred, Y_Test) : diff = y_pred.flatten() - Y_Test.flatten() perc = (abs(diff)/y_pred.flatten())*100 priority = [] for i in perc: if i > 0.4 : priority.append(3 ) elif i> 0.1 : priority.append(2 ) else : priority.append(1 ) print("Error Importance 1 reported in " , priority.count(1 ), "cases\n" ) print("Error Importance 2 reported in" , priority.count(2 ), "cases\n" ) print("Error Importance 3 reported in " , priority.count(3 ), "cases\n" ) colors = ['rgb(102, 153, 255)' ,'rgb(0, 255, 0)' , 'rgb(255, 153, 51)' , 'rgb(255, 51, 0)' ] fig = go.Figure(data=[go.Table(header= dict( values=['Actual Values' , 'Predictions' , '% Difference' , "Error Importance" ], line_color=[np.array(colors)[0 ]], fill_color=[np.array(colors)[0 ]], align='left' ), cells=dict( values=[y_pred.flatten(),Y_Test.flatten(), perc, priority], line_color=[np.array(colors)[priority]], fill_color=[np.array(colors)[priority]], align='left' ))]) init_notebook_mode(connected=False ) py.plot(fig, filename = 'Predictions_Table' , auto_open=True ) fig.show() 然后調(diào)用這個(gè)函數(shù)會(huì)得到以下輸出(請(qǐng)隨意測(cè)試圖3中的表) : Error Importance 1 reported in 34 cases Error Importance 2 reported in 13 cases Error Importance 3 reported in 53 cases 決策樹是機(jī)器學(xué)習(xí)模型中最容易解釋的類型之一。由于它們的基本結(jié)構(gòu)，很容易通過(guò)查看樹的不同分支的條件來(lái)檢查算法是如何決定的。此外，決策樹也可以作為一種特征選擇技術(shù)，考慮到算法將那些對(duì)我們期望的分類/回歸任務(wù)最有價(jià)值的特征置于樹的頂層。通過(guò)這種方式，樹底部的特征可以被丟棄，因?yàn)樗鼣y帶的信息更少。? 可視化分類/回歸決策樹的最簡(jiǎn)單方法之一是使用?sklearn.tree ?中的?export_graphviz 。在本文中，使用了 dtreevz 庫(kù)提供的一種不同的、更完整的方法。 使用這個(gè)庫(kù)，只需使用以下幾行代碼就可以創(chuàng)建一個(gè)分類決策樹: from dtreeviz.trees import * viz = dtreeviz(clf, X_train, y_train.values, target_name ='Genre', feature_names =list(X.columns), class_names =list(labels.unique()), histtype ='bar', orientation ='TD') viz
在圖4中，不同的類用不同的顏色表示。所有不同類的特征分布都表示在樹的起始節(jié)點(diǎn)上。只要我們向下移動(dòng)每個(gè)分支，算法就會(huì)嘗試使用每個(gè)節(jié)點(diǎn)圖下面描述的特征最好地分離不同的分布。沿著分布生成的圓表示在跟隨某個(gè)節(jié)點(diǎn)后正確分類的元素?cái)?shù)量，元素?cái)?shù)量越大，圓的大小就越大。?
決策邊界是圖形化地理解機(jī)器學(xué)習(xí)模型如何進(jìn)行預(yù)測(cè)的最簡(jiǎn)單方法之一。在 Python 中繪制決策邊界的最簡(jiǎn)單方法之一是使用 Mlxtend。這個(gè)庫(kù)實(shí)際上可以用來(lái)繪制機(jī)器學(xué)習(xí)和深度學(xué)習(xí)模型的決策邊界。圖6顯示了一個(gè)簡(jiǎn)單的例子。 from mlxtend.plotting import plot_decision_regions import matplotlib.pyplot as pltimport matplotlib.gridspec as gridspecimport itertoolsgs = gridspec.GridSpec(2 , 2 ) fig = plt.figure(figsize=(10 ,8 )) clf1 = LogisticRegression(random_state=1 , solver='newton-cg' , multi_class='multinomial' ) clf2 = RandomForestClassifier(random_state=1 , n_estimators=100 ) clf3 = GaussianNB() clf4 = SVC(gamma='auto' ) labels = ['Logistic Regression' ,'Random Forest' ,'Naive Bayes' ,'SVM' ] for clf, lab, grd in zip([clf1, clf2, clf3, clf4], labels, itertools.product([0 , 1 ], repeat=2 )): clf.fit(X_Train, Y_Train) ax = plt.subplot(gs[grd[0 ], grd[1 ]]) fig = plot_decision_regions(X_Train, Y_Train, clf=clf, legend=2 ) plt.title(lab) plt.show()
Mlxtend 的一些可能的替代方案是: Yellowbrick、 Plotly 或者一個(gè)普通的 Sklearn 和 Numpy 實(shí)現(xiàn)。使用所有這些不同方法的一步一步的例子都可以在我的notebook的這個(gè)鏈接（Machine Learning Visualization 5）中找到。 此外，在訓(xùn)練期間的決策邊界融合的不同的動(dòng)畫版本可在我的網(wǎng)站上的這個(gè)鏈接（Animated Training ML Model）看到。? 繪 制決策邊界的一個(gè)主要局限性是它們只能在二維或三維空間中很容易地可視化。由于這些限制，因此在繪制決策邊界圖之前，大多數(shù)時(shí)候可能需要降低輸入特征的維數(shù)(使用某種形式的特征提取技術(shù))。 另一個(gè)技術(shù)，在創(chuàng)建新的神經(jīng)網(wǎng)絡(luò)架構(gòu)時(shí)可視化他們的結(jié)構(gòu)是非常有用的。使用 ANN Visualiser 可以很容易地做到這一點(diǎn)(圖7)。 from keras.models import Sequential from keras.layers import Dense from ann_visualizer.visualize import ann_viz model = Sequential() model.add(Dense(units=4,activation='relu', input_dim=7)) model.add(Dense(units=4,activation='sigmoid')) model.add(Dense(units=2,activation='relu')) ann_viz(model, view=True, filename="example", title="Example ANN")
在訓(xùn)練和驗(yàn)證過(guò)程中，能夠自動(dòng)繪制實(shí)時(shí)神經(jīng)網(wǎng)絡(luò)的損失和準(zhǔn)確率，對(duì)于即時(shí)了解網(wǎng)絡(luò)是否隨著時(shí)間的推移而取得進(jìn)展有很大幫助。使用 Livelossplot可以很容易地做到這點(diǎn)。? 在圖8中，是一個(gè)在 Pytorch 中訓(xùn)練一個(gè)變分自動(dòng)編碼器(VAE)時(shí)實(shí)時(shí)創(chuàng)建的損失圖的例子。
圖8: 實(shí)時(shí)VAE訓(xùn)練 使用 Livelossplot，可以很容易地通過(guò)存儲(chǔ)我們想要記錄的所有指標(biāo)在字典中，并在每次迭代結(jié)束時(shí)更新圖表來(lái)實(shí)現(xiàn)。如果我們有興趣創(chuàng)建多個(gè)圖形（例如：一個(gè)是損失，另一個(gè)是整體的準(zhǔn)確率）。 from livelossplot import PlotLossesliveloss = PlotLosses() for epoch in range (epochs ): logs = {} for phase in ['train' , 'val' ]: losses = [] if phase == 'train' : model.train() else : model.eval() for i, (inp, _) in enumerate (dataloaders[phase] ): out , z_mu, z_var = model(inp) rec=F.binary_cross_entropy(out ,inp,reduction='sum' )/ inp.shape[0 ] kl=-0.5 *torch.mean(1 +z_var-z_mu.pow(2 )-torch.exp(z_mu)) loss = rec + kl losses.append(loss.item()) if phase == 'train' : optimizer.zero_grad() loss.backward() optimizer.step() prefix = '' if phase == 'val' : prefix = 'val_' logs[prefix + 'loss' ] = np.mean(losses) liveloss.update(logs) liveloss.send() Livelossplot 還可以與其他庫(kù)如 Keras，Pytorch-Lighting，Bokeh 等一起使用。 變分自動(dòng)編碼器(VAE)是一種用于創(chuàng)建一些輸入數(shù)據(jù)的潛在表示的概率生成模型（如圖片），這種表示能夠簡(jiǎn)明地理解原始數(shù)據(jù)并從中生成全新的數(shù)據(jù)（例如用不同形象的汽車設(shè)計(jì)訓(xùn)練 VAE 模型，然后可以使模型創(chuàng)造全新的想象的汽車設(shè)計(jì)）。? 繼續(xù)從使用 Livelossplot 訓(xùn)練的變分 Autoencoder 示例，我們甚至可以通過(guò)檢查潛在空間（圖9）如何從一個(gè)迭代變化到另一個(gè)迭代（即我們的模型隨著時(shí)間的推移改進(jìn)了多少，以區(qū)分不同的類) ，使我們的模型更有趣。? 這可以很容易地通過(guò)在前面的訓(xùn)練循環(huán)中添加以下函數(shù)來(lái)實(shí)現(xiàn): def latent_space (model, train_set, it='' ) : x_latent = model.enc(train_set.data.float()) plt.figure(figsize=(10 , 7 )) plt.scatter(x_latent[0 ][:,0 ].detach().numpy(), x_latent[1 ][:,1 ].detach().numpy(), c=train_set.targets) plt.colorbar() plt.title("VAE Latent Space" , fontsize=20 ) plt.xlabel("X" , fontsize=18 ) plt.ylabel("Y" , fontsize=18 ) plt.savefig('VAE_space' +str(it)+'.png' , format='png' , dpi=200 ) plt.show()
最后，一個(gè)類似的過(guò)程可以被應(yīng)用，來(lái)實(shí)時(shí)可視化我們的 VAE 如何從迭代到迭代改進(jìn)生成真實(shí)的圖像(圖10)。 def manifold (model, it='' , n=18 , size=28 ): result = torch.zeros((size * n, size * n)) # Defyining grid space s, s2 = torch.linspace(-7 , 7 , n), torch.linspace(7 , -7 , n) grid_x, grid_y = torch.std(s)*s, torch.std(s2)*s2 for i, y_ex in enumerate (grid_x ): for j, x_ex in enumerate (grid_y ): z_sample = torch.repeat_interleave(torch.tensor([ [x_ex, y_ex ]]),repeats=batch_size, dim=0 ) x_dec = model.dec(z_sample) element = x_dec[0 ].reshape(size, size).detach() result[i * size: (i + 1 ) * size, j * size: (j + 1 ) * size] = element plt.figure(figsize=(12 , 12 )) plt.title("VAE Samples" , fontsize=20 ) plt.xlabel("X" , fontsize=18 ) plt.ylabel("Y" , fontsize=18 ) plt.imshow(result, cmap='Greys' ) plt.savefig('VAE' +str(it)+'.png' , format='png' , dpi=300 ) plt.show()
圖10: ?VAE 漸漸改進(jìn)生成新的數(shù)字 我個(gè)人網(wǎng)站有一個(gè)使用 ONNX 在線部署的變分自動(dòng)編碼器的實(shí)際演示，可以實(shí)時(shí)進(jìn)行推理。鏈接： https://pierpaolo28.github.io/Projects/ONNX/home.html?fbclid=IwAR13tKnQFfobSq4udV-N9FMfFZ6wUmAvU7GVn5yl0Cj4ttOw3uyl6TNNbMw 神經(jīng)網(wǎng)絡(luò) Embeddings 是為了學(xué)習(xí)如何將某種形式的類別數(shù)據(jù)轉(zhuǎn)換為數(shù)值數(shù)據(jù)而設(shè)計(jì)的一類神經(jīng)網(wǎng)絡(luò)。與使用其他技術(shù)（如 One Hot Encoding）相比，使用 Embeddings 可能有相當(dāng)大的優(yōu)勢(shì)，因?yàn)樵谵D(zhuǎn)換數(shù)據(jù)時(shí)，它們能夠了解數(shù)據(jù)的特征，從而構(gòu)建一個(gè)更簡(jiǎn)潔的表示（創(chuàng)建一個(gè)潛在空間）。最著名的兩種預(yù)訓(xùn)練的 word embeddings 是 word2vec 和 Glove。? 一個(gè)簡(jiǎn)單的例子，我們現(xiàn)在要繪制一個(gè)代表不同圖書作者的 embed 空間。首先，我們需要在一些可用的數(shù)據(jù)上創(chuàng)建一個(gè)訓(xùn)練模型，然后訪問(wèn)模型 ?embedded 層(在這種情況下稱為embed )的訓(xùn)練權(quán)重，并將它們存儲(chǔ)在一個(gè)數(shù)據(jù)幀中。完成這個(gè)過(guò)程后，我們只需繪制三個(gè)不同的坐標(biāo)(圖11)。 import matplotlib.pyplot as pltfrom mpl_toolkits.mplot3d import axes3d, Axes3Dembedding_weights=pd.DataFrame(model.embed.weight.detach().numpy()) embedding_weights.columns = ['X1' ,'X2' ,'X3' ] fig = plt.figure(num=None , figsize=(14 , 12 ), dpi=80 , facecolor='w' , edgecolor='k' ) ax = plt.axes(projection='3d' ) for index, (x, y, z) in enumerate(zip(embedding_weights['X1' ], embedding_weights['X2' ], embedding_weights['X3' ])): ax.scatter(x, y, z, color='b' , s=12 ) ax.text(x, y, z, str(df.authors[index]), size=12 , zorder=2.5 , color='k' ) ax.set_title("Word Embedding" , fontsize=20 ) ax.set_xlabel("X1" , fontsize=20 ) ax.set_ylabel("X2" , fontsize=20 ) ax.set_zlabel("X3" , fontsize=20 ) plt.show()
在這個(gè)例子中，網(wǎng)絡(luò)的 embedding 維數(shù)被直接設(shè)置為3，以便于創(chuàng)建三維可視化。另一種可能的解決方案可能是使用較高的 embedding 輸出大小，然后應(yīng)用某種形式的特征提取技術(shù)（例如t-SNE，PCA 等）以便觀察結(jié)果。? 另一個(gè)可以用來(lái)可視化分類數(shù)據(jù)的有趣技術(shù)是 Wordclouds (圖12)。例如，這種類型的表示可以通過(guò)創(chuàng)建一個(gè)圖書作者名字的字典以及在數(shù)據(jù)集中他們各自的頻率計(jì)數(shù)來(lái)實(shí)現(xiàn)。然后，在數(shù)據(jù)集中出現(xiàn)得更頻繁的作者將用更大的字體大小在圖中表示。 from wordcloud import WordCloudd = {} for x, a in zip(df.authors.value_counts(), df.authors.value_counts().index): d[a] = x wordcloud = WordCloud() wordcloud.generate_from_frequencies(frequencies=d) plt.figure(num=None , figsize=(12 , 10 ), dpi=80 , facecolor='w' , edgecolor='k' ) plt.imshow(wordcloud, interpolation="bilinear" ) plt.axis("off" ) plt.title("Word Cloud" , fontsize=20 ) plt.show()
像往常一樣，完整的代碼可以在我的 Github （pierpaolo28/Data-Visualization）上找到。 可解釋的人工智能如今是一個(gè)不斷發(fā)展的研究領(lǐng)域。在決策應(yīng)用(如就業(yè))中使用人工智能最近引起了個(gè)人和當(dāng)局的一些關(guān)注。這是因?yàn)椋谑褂蒙疃壬窠?jīng)網(wǎng)絡(luò)時(shí)，目前還不可能(至少在很大程度上)理解算法在執(zhí)行預(yù)定任務(wù)時(shí)執(zhí)行的決策過(guò)程。由于決策過(guò)程缺乏透明度，公眾可能會(huì)對(duì)模型本身的可信度感到困惑。因此，為了防止人工智能模型中出現(xiàn)任何形式的偏見，對(duì)可解釋人工智能的需求正在成為下一個(gè)確定的進(jìn)化步驟。在過(guò)去的幾年中，不同的可視化技術(shù)被引入，以使機(jī)器學(xué)習(xí)更加易于理解，例如: 卷積神經(jīng)網(wǎng)絡(luò)濾波器和特征圖的研究
圖網(wǎng)絡(luò)
基于貝葉斯的模型
因果推理應(yīng)用于機(jī)器學(xué)習(xí)
本地/全局代理模型
引入局部可解釋模型-無(wú)關(guān)解釋(LIME)和 Shapley 值
如果你對(duì)如何使機(jī)器學(xué)習(xí)模型更加易于理解感興趣，目前在 Python 中為了將可解釋的人工智能應(yīng)用到深度學(xué)習(xí)中，兩個(gè)最有趣的庫(kù)是 Pytorch的Captum 和 XAI。? 由于這個(gè)研究領(lǐng)域正在不斷改進(jìn)，我將在未來(lái)的一篇專門討論可解釋人工智能的文章中涵蓋所有這些不同的主題(甚至更多)。 總結(jié) 如果你有興趣了解更多的機(jī)器學(xué)習(xí)可視化技術(shù)，Python Yellowbrick 庫(kù)正是聚焦這個(gè)話題。提供的可視化工具包括: 特征排序、 ROC/AUC 曲線、 K-Elbow 圖和各種文本可視化技術(shù)。? 最后，在過(guò)去的幾年里，為了使機(jī)器學(xué)習(xí)的可視化更加容易，不同的框架已經(jīng)開始進(jìn)化了，比如 TensorBoard，Weights & Biases 和 Neptune.ai。 https://towardsdatascience.com/machine-learning-visualization-fcc39a1e376a 推薦閱讀
?ACCV 2020國(guó)際細(xì)粒度網(wǎng)絡(luò)圖像識(shí)別競(jìng)賽 正式開賽！
添加極市小助手微信 （ID : cvmart2） ，備注： 姓名-學(xué)校/公司-研究方向-城市 （如：小極-北大-目標(biāo)檢測(cè)- 深圳），即可申請(qǐng)加入 極市目標(biāo)檢測(cè)/圖像分割/工業(yè)檢測(cè)/人臉/醫(yī)學(xué)影像/3D/SLAM/自動(dòng)駕駛/超分辨率/姿態(tài)估計(jì)/ReID/GAN/圖像增強(qiáng)/OCR/視頻理解 等技術(shù)交流群： 每 月大咖直播分享、真實(shí)項(xiàng)目需求對(duì)接、求職內(nèi)推、算法競(jìng)賽、干貨資訊匯總、 與? 10000+ 來(lái)自 港科大、北大、清華、中科院、CMU、騰訊、百度 等名校名企視覺開發(fā)者互動(dòng)交流 ~ △長(zhǎng)按關(guān)注極市平臺(tái)，獲取 最新CV干貨 覺得有用麻煩給個(gè)在看啦~ ??
