在深度學(xué)習(xí)領(lǐng)域，人們常用遠(yuǎn)程云服務(wù)器進(jìn)行研究，但這其中存在的難題卻讓許多人感到頭疼。比如，環(huán)境的搭建、保存以及數(shù)據(jù)的遠(yuǎn)程傳輸，這些問(wèn)題處理起來(lái)都挺復(fù)雜。

深度學(xué)習(xí)環(huán)境搭建之鏡像選擇

阿里云等云服務(wù)平臺(tái)上購(gòu)買(mǎi)服務(wù)器并創(chuàng)建實(shí)例時(shí)，用戶(hù)可以選擇預(yù)配置的鏡像。這樣做有幾個(gè)優(yōu)點(diǎn)，比如能減少搭建環(huán)境以及安裝顯卡驅(qū)動(dòng)所需的時(shí)間。記得2018年我進(jìn)行一個(gè)圖像識(shí)別項(xiàng)目時(shí)，就是選擇了現(xiàn)成的鏡像，前期準(zhǔn)備工作非常迅速。不過(guò)，這種方法也有其局限性。比如，若對(duì)深度學(xué)習(xí)框架的版本有特定需求，可能會(huì)遇到一些麻煩。就有一位同事因此在使用過(guò)程中遇到了軟件兼容性的問(wèn)題。

自己動(dòng)手搭建環(huán)境，別忘了安裝必要的框架，比如TensorFlow或PyTorch，還有像numpy這樣的數(shù)據(jù)處理庫(kù)。同時(shí)，顯卡驅(qū)動(dòng)也不能忽視，還得留意它們之間的版本匹配。我有個(gè)朋友就為此頭疼了很久，直到搞清楚CUDA和深度學(xué)習(xí)框架版本兼容的問(wèn)題。

深度學(xué)習(xí)環(huán)境搭建之框架與庫(kù)

安裝深度學(xué)習(xí)相關(guān)框架和庫(kù)需謹(jǐn)慎。不僅包括之前提到的核心框架，可能還需額外安裝如Keras等。這些框架和庫(kù)間有版本匹配的要求。例如，GPU相關(guān)的GCC、CUDA、cuDNN與Keras等，它們的版本必須匹配。2019年我參與情感分析項(xiàng)目時(shí)，因未妥善處理版本問(wèn)題，導(dǎo)致模型訓(xùn)練出錯(cuò)。各版本間就像拼圖，一旦某一塊出錯(cuò)，整個(gè)拼圖就無(wú)法完成。選擇版本時(shí)，需綜合考慮研究目標(biāo)和個(gè)人數(shù)據(jù)情況。

安裝過(guò)程中常常會(huì)遇到一些預(yù)料之外的問(wèn)題，例如依賴(lài)項(xiàng)不匹配等情況。在這種情況下，我們通常需要上網(wǎng)搜索相關(guān)信息或向技術(shù)論壇求助。以我之前安裝matplotlib庫(kù)的經(jīng)歷為例，就遇到了依賴(lài)項(xiàng)的問(wèn)題，花費(fèi)了不少時(shí)間才最終解決。

已搭建環(huán)境的保存之自定義鏡像

自行搭建的環(huán)境云服務(wù)器，通過(guò)制作個(gè)性化鏡像是一種不錯(cuò)的選擇。例如，在進(jìn)行科研工作時(shí)，保存階段性環(huán)境顯得尤為重要。這樣做可以在實(shí)例釋放后，快速恢復(fù)原有環(huán)境。有團(tuán)隊(duì)曾因忽視這一點(diǎn)，每次重建環(huán)境都耗費(fèi)了大量時(shí)間。制作個(gè)性化鏡像需遵循既定的操作步驟。

采用按量計(jì)費(fèi)并做好數(shù)據(jù)備份可以有效減少開(kāi)支。實(shí)驗(yàn)結(jié)束后，記得把數(shù)據(jù)保存在安全的地方，比如個(gè)人電腦或遠(yuǎn)程的安全存儲(chǔ)庫(kù)。這樣，你就可以安心地關(guān)閉實(shí)例，從而節(jié)省費(fèi)用。2020年，有一支新成立的研究團(tuán)隊(duì)就因?yàn)槲催M(jìn)行數(shù)據(jù)備份，導(dǎo)致數(shù)據(jù)丟失，不得不從頭開(kāi)始。

創(chuàng)建實(shí)例時(shí)需挑選恰當(dāng)?shù)母顿M(fèi)模式，例如按需付費(fèi)。一家初創(chuàng)企業(yè)對(duì)此尤為重視成本管理，長(zhǎng)期堅(jiān)持使用按需付費(fèi)，通過(guò)巧妙安排工作時(shí)間段，節(jié)省了大量費(fèi)用。每次進(jìn)行實(shí)驗(yàn)前，他們都會(huì)從自定義鏡像啟動(dòng)實(shí)例，實(shí)驗(yàn)結(jié)束后，則依照規(guī)定流程進(jìn)行后續(xù)處理。

需結(jié)合個(gè)人實(shí)際情況合理安排實(shí)例的釋放與創(chuàng)建時(shí)間。對(duì)于依賴(lài)環(huán)境較少的簡(jiǎn)易實(shí)驗(yàn)，可適當(dāng)縮短實(shí)例釋放的周期。至于那些持續(xù)時(shí)間較長(zhǎng)的項(xiàng)目，在釋放實(shí)例之前，務(wù)必仔細(xì)核對(duì)數(shù)據(jù)備份是否完整等相關(guān)事宜。

遠(yuǎn)程數(shù)據(jù)的傳輸之后臺(tái)運(yùn)行

使用深度學(xué)習(xí)模型時(shí)，若長(zhǎng)時(shí)間無(wú)人操作，網(wǎng)絡(luò)連接可能會(huì)中斷。因此，讓模型在后臺(tái)持續(xù)運(yùn)行是很有必要的。記得有一次，我在訓(xùn)練模型時(shí)，早上開(kāi)始連接并啟動(dòng)訓(xùn)練，可中午吃飯回來(lái)發(fā)現(xiàn)連接已斷。后來(lái)我才明白，應(yīng)該讓模型后臺(tái)運(yùn)行。這樣做可以防止軟件中斷，減少因重新開(kāi)始訓(xùn)練帶來(lái)的麻煩。

運(yùn)行于后臺(tái)能夠有效提升效率。在日常工作之余，人們常交流模型進(jìn)展，后臺(tái)運(yùn)行確保了進(jìn)程不會(huì)因意外而停滯。對(duì)于那些有特定顯示要求或需實(shí)時(shí)監(jiān)控的模型，則需考慮更細(xì)致的配置。

遠(yuǎn)程數(shù)據(jù)的傳輸之傳輸工具

若需進(jìn)行數(shù)據(jù)遠(yuǎn)程傳輸，使用putty或scp、pscp等軟件非常實(shí)用。只需在本地系統(tǒng)上安裝pscp.exe并將其置于指定文件夾。我們的數(shù)據(jù)分析師常借助這些軟件在本地與云端服務(wù)器間進(jìn)行數(shù)據(jù)交換。不同操作系統(tǒng)在安裝時(shí)可能存在差異，需注意相關(guān)要求和細(xì)節(jié)。

傳輸數(shù)據(jù)時(shí)，安全性同樣不容忽視。以涉及隱私的數(shù)據(jù)集為例，必須保證傳輸通道的加密措施。當(dāng)傳輸大量數(shù)據(jù)時(shí)，速度可能會(huì)降低，因此需要對(duì)網(wǎng)絡(luò)帶寬做出合理預(yù)估。

source activate tensorflow_env # 激活深度學(xué)習(xí)環(huán)境
nohup jupyter notebook & # 后臺(tái)運(yùn)行并將數(shù)據(jù)保存到nohup.out文件中
nohup jupyter notebook --allow-root & # 如果是root用戶(hù)
ps -aux | grep jupyter # 查看jupyter notebook進(jìn)程號(hào)，假設(shè)是1842
kill -9 1842 # 停止后臺(tái)運(yùn)行

在使用遠(yuǎn)程云服務(wù)器進(jìn)行深度學(xué)習(xí)模型訓(xùn)練時(shí)，大家是否遇到了一些獨(dú)特的問(wèn)題？歡迎大家在評(píng)論區(qū)留言、點(diǎn)贊以及轉(zhuǎn)發(fā)這篇文章。