Tommy Huang
1 min readApr 14, 2020

--

深度學習鮮少在用CV做參數搜尋,因為上一篇回答已經達過時間會很長不太可能把幾百萬組組合都跑過還找參數,就算是NAS系列搜尋模型已經夠可怕,也不可能所有狀況都跑過。

而一般論文大多數是直接在不同參數進行grid search比較,比如lr=0.05, 0.1,0.2。lr = 0.05, 0.1, 0.2各自訓練一個模型然後看test performance比較看個最好。大多是ImageNet比較都是這樣,當然原因是資料量夠大,訓練的樣本資料已經假設足以涵蓋整個母體空間。

如果是你的case,這個方式做出來,基本上就是只適合你資料集的參數。也是一般論文會採用的比較方法,如果你是做論文這樣是最適合的。如果是做產品建議你再多收一些數據來訓練和測試。

--

--

Tommy Huang
Tommy Huang

Written by Tommy Huang

怕老了忘記這些吃飯的知識,開始寫文章記錄機器/深度學習相關內容。Medium現在有打賞功能(每篇文章最後面都有連結),如果覺得寫的文章不錯,也可以Donate給個Tipping吧。黃志勝 Chih-Sheng Huang (Tommy), mail: chih.sheng.huang821@gmail.com

Responses (1)