蘇飛想了想，決定把上次的模型引數和這次的模型引數一起上傳，上次的實驗結果在速度上比這次快，但分數只有27.3，而這次的實驗結果雖然速度慢了點，但分數又漲了1分。
這歸根結底，其實是第一次實驗時引數比較少，所以計算量小，速度快，精度低。
但無論哪次實驗結果，無論速度還是精度，都大大優於目前的主流模型。
<erer，而把第二次新增引數後的模型命名為transforerer。
額，我算不算自己給自己打補丁？
蘇飛突然感覺自己的做法有些奇怪，搞得像是遊戲程式碼的維修老師傅一樣。
因為論文的框架之前就已經打好了，這次蘇飛直接做好圖和資料，新增進論文裡，《attention is a need》這篇論文就完稿了。
蘇飛登入ac的收稿網站，直接把論文和程式碼庫一起傳了上去。
ac這個頂會的審稿效率比aaai要高得多。
ac採用滾動審稿機制，這個審稿機制能保證投稿人的論文在一個月內被審稿，這也就保證了不會出現一篇論文因為遲遲不審稿而錯過截止日期的尷尬情況。
也正是有這種滾動審稿機制，原本許多想投aaai的論文轉投到了ac這邊，就是因為這邊有保障啊。
投到aaai那邊，審稿時間就是看審稿人心情，質量好的論文還好說，只要能一輪完成審稿，幾乎都趕得上時間，但問題是投這種頂會的很多論文都是不上不下，卡在及格線邊緣的，這些論文趕不趕得上截止日期純憑運氣。
隨著蘇飛提交成功，論文狀態被修改為“已分配ac”，意思是蘇飛的論文被提交給了領域主席，ac的領域主席和aaai的技術編輯很像，就是先初篩一遍這篇論文，如果是垃圾論文，那就沒必要轉交給審稿人了，順便再查下實驗內容有沒有違反道德或者論文表述過不過關之類的。
‘系統，使用插隊卡。’
上次蘇飛買了一張插隊卡還沒用，這次直接就用上了。
由於ac的獨特機制，他倒不擔心會因為審稿問題而錯過截止日期，但如果能儘快出結果他也是十分樂意的。
這章沒有結束，請點選下一頁繼續閱讀！
差不多十幾分鍾，蘇飛的郵箱就收到了提示，他的論文狀態被修改為“正在審稿”。
不過，這個過程估計得蠻久的，審稿的流程上，ac和aaai有些類似，也是採用完全的盲審制度，但與aaai不同的是，ac只會聘請三位審稿人，一輪審完，然後最神奇的來了，最後把審稿意見還得返還給領域主席，由審稿人和領域主席一起討論，決定錄不錄用這篇論文，這個討論的過程可能會耗點時間。<er終於被投了出去，蘇飛也是伸了個懶腰。
這篇論文他傾注的心血不可謂不多啊，系統的兩張靈感激發卡，又死皮賴臉地向老趙借了一個月的伺服器使用許可權，而且還把這伺服器給霸權了。
為了讓模型的效能達到最佳，他兩次調參實驗，因為他不想讓transforer像eo一樣，在實驗任務和一些細節上顯得粗糙，他想盡量讓這個模型達到完美。
近十年來，有多少深度學習和機器學習的專家們都在嘗試用注意力機制做文章，每個人都知道注意力機制有大用，但又都無法將它的功效發揮的淋漓盡致。
注意力機制就像是深度學習這顆大樹上的誘人的粉嫩果實，每個人都想踮起腳尖去採摘這水嫩嫩的嫣紅，然而從沒人真正品嚐到它的魅力。
而今天，蘇飛算是把這果實連枝帶葉一起帶走了。
喜歡學霸從談戀愛開始請大家收藏：()學霸從談戀愛開始書更新速度全網最快。
