“……所以說蘇神你是想要一個高維特徵的正交損失?”
在和蘇飛一陣交流後,陸濤理解到了蘇飛的意圖。
“對,而且不能是簡單地用兩個高維向量的內積,高維特徵的內積幾乎都是0,這沒有什麼意義。”蘇飛說道。
陸濤點了點頭,道:“的確如此,高維向量幾乎都是兩兩正交,畢竟隨著維數的增加,它們在歐幾里得空間中在對方的方向上的投影也都越來越接近於零,數值太小就沒有作為損失函式的意義了。”
“或許可以轉換它們的內積,先把高維特徵的表示方式轉換一下再做內積,比如說把高維特徵轉換成三角函式系的表示方式,三角函式系的正交性比較好,而且函式都是光滑且連續的,求導也方便,當然,除了三角函式系,還有assh函式系和haar函式系只是一知半解,但聽到三角函式系,便不禁點點頭,說道:“傅立葉變換就是利用三角函式系的正交性構造而成的,我之前也有系統研究過傅立葉變換以及與之相對應的小波變換,它的實用性確實很高。”
“蘇神,其實還可以考慮構造多項式,具有正交性的多項式還是不少的,比如切比雪夫多項式、勒讓多項式、拉蓋爾多項式之類的,效果應該也不差。”陸濤補充道。
啥玩意?
蘇飛一臉懵逼,除了切比雪夫多項式他有些瞭解外,另外兩個聽都沒聽過。
當然,這不妨礙他點點頭表示贊同。
“還有一種思路,先把高維特徵進行降維,只要維數降下來,內積自然而然就會增大,這樣一來把它們的內積作為損失函式效果肯定不差。”陸濤沉思了一會兒,又道:“只不過降維必定會丟失部分資訊,會影響模型的效能。”
“損失函式對模型效能的影響更大,所以我覺得降維這個方法可行,只不過到時候要找到一個平衡兩者的中間值,這主要取決於降維方法和降低的維數。”
蘇飛倒是頗為贊同這個提案,雖然降維必定會丟失資訊,但兩害相較取其輕,很多時候沒有完美的辦法。
陸濤的這個思路真的不錯……只能說不愧是數學系的學神麼,就這麼一會兒功夫,就拿出了三個思路。
果然,專業的事還是得拜託專業的人啊。
陸濤和蘇飛兩人討論了好一會兒,研究室的師兄師姐們都被這倆學神給驚到了,這倆人的語速那可是相當快,嘴裡蹦出的一個個專業名詞整得他們一臉懵,簡直就像在進行加密通話一樣,生怕別人能聽懂。
這倆人甚至一邊說還一邊在草稿紙上寫寫畫畫,這思考速度簡直就不是凡人能比的。
“……蘇神,我會先去試試降維方法,降維完後再變換函式系試試。”
“行,那麻煩你了。”
蘇飛和他討論完也是一陣口乾舌燥,也很慶幸還好自己的智力和精神力都有20+,如果是三個月前的自己,今天這場學術交流還真有很大可能跟不上對方的速度。
“休息休息再走吧,我給你泡杯茶。”
蘇飛看著起身準備離去的陸濤,笑著說道。
“這……有人還在等我。”
陸濤頗有些為難地輕聲說道。
“白綠……白珊珊?”
差點一個白綠茶脫口而出,蘇飛內心直道好險好險。
陸濤罕見地有些窘迫且臉紅地點了點頭。
陸濤還是被白珊珊吃的死死的啊……這一點還是和之前一樣。
“陸兄,你這就不懂了,有時候讓女孩子適當地等一等,才能激起她們的危機感,進一步推動你的攻略大業。”蘇飛靠過去輕聲地對陸濤說道。
“但珊珊她很討厭不準時的男孩子……”
蘇飛直接對陸濤翻了個白眼,他對白珊珊印象很深刻的一點是,這女孩子在腦競集訓的時候從來沒準時過,結果現在反手把陸濤給訓練成準點男孩?
不愧是白綠茶,有點手段。
“陸兄,你怎麼知道她很討厭不準時的男孩子?”
聽到這個問題,陸濤一愣,道:“之前有個男生就是這樣被珊珊討厭了。”
“那應該是這個男生先被白同學討厭了,不準時只是一個藉口吧。”蘇飛繼續說道:“如果一個女孩子對你無感,你生活中的一舉一動那就都是藉口,說不定還會因為左腳先跨進門就直接pass掉你。”
“這麼誇張?”陸濤目瞪口呆。
“感性生物,你得理解,她們和數學公式是完全相反的玩意。”蘇飛聳了聳肩,道:“但如果是對你有好感的女孩,遲到一兩分鐘興許還能激起她們的危機意識,結果或許又不一樣了。”
“……這樣麼,看來是我孤陋寡聞了。”
“所以,喝個茶再走吧?”
“……”