全部文章Ta的評論
- RetroMAE是一種預訓練框架,主要用于提升模型的語義表征能力。該框架基于經典的掩碼自編碼器(Masked Auto-Encoder, MAE)架構進行設計,其核心思想是在輸入文本中進行掩碼操作,然后讓模型嘗試恢復原始文本,以此學習到文本的深層語義結構。本文將從RetroMAE的論文出發,結合實際實驗效果對該框架進行較為詳細地介紹。賀****茜2024-06-282130
- 對比學習是一種自監督學習方法,主要使用在不同上下文中出現的相同事物的兩種表現形式來訓練模型。為了能夠更好的完成對比學習過程,需要設置合適的損失函數,本文對CoSENT-Loss、Angle-Loss、IN-BATCH NEGATIVE-Loss以及IFM(隱式特征修改)等四種不同的損失函數進行了論文的分析介紹,并進行了對比實驗,對實驗結果分析不同loss的優缺點。賀****茜2024-05-227870
- 在研發過程中,經常會碰見需要連接ssh到服務器上的情況,有時候網絡等原因會導致ssh斷開,使得正在運行的程序斷掉,尤其是在模型訓練的過程中,重新運行和訓練模型又會浪費較多時間。tmux指令是Linux系統中為了避免ssh斷開而導致正在運行的程序終止的一個很好用的命令,本文將對tmux的安裝以及常用指令進行介紹。賀****茜2023-06-261770
- 賀****茜2023-05-126460
共 4 條
- 1
頁
沒有更多了
個人簡介
暫未填寫公司和職務
暫未填寫個人簡介
暫未填寫技能專長
暫未填寫畢業院校和專業
個人成就
共發表過 4 篇文章
文章獲得 0 次贊同
文章被瀏覽 1823 次
獲得 0 人關注
個人榮譽查看規則