近日來,國產(chǎn)開源大模型 DeepSeek 在自然語言處理和多任務(wù)推理方面展現(xiàn)了強(qiáng)大的技術(shù)實(shí)力,但在面對越獄攻擊等安全性挑戰(zhàn)時(shí)仍存在一定局限性。為此,清華團(tuán)隊(duì)提出了基于模型自我提升的安全對齊方式,將安全對齊與內(nèi)省推理相結(jié)合,使大語言模型能夠通過具有安全意識(shí)的思維鏈分析來檢查潛在風(fēng)險(xiǎn),實(shí)現(xiàn)基礎(chǔ)模型自身能力的自主進(jìn)化。
基于該方法,團(tuán)隊(duì)對 DeepSeek-R1 系列模型進(jìn)行后訓(xùn)練,正式推出 RealSafe-R1 系列大模型。實(shí)驗(yàn)數(shù)據(jù)表明,RealSafe-R1 安全性提升顯著,在多個(gè)基準(zhǔn)測試中有效增強(qiáng)了對各種越獄攻擊的抵抗力,并減輕了安全與性能之間的“蹺蹺板”現(xiàn)象。
據(jù)悉,RealSafe-R1 各尺寸模型及數(shù)據(jù)集將于近期向全球開發(fā)者開源。
來源丨人民網(wǎng)
