久久九九热re6这里只有精品,国产亚洲欧洲精品,欧美在线综合在线,国产精品一区二区无线

<menuitem id="3wyru"></menuitem>
  • 
    
    <td id="3wyru"><menuitem id="3wyru"></menuitem></td>

    <address id="3wyru"></address>
  • 中國(guó)科學(xué)院院士何積豐:利用對(duì)齊技術(shù)為大模型戴上“緊箍咒”

    時(shí)間:2023-09-07 17:37:03 來(lái)源: 藍(lán)鯨財(cái)經(jīng)



    (相關(guān)資料圖)

    模型的通用能力讓其能夠應(yīng)用到人類生產(chǎn)生活的各個(gè)場(chǎng)景中,可謂 " 無(wú)孔不入 "。AI 的發(fā)展因此帶來(lái)了新的安全隱私問(wèn)題,如何解決這一隱患,9 月 7 日開(kāi)幕的 2023INCLUSION · 外灘大會(huì)上,中國(guó)科學(xué)院院士何積豐開(kāi)出了他的 " 藥方 ":利用對(duì)齊技術(shù)為大模型戴上緊箍咒。

    何積豐院士認(rèn)為,大模型的安全問(wèn)題主要是在未經(jīng)同意的情況下,收集、使用和泄露個(gè)人信息。隱私問(wèn)題既可能發(fā)生在訓(xùn)練過(guò)程,也可能發(fā)生在使用過(guò)程中,而大模型的生成能力則讓 " 隱私泄露 " 的方式變得多樣化,造成隱私保護(hù)更加困難。

    " 為了應(yīng)對(duì)這些問(wèn)題,我們需要大模型對(duì)齊技術(shù)。" 何積豐說(shuō)," 對(duì)齊(alignment)" 是指系統(tǒng)的目標(biāo)和人類價(jià)值觀一致,使其符合設(shè)計(jì)者的利益和預(yù)期,不會(huì)產(chǎn)生意外的有害后果。" 如果把人工智能看作西游記里的孫悟空,‘對(duì)齊’就是唐僧的緊箍咒。有了緊箍咒,就可以保證技術(shù)不會(huì)任意使用能力胡作非為。"

    不過(guò),對(duì)齊技術(shù)同樣面臨挑戰(zhàn)。首先,對(duì)齊的基礎(chǔ),人類的價(jià)值觀是多元且動(dòng)態(tài)變化的,需要保證大模型為人服務(wù)、與人為善;其次,大模型的有用性與無(wú)害性之間目標(biāo)也不完全一致。如何對(duì)錯(cuò)誤進(jìn)行有效糾正,設(shè)好大模型的 " 緊箍咒 " 也是挑戰(zhàn)。

    因此,對(duì)齊技術(shù)已經(jīng)成為了一項(xiàng)令人眼花繚亂的跨學(xué)科研究,不僅考驗(yàn)技術(shù),也審視文化。

    何積豐介紹,反饋強(qiáng)化學(xué)習(xí)是實(shí)現(xiàn)對(duì)齊的技術(shù)途徑,目前有兩種方式,一種方式是通過(guò)人工反饋給模型不同的獎(jiǎng)勵(lì)信號(hào),引導(dǎo)模型的高質(zhì)量輸出;另一種方式,事先給大模型提供明確的原則,系統(tǒng)自動(dòng)訓(xùn)練模型對(duì)所有生成的輸出結(jié)果提供初始排序。" 這意味著,不僅智能系統(tǒng)需要向人類價(jià)值觀對(duì)齊,人類的訓(xùn)練方法也要向價(jià)值觀對(duì)齊。" 何積豐說(shuō)。

    關(guān)鍵詞:

    網(wǎng)站簡(jiǎn)介 網(wǎng)站團(tuán)隊(duì) 本網(wǎng)動(dòng)態(tài) 友情鏈接 版權(quán)聲明 我要投稿

    Copyright? 2014-2020 中原網(wǎng)視臺(tái)(ju8hn6.cn) All rights reserved.