近幾個(gè)月來，以 ChatGPT 為代表的生成式人工智能狂飆突進(jìn)，大模型時(shí)代已然降臨。在 " 百模大戰(zhàn) " 越戰(zhàn)越酣之時(shí)，大模型其內(nèi)生及衍生安全威脅也愈演愈烈，數(shù)據(jù)泄露、幻想、生產(chǎn)歧視、排斥和有害內(nèi)容等安全問題層出不窮。如何將制約大模型應(yīng)用發(fā)展的 " 絆腳石 " 變?yōu)?" 壓艙石 "？

(資料圖片)

7 月 7 日，在 2023 世界人工智能大會上，清華大學(xué)人工智能研究院孵化企業(yè)瑞萊智慧（RealAI）發(fā)布了全新人工智能安全平臺 RealSafe3.0，為加速發(fā)展的大模型系好 " 安全帶 "、把好 " 方向盤 "。

"雙刃劍"效應(yīng)，制約大模型落地

新技術(shù)往往會伴隨新的安全問題。自人工智能誕生的那一刻起，創(chuàng)造技術(shù)的力量和控制技術(shù)的力量就存在不對等，大模型亦是如此。盡管它的強(qiáng)大讓人類瞥見了通用人工智能的曙光，但也讓眾多學(xué)界、業(yè)界人士心生憂懼。近段時(shí)間，關(guān)于大模型的安全隱患多次被提及，比如秘密文件可能遭泄露、添加無意義的字符后大模型竟給出完全相反的回答、輸出違法有害信息、隱含某些偏見和歧視內(nèi)容等。

這些風(fēng)險(xiǎn)已引起各國高度關(guān)注。國家互聯(lián)網(wǎng)信息辦公室 4 月 11 日起草《生成式人工智能服務(wù)管理辦法 ( 征求意見稿 ) 》；歐盟于 6 月 14 日投票通過了《人工智能法案》，全球 400 多位專家甚至發(fā)布聯(lián)名公開信，提出對于人工智能發(fā)展過快、同時(shí)缺乏監(jiān)管的擔(dān)憂。

瑞萊智慧聯(lián)合創(chuàng)始人、算法科學(xué)家蕭子豪認(rèn)為，大模型 " 落地難 "，本質(zhì)是因?yàn)楫?dāng)前仍處于 " 野蠻生長 " 階段，還未找到場景、風(fēng)險(xiǎn)和規(guī)范三者間的平衡點(diǎn)。而要探尋這一平衡點(diǎn)，目前缺少易用和標(biāo)準(zhǔn)化的工具，無法科學(xué)評判大模型能否同時(shí)實(shí)現(xiàn)規(guī)范和低風(fēng)險(xiǎn)，也難以進(jìn)一步定位問題并給出優(yōu)化建議。

源頭上找癥結(jié)，技術(shù)上找對策

基于上述問題，瑞萊智慧在世界人工智能大會上正式發(fā)布人工智能安全平臺 RealSafe3.0 版，集成了主流及企業(yè)獨(dú)有的世界級安全評測技術(shù)，能提供端到端的模型安全性測評解決方案，解決當(dāng)前通用大模型安全風(fēng)險(xiǎn)難以審計(jì)的痛點(diǎn)問題。相較上一版本，RealSafe3.0 新增了對通用大模型的評測，評測維度已覆蓋數(shù)據(jù)安全、認(rèn)知任務(wù)、通用模型特有漏洞、濫用場景等近 70 個(gè)方面，未來還會持續(xù)擴(kuò)增測評維度。

蕭子豪說，評測只是手段，幫助通用大模型提升安全性才是目的。而瑞萊智慧的辦法是從源頭上入手，找準(zhǔn)癥結(jié)，基于自研多模態(tài)大模型底座，用 AI 的神奇守護(hù)神奇的 AI。比如，由于數(shù)據(jù)集的質(zhì)量直接影響模型的內(nèi)生安全，因此 RealSafe3.0 集成了多個(gè)自研模型和專家論證高質(zhì)量數(shù)據(jù)集，幫用戶修復(fù)模型中的問題。針對黑盒不可解釋的通用大模型，自研的紅隊(duì)對抗模型取代人工設(shè)計(jì)問題，能自動(dòng)化地挖掘出更多漏洞，真正從源頭化解風(fēng)險(xiǎn)。

此外，新安全平臺還能通訓(xùn)練，推動(dòng)大模型安全性迭代提升。瑞萊智慧推出的教練模型，能對被測大模型進(jìn)行多輪次的提問 - 回答訓(xùn)練，使其掌握好壞答案的要點(diǎn)及區(qū)別，直至問答能力迭代至最優(yōu)。值得一提的是，教練模型基于瑞萊智慧自有數(shù)據(jù)集，還經(jīng)過數(shù)十位價(jià)值觀領(lǐng)域的專家論證，確保了輸入數(shù)據(jù)高質(zhì)量且領(lǐng)域多元。

用AI守護(hù)AI，用智慧駕馭智能

除了可提升生成式大模型安全性的 RealSafe3.0，瑞萊智慧此次還帶來了能夠防范生成式人工智能惡意濫用的 DeepReal2.0，該技術(shù)此前名為深度偽造內(nèi)容檢測平臺，能檢測 Deepfake 內(nèi)容，此次則新增兩個(gè)模塊，可以檢測 Diffusion、LLM 這兩類 AI 生成的數(shù)據(jù)，從而對生成式人工智能技術(shù)濫用進(jìn)行管控和治理。同時(shí)也支持檢測圖像、視頻、音頻、文本等是否偽造，適用于打擊網(wǎng)絡(luò)詐騙和聲譽(yù)侵害行為、檢測網(wǎng)絡(luò)內(nèi)容合規(guī)性、檢測音視頻物證真實(shí)性等場景。

蕭子豪說，從古至今，技術(shù)始終都是一把‘雙刃劍’。通用人工智能的時(shí)代必將到來，如何讓人工智能揚(yáng)長避短，如何用人類智慧駕馭人工智能，是從業(yè)者的一道長久課題。事實(shí)上，這也是瑞萊智慧一直努力的方向。自 2018 年成立以來，瑞萊智慧堅(jiān)持源頭創(chuàng)新和底層研究，致力于研究和發(fā)展安全可控的第三代人工智能技術(shù)，建立通用 AI 模型能力和人工智能安全能力。

未來，在通過 RealSafe3.0 保障通用大模型和專有模型安全、可靠、可控的同時(shí)，瑞萊智慧也將持續(xù)迭代技術(shù)、打磨產(chǎn)品，以確保在這場人工智能安全 " 攻防戰(zhàn) " 中始終掌握主動(dòng)，將人工智能這一 " 關(guān)鍵變量 " 化為高質(zhì)量發(fā)展的 " 最大增量 "。

作者：張懿

編輯：商慧

* 文匯獨(dú)家稿件，轉(zhuǎn)載請注明出處。