品玩 6 月 10 日訊，6 月 10 日，在 2023 智源大會上 OpenAI 聯(lián)合創(chuàng)始人 sam altman 發(fā)表演講。

感謝在北京人工智能學(xué)會的成員中的熱情接待，能夠與這樣一群杰出的人工智能研究人員和計(jì)算機(jī)科學(xué)家一同出席這次重要而及時(shí)的會議，我感到非常榮幸。每次來到這里，我都能感受到令人驚嘆的技術(shù)才華所帶來的無限能量。正如你們所提到的，我們現(xiàn)在正在進(jìn)行的世界巡回之旅已經(jīng)帶我到了近二十個(gè)國家，跨越五個(gè)洲。

我了解到學(xué)生、開發(fā)者和各行業(yè)對人工智能的需求和關(guān)注。這次旅行給了我很多啟發(fā)。我們看到了全球各地人們已經(jīng)在如何使用人工智能技術(shù)來改變生活的令人難以置信的方式，并且我們收到了寶貴的反饋意見，了解了如何進(jìn)一步改進(jìn)這些工具。

【資料圖】

我們還有很多工作要做。但是鑒于我們已經(jīng)取得的進(jìn)展，我對我們能夠?qū)崿F(xiàn)目標(biāo)充滿信心。今天，我想談一談未來，特別是關(guān)于人工智能發(fā)展速度的加快以及我們現(xiàn)在需要如何負(fù)責(zé)任地為其引入做準(zhǔn)備。

科學(xué)史告訴我們，技術(shù)進(jìn)步遵循指數(shù)增長的規(guī)律。我們在農(nóng)業(yè)、工業(yè)和計(jì)算革命中已經(jīng)見證了這一點(diǎn)。而現(xiàn)在，我們正在實(shí)時(shí)目睹人工智能革命的發(fā)展。

因此，我們所面臨的挑戰(zhàn)不僅是人工智能帶來的巨大影響，而且是其進(jìn)展速度。它正在加快人類想象力的創(chuàng)作速度。想象一下，在未來十年內(nèi)，人工通用智能系統(tǒng)（通常稱為 AGI）在幾乎所有領(lǐng)域都能超越人類專業(yè)知識。

這些系統(tǒng)最終可能超過我們最大公司的集體生產(chǎn)力。人工智能革命所能創(chuàng)造的潛力是巨大的，可以大幅改善每個(gè)人的生活水平。但我們必須共同管理風(fēng)險(xiǎn)，共同推動發(fā)展。

我非常贊同這種未來，并且作為地球上的一員，我們需要投資于 AGI 的安全性以實(shí)現(xiàn)這一目標(biāo)。這需要進(jìn)行謹(jǐn)慎的協(xié)調(diào)。

這是一項(xiàng)具有全球影響的全球技術(shù)。來自記錄開發(fā)和應(yīng)用的事故成本將影響到所有人。有兩個(gè)關(guān)鍵領(lǐng)域尤為重要。

首先，我們需要在國際范圍內(nèi)建立國際準(zhǔn)則和標(biāo)準(zhǔn)，鼓勵(lì)制定一致的政府政策和監(jiān)管措施，涵蓋所有國家的 AGI 領(lǐng)域。在這些框架下，我們相信人們有機(jī)會做出明智的選擇。

其次，我們需要國際合作，在安全開發(fā)日益強(qiáng)大的人工智能系統(tǒng)方面建立全球信任。我并不抱幻想，這并不容易。我們需要作為國際社會付出持續(xù)關(guān)注和努力，以實(shí)現(xiàn)這一目標(biāo)。

《論語》中有一句話提醒我們，千里之行始于足下。我們認(rèn)為最具建設(shè)性的第一步是與國際科學(xué)技術(shù)界展開合作。特別是，我們應(yīng)該推動機(jī)制的建立，增加對 AGI 安全技術(shù)進(jìn)展的透明度和共享。

發(fā)現(xiàn)新的安全問題的研究人員應(yīng)該為了共同利益分享他們的見解。我們需要仔細(xì)思考如何鼓勵(lì)這種共享，同時(shí)尊重和保護(hù)個(gè)人的知識產(chǎn)權(quán)。如果我們做得好，這將為我們深化合作打開新的大門。此外，我們還應(yīng)該促進(jìn)并引導(dǎo)對齊和安全研究的投資。

在 OpenAI，我們目前的研究主要集中在如何訓(xùn)練 AI 系統(tǒng)以充當(dāng)有希望和安全的助手。這是一種基于人類反饋的強(qiáng)化學(xué)習(xí)方法。這只是多種后訓(xùn)練補(bǔ)充技術(shù)的例子，我們也在研究其他方法。

要做好這項(xiàng)工作并不容易。我們在部署之前，為了確保模型的整體安全性，我們在工程上投入了長達(dá)八個(gè)月的時(shí)間。我們認(rèn)為我們在這方面已經(jīng)取得了良好的進(jìn)展。GPT-4 與我們以往的模型相比更加智能。然而，對于更先進(jìn)的系統(tǒng)來說，模型與人的對齊仍然是一個(gè)未解決的問題，我們認(rèn)為這需要新的技術(shù)方法和更多的政府監(jiān)管。

想象一個(gè)未來的 AGI 系統(tǒng)，它有十萬行二進(jìn)制代碼。人類監(jiān)督員很難發(fā)現(xiàn)這樣一個(gè)模型是否在做某些問題。因此，我們正在探索一些新的研究方向，希望能夠取得突破。其中之一是可擴(kuò)展的監(jiān)督。我們可以嘗試使用 AI 系統(tǒng)幫助人類監(jiān)督其他 AI 系統(tǒng)。

例如，我們可以訓(xùn)練一個(gè)模型來幫助人類監(jiān)督員發(fā)現(xiàn)其他模型輸出中的錯(cuò)誤。

第二個(gè)方向是可解釋性。我們希望更好地理解這些模型內(nèi)部的運(yùn)作情況。我們最近發(fā)表了一篇利用 GPT 對 GBT-2 進(jìn)行解釋的論文。另外，我們還利用模型內(nèi)部信息來檢測模型是否有偏見。雖然我們還有很長的路要走，但我們相信，通過先進(jìn)的機(jī)器學(xué)習(xí)技術(shù)，我們可以進(jìn)一步改進(jìn)模型的解釋能力。

最終，我們的目標(biāo)是訓(xùn)練 AI 系統(tǒng)來幫助進(jìn)行自身的安全研究。這種方法的一個(gè)有希望的方面是，隨著未來的模型變得越來越智能和有幫助，我們將找到更好的方法來解決對齊問題。實(shí)現(xiàn) AGI 所帶來的非凡利益，同時(shí)最小化風(fēng)險(xiǎn)是當(dāng)前最重要的挑戰(zhàn)之一。

我們認(rèn)為，美國、中國以及全球其他國家的研究人員之間有巨大的合作潛力，共同實(shí)現(xiàn)這個(gè)共同目標(biāo)，并致力于解決 AGI 的技術(shù)挑戰(zhàn)。如果我們能夠這樣做，我相信我們將能夠利用 AGI 解決世界上最重要的問題，大幅提高人類的生活質(zhì)量。非常感謝大家。