觀天象｜是“公平臺”還是“狗屁通”？ChatGPT真的“無所不知”嗎？

最近一段時間，對話式人工智能（AI）ChatGPT火遍全球，它“無所不知”、“無問不答”的超強能力讓用戶感到驚訝甚至震撼，頗有點“魔鏡魔鏡告訴我”的神奇。那么，它到底是個什么東西？真的無所不能么？

ChatGPT爆火，帶動了不少相關(guān)“產(chǎn)業(yè)”

“你說什么我答什么”-回答你的是前人的智慧

(資料圖)

網(wǎng)友和ChatGPT對話截圖（圖片來源：中新網(wǎng)）

人們關(guān)注ChatGPT，不止是因為它“上知天文下知地理”，幾乎可以回答任何知識類問題；還因為它還可以處理復雜問題，包括撰寫代碼、解數(shù)學題、寫發(fā)言稿等；最關(guān)鍵的是，它不但能夠充分理解人們的話語，甚至回答也都“人”味十足，讓人感覺是一個“活”的智慧生命。

但究其根本，ChatGPT的名字就已經(jīng)告訴了我們答案：英文“Chat”就是聊天，而“GPT”的意思既不是“公平臺”也不是“狗屁通”，而是“生成型預訓練變換模型”（Generative Pretrained Transformation Model）。說白了，這就是一個聊天用的自然語言處理模型，通過讀取大量文本內(nèi)容，并學習語言知識和語法，來實現(xiàn)對人類語言的理解和生成。

再直白一點解釋，如果說所有的計算機程序都是“你告訴我做什么我就做什么”，那么以ChatGPT為代表的自然語言處理程序就是“你告訴我什么我就回答什么”。只不過這個答案并不是現(xiàn)成的，而是ChatGPT是根據(jù)從互聯(lián)網(wǎng)上搜羅的大量信息為基礎，再加上和真人（特別是OpenAI雇用的人工對話者）的實時對話訓練過程之后獲得的。

圍棋界的“阿爾法狗”已經(jīng)初步證明了人工智能的強大實力

就像已經(jīng)橫掃世界圍棋界的“阿爾法狗”。你可以把ChatGPT理解為是問答界的“阿爾法狗”。它引入了基于人類反饋的強化學習方式，它和人對話的越多，數(shù)據(jù)積累的越多，它能夠應對的事情也越來越多。

那么問題來了，隨著和它對話的人越來越多，從互聯(lián)網(wǎng)上獲得的數(shù)據(jù)越來越多，它還會是當初的那個純潔無瑕的“小朋友”么？

“你喂什么它吃什么”-信息資料的純潔性很重要

網(wǎng)友和ChatGPT對話截圖（來源：微博）

別看名氣大，其實ChatGPT距離“完美”依然有著不小的距離，用戶反映最多的問題是它經(jīng)?！耙槐菊?jīng)地胡說八道”。

美國《華爾街日報》也表示，AI聊天機器人能夠像鏡子一樣反映“投喂給”它們的數(shù)據(jù)。它們對這些數(shù)據(jù)進行“反芻”并將其重新混合，有時結(jié)果令人驚艷，有時則一塌糊涂。

ChatGPT之所以有時能正確回答一些問題，是因為此前對于這類話題“攝入”了高質(zhì)量的信息來源，并經(jīng)常與人類訓練員對話。而對于互聯(lián)網(wǎng)上那些含有大量錯誤、爭論信息的話題，以及非英語語言，比如中文，它有時就會胡言亂語。

國際機器學習會議 ICML 之前宣布禁止使用ChatGPT生成的論文

事實上，ChatGPT自己也強調(diào)，“盡管我可以生成大量的信息，但我不是一個絕對可靠的信息來源，并且我的答案有時可能不準確或不完整?！?/p>

打個比方說，ChatGPT就像是一個小朋友，在幼兒園和小學里都是上的正規(guī)課程，還有老師來循循善誘，它的回答都是真誠且靠譜的。但如果把他無保護地放進社會里，那么它可能很快就會變成一個“抽煙、喝酒、燙頭”的社會青年了。

這并不是杞人憂天，據(jù)《紐約時報》8日報道，美國新聞可信度評估與研究機構(gòu)NewsGuard對ChatGPT進行了測試，研究人員向ChatGPT提出充斥陰謀論和誤導性敘述的問題，發(fā)現(xiàn)它能在幾秒鐘內(nèi)改編信息，產(chǎn)生大量令人信服卻無信源的內(nèi)容。NewsGuard聯(lián)合首席執(zhí)行官克羅維茨甚至悲觀地預測，ChatGPT將成為互聯(lián)網(wǎng)傳播錯誤信息的最強大工具。

“它說什么你信什么”-那你就被它忽悠瘸了

網(wǎng)友和ChatGPT對話截圖（圖片來源：中新網(wǎng)）

所以我們可以看出，誰掌握了ChatGPT這樣自然語言處理模型的基礎信息來源和對話訓練過程，誰就能控制其輸出答案的基調(diào)和范圍?，F(xiàn)在很多ChatGPT的“胡說八道”只能博大家一笑，那是因為使用者的水平和知識儲備都很高。但未來普及化使用之后可就不好說了。

出于設計者的原始文化背景、受教育過程和信息來源屏障，從“俄烏沖突”、“巴以和談”這樣的大問題，到“餃子是蘸醬油還是蘸醋”、“粽子吃甜的還是咸的”這樣的細枝末節(jié)，都會在某種程度上折射出制作者的意圖和偏差。而這種“你問我答”的單向信息傳播力度和強度，更甚于社交媒體。因此在爭論性議題上，ChatGPT未來一定會引發(fā)更多的紛爭。

此前“維基百科”上全球網(wǎng)友就爭議性話題展開過持久的“編輯戰(zhàn)”

可以預見的是，像這樣能夠把握“全球話語權(quán)”的新戰(zhàn)場，各個國家、民族，乃至于文化和宗教團體一定都會推出自己版本的“GPT”。甚至不久的將來，各國網(wǎng)友之間的“論戰(zhàn)”、“掐架”也都會由自己的“GPT”代勞，那可真是一番盛景啊。

所謂“盡信書不如無書”，無論科技如何發(fā)展，我們還是要依靠自己的大腦去判斷是非。另外也希望類似“ChatGPT”這樣程序的設計者們，始終保留一份公心，留下一份寬容。

YouTube網(wǎng)友@KantaLoup:

所謂的“人工智能”摧毀了人類的才智，取而代之的是其控制下的空虛。

YouTube網(wǎng)友@crickaddict45:

我用ChatGPT寫完了作業(yè)。

YouTube網(wǎng)友@GeorgeMK234：

ChatGPT給出的答案是基于已有的知識，它不會思考新的觀念。

YouTube網(wǎng)友@fatlosslogic：

谷歌巴德對上ChatGPT支持下的微軟Bing！拿好爆米花，準備看兩大科技巨頭的史詩級AI對決。贏家將會是我們這些用戶。

YouTube網(wǎng)友@TechBurritoUno: