出品 | 搜狐科技

編輯 | 梁昌均

(相關(guān)資料圖)

“我很好奇接下來(lái)會(huì)發(fā)生什么，我們可能會(huì)嘗試按順序推出GPT-5模型，但不會(huì)很快?！痹?023智源大會(huì)關(guān)于AI安全與對(duì)齊的論壇上，當(dāng)被問到下一步的研發(fā)方向時(shí)，OpenAI聯(lián)合創(chuàng)始人、CEO山姆·奧特曼（Sam Altman）表示。

目前，山姆正在進(jìn)行他的全球之旅，這已經(jīng)是第四周，期間他已經(jīng)去到五個(gè)大洲的近20個(gè)國(guó)家，與學(xué)生、開發(fā)人員和國(guó)家元首會(huì)面。今天上午，他以視頻連線的方式現(xiàn)身智源大會(huì)論壇，就推動(dòng)AI安全的話題發(fā)表演講，并接受了智源研究院理事長(zhǎng)張宏江的訪談。

山姆表示，已經(jīng)看到世界各地的人們使用人工智能技術(shù)，帶來(lái)令人難以置信的生活方式的改變。因此這也使得討論需要建立的監(jiān)管護(hù)欄，以確保日益強(qiáng)大的人工智能系統(tǒng)得到安全可靠的部署，變得越發(fā)重要。

他認(rèn)為，技術(shù)進(jìn)步遵循指數(shù)曲線，而當(dāng)前AI正以極大的影響和極快的速度發(fā)展，并擴(kuò)展人類想象的畫布。在下一個(gè)十年里，通用人工智能系統(tǒng)（AGI）將幾乎在所有領(lǐng)域超越人類的專業(yè)知識(shí)，這些系統(tǒng)最終可能會(huì)超過最大公司的生產(chǎn)力。

“人工智能革命將創(chuàng)造共享財(cái)富，并使得大幅提高每個(gè)人的生活水平成為可能。為了實(shí)現(xiàn)這一目標(biāo)，我們必須共同管理風(fēng)險(xiǎn)?！鄙侥繁硎?，隨著日益強(qiáng)大的AI系統(tǒng)的出現(xiàn)，以及對(duì)醫(yī)療、糧食生產(chǎn)和環(huán)境平衡等帶來(lái)的潛在問題，推進(jìn)AGI安全將是全球合作最重要的領(lǐng)域之一。

山姆表示，這需要從兩個(gè)方面開始。第一是AGI治理，并應(yīng)該在促進(jìn)和引導(dǎo)AI對(duì)齊和安全研究方向進(jìn)行投資?！癆GI將從根本上改變我們的文明，這是一項(xiàng)具有全球影響的全球技術(shù)，不計(jì)后果的開發(fā)和部署所造成的事故成本將影響到所有人。”

同時(shí)，他還特別強(qiáng)調(diào)了國(guó)際合作和協(xié)調(diào)的必要性。首先需要建立國(guó)際規(guī)范和標(biāo)準(zhǔn)，并注意過程中注重包容性。在任何國(guó)家使用AGI系統(tǒng)，都應(yīng)平等而一致地遵循這樣的國(guó)際標(biāo)準(zhǔn)和規(guī)范。在這些安全護(hù)欄內(nèi)，讓人們有足夠的機(jī)會(huì)做出自己的選擇。

當(dāng)然，山姆也認(rèn)識(shí)到這并非易事，大國(guó)之間經(jīng)常存在分歧，但在重要的大事上，還是需要協(xié)調(diào)與合作，尋找共同利益點(diǎn)。

“千里之行，始于足下?！彼美献印兜赖陆?jīng)》中的這句話，認(rèn)為最具建設(shè)性的第一步是與國(guó)際科學(xué)和技術(shù)界合作，特別是應(yīng)該在技術(shù)進(jìn)步方面增加透明度和知識(shí)共享的機(jī)制，同時(shí)尊重和保護(hù)知識(shí)產(chǎn)權(quán)，這些將為深化合作打開新的大門。

“隨著我們?nèi)找娼咏麬GI的時(shí)代，沒有對(duì)齊的AI系統(tǒng)的潛在影響力和影響規(guī)模將成倍增長(zhǎng)?，F(xiàn)在積極主動(dòng)地解決這些挑戰(zhàn)，能將未來(lái)出現(xiàn)災(zāi)難性結(jié)果的風(fēng)險(xiǎn)降到最低。”山姆在演講中強(qiáng)調(diào)稱。

張宏江向山姆·奧特曼提問

不過，在與張宏江的對(duì)話中，山姆表示，很難預(yù)測(cè)我們離安全的AGI還有多遠(yuǎn)，但能夠確信的是很有可能在未來(lái)10年內(nèi)能夠擁有非常強(qiáng)大的AI系統(tǒng)?！拔艺J(rèn)為把AGI安全做好是重要而緊迫的，這是我為什么呼吁國(guó)際社會(huì)共同努力的原因?！?/p>

山姆提到，OpenAI在如何讓AI系統(tǒng)成為更安全有用的系統(tǒng)上，進(jìn)行了AI對(duì)齊研究。這主要是利用人類反饋進(jìn)行強(qiáng)化學(xué)習(xí)來(lái)訓(xùn)練模型，使其成為一個(gè)有幫助的安全助手。

“從GPT4完成預(yù)培訓(xùn)到我們部署它，我們專門花了8個(gè)月的時(shí)間來(lái)進(jìn)行對(duì)齊方面的工作。GPT4 比我們以前的任何模型都更加與人類對(duì)齊?！钡侥芬脖硎荆瑢?duì)于更先進(jìn)的系統(tǒng)，對(duì)齊仍然是一個(gè)未解決的問題，這需要新的技術(shù)方法，同時(shí)增強(qiáng)治理和監(jiān)督。

他認(rèn)為，未來(lái)的AGI系統(tǒng)或許具有10萬(wàn)行二進(jìn)制代碼，人類監(jiān)管人員不太可能發(fā)現(xiàn)這樣的模型是否在做一些邪惡的事情。因此，OpenAI正在致力于研究一些新的和互補(bǔ)的研究方向，希望能實(shí)現(xiàn)突破。

其中一個(gè)是可擴(kuò)展監(jiān)督，即嘗試使用 AI 系統(tǒng)來(lái)協(xié)助人類監(jiān)督其他AI系統(tǒng)輸出中的缺陷。第二個(gè)是可解釋性，嘗試更好地了解這些模型內(nèi)部發(fā)生了什么。“我們還有很長(zhǎng)的路要走，但先進(jìn)的機(jī)器學(xué)習(xí)技術(shù)可以進(jìn)一步提高我們解釋的能力?！?/p>

山姆認(rèn)為，實(shí)現(xiàn)AGI安全是一個(gè)非常復(fù)雜的問題，集中精力確保解決安全方面的技術(shù)問題非常重要，同時(shí)不僅要考慮模型本身的安全性，還要確保整個(gè)系統(tǒng)的安全性。

“我也認(rèn)為很難提前預(yù)測(cè)任何技術(shù)會(huì)出現(xiàn)的所有問題，因此，從現(xiàn)實(shí)世界的使用中學(xué)習(xí)并部署，看看當(dāng)真正創(chuàng)造現(xiàn)實(shí)并改進(jìn)它時(shí)會(huì)發(fā)生什么，并思考這些模型將如何以好的和壞的方式與人進(jìn)行互動(dòng)，這也很重要。”山姆說(shuō)。

此外，山姆還在對(duì)話中回應(yīng)稱，隨著時(shí)間的推移，OpenAI將會(huì)在未來(lái)繼續(xù)開源更多和更大的模型，但目前沒有具體的模型或時(shí)間表。他認(rèn)為，開源確實(shí)在模型發(fā)展中扮演了重要的角色，但開源可能不是最佳路徑，需要把握平衡。

山姆表示，最終的目標(biāo)是訓(xùn)練AI系統(tǒng)來(lái)幫助進(jìn)行對(duì)齊研究。這種方法的好處在于，它可以隨著AI的發(fā)展速度而擴(kuò)展?！矮@得AGI帶來(lái)的非凡好處，同時(shí)降低風(fēng)險(xiǎn)，是這個(gè)時(shí)代的開創(chuàng)性挑戰(zhàn)之一?！?/p>

他在最后呼吁，世界各地的研究人員都有很大的潛力實(shí)現(xiàn)共同的目標(biāo)，并致力于努力解決AGI對(duì)齊帶來(lái)的突出技術(shù)挑戰(zhàn)?！叭绻覀冞@樣做，我相信我們將能夠利用AGI來(lái)解決世界上最重要的問題，并極大地改善人類的生活質(zhì)量?！?/p>

關(guān)鍵詞：