據(jù)外媒報(bào)道，在當(dāng)?shù)貢r(shí)間周二發(fā)布的一封公開信中，埃隆·馬斯克和一群人工智能專家以及科技高管呼吁所有人工智能（AI）實(shí)驗(yàn)室立即暫停訓(xùn)練比GPT-4更強(qiáng)大的AI系統(tǒng)。

(資料圖)

這封公開信由非營利性組織Future of Life Institute發(fā)布，信的開頭寫道：“廣泛的研究表明，具有與人類競爭智能的AI系統(tǒng)可能會(huì)對(duì)社會(huì)和人類造成深遠(yuǎn)的風(fēng)險(xiǎn)，這一點(diǎn)也得到了頂級(jí)AI實(shí)驗(yàn)室的承認(rèn)。”

這封公開信獲得了1000多個(gè)簽名支持，其中包括蘋果聯(lián)合創(chuàng)始人史蒂夫?沃茲尼亞克（Steve Wozniak）、Stability AI CEO伊馬德?穆斯塔克（Emad Mostaque）、Sapiens的作者尤瓦爾?諾亞?哈拉里亞斯（Yuval Noah Hararias）、馬斯克、圖靈獎(jiǎng)得主約書亞?本吉奧（Yoshua Bengio）、紐約大學(xué)名譽(yù)教授加里?馬庫斯（Gary Marcus）等，他們呼吁暫停訓(xùn)練比GPT-4更強(qiáng)大的AI系統(tǒng)至少6個(gè)月。

不出所料，OpenAI和微軟高管并沒有簽署這封公開信。此外，Meta首席人工智能科學(xué)家Yann LeCun的名字沒有出現(xiàn)在署名名單中。

這封公開信提到，6個(gè)月的暫停并不意味著AI總體發(fā)展的暫停，只是從目前危險(xiǎn)的競賽中退后一步。

公開信指出：“只有在我們確信它們的效果是積極的，風(fēng)險(xiǎn)是可控的，才應(yīng)該開發(fā)強(qiáng)大的人工智能系統(tǒng)?！?/p>

這封公開信要求AI實(shí)驗(yàn)室和專家共同開發(fā)和實(shí)施一套安全協(xié)議，然后由獨(dú)立的外部專家進(jìn)行嚴(yán)格審計(jì)和監(jiān)督。

在這封公開信發(fā)布的前兩周，也就是在今年3月14日，美國AI研究公司OpenAI推出了新一代大型語言模型GPT-4。GPT-4是迄今為止最先進(jìn)的AI系統(tǒng)，它的能力既讓AI專家感到震驚，也讓他們感到恐懼。

GPT-4是一個(gè)多模態(tài)大型語言模型，即支持圖像和文本輸入，以文本形式輸出；擴(kuò)寫能力增強(qiáng)，能處理超過25000個(gè)單詞的文本；更具創(chuàng)造力，并且能夠處理更細(xì)微的指令；在高級(jí)推理能力方面超過了2022年11月30日推出的AI聊天機(jī)器人工具ChatGPT。

這封信已有1126名科技領(lǐng)袖和研究人員簽名，除了馬斯克、辛頓和馬庫斯之外，還包括圖靈獎(jiǎng)得主約書亞·本希奧、《人工智能：現(xiàn)代方法》作者斯圖爾特·羅素、 蘋果公司聯(lián)合創(chuàng)始人史蒂夫·沃茲尼亞克、Stability AI首席執(zhí)行官埃馬德·莫斯塔克等科技界領(lǐng)袖人物。

關(guān)鍵詞：