這封信呼吁，所有人工智能實(shí)驗(yàn)室立即暫停訓(xùn)練比GPT-4更強(qiáng)大的人工智能系統(tǒng)至少6個(gè)月。

29日，未來生命研究所（Future of Life Institute）公布了一封公開信，信中，其呼吁所有AI實(shí)驗(yàn)室立即暫停訓(xùn)練比GPT-4更強(qiáng)大的AI系統(tǒng)至少6個(gè)月。被稱為“人工智能教父”的杰弗里·辛頓（Geoffrey Hinton） 、紐約大學(xué)心理學(xué)和神經(jīng)科學(xué)榮譽(yù)教授馬庫(kù)斯和特斯拉CEO馬斯克均簽署了這封公開信，以下為具體內(nèi)容。

具有與人類競(jìng)爭(zhēng)的智能的AI系統(tǒng)可能對(duì)社會(huì)和人類帶來深遠(yuǎn)的風(fēng)險(xiǎn)，這已經(jīng)得到了大量研究和頂級(jí)AI實(shí)驗(yàn)室的認(rèn)可。正如廣泛認(rèn)可的阿西洛馬人工智能原則（Asilomar AI Principles）所述，先進(jìn)的AI可能會(huì)對(duì)地球生命歷史產(chǎn)生深遠(yuǎn)的變革，應(yīng)該得到相應(yīng)的關(guān)注和資源進(jìn)行規(guī)劃和管理。不幸的是，即使近幾個(gè)月來AI實(shí)驗(yàn)室在開發(fā)和部署越來越強(qiáng)大的數(shù)字化思維方面陷入了失控的競(jìng)賽，這種規(guī)劃和管理也沒有得到實(shí)現(xiàn)，而這些數(shù)字化思維連它們的創(chuàng)造者也無法理解、預(yù)測(cè)或可靠地控制。

(資料圖片僅供參考)

當(dāng)代AI系統(tǒng)現(xiàn)在正變得在通用任務(wù)方面具有與人類競(jìng)爭(zhēng)的能力，我們必須問自己：我們應(yīng)該讓機(jī)器充斥我們的信息渠道，充滿宣傳和不實(shí)之詞嗎？我們應(yīng)該將所有工作自動(dòng)化，包括那些令人滿意的工作嗎？我們應(yīng)該發(fā)展非人類思維，讓它們最終在數(shù)量、智慧和技能上超越、淘汰和取代我們嗎？我們應(yīng)該冒著失去對(duì)文明的控制的風(fēng)險(xiǎn)嗎？

這樣的決策決不能委托給未經(jīng)選舉的科技領(lǐng)導(dǎo)者。只有在我們確信它們的影響將是積極的，風(fēng)險(xiǎn)可控的情況下，才應(yīng)該發(fā)展強(qiáng)大的AI系統(tǒng)。這種信心必須得到充分的理由，并隨著系統(tǒng)潛在影響的增大而增強(qiáng)。OpenAI最近關(guān)于通用人工智能的聲明指出：

我們同意。那個(gè)時(shí)候就是現(xiàn)在。

因此，我們呼吁暫停訓(xùn)練比GPT-4更強(qiáng)大的AI系統(tǒng)至少6個(gè)月，這個(gè)過程應(yīng)該是公開且可驗(yàn)證的，并包括所有關(guān)鍵參與者。如果無法迅速實(shí)施此類暫停，政府應(yīng)介入并實(shí)行暫停令。

AI實(shí)驗(yàn)室和獨(dú)立專家應(yīng)利用這段暫停時(shí)間共同制定和實(shí)施一套先進(jìn)AI設(shè)計(jì)和開發(fā)的共享安全協(xié)議，這些協(xié)議應(yīng)由獨(dú)立的外部專家嚴(yán)格審計(jì)和監(jiān)督。這些協(xié)議應(yīng)確保遵循它們的系統(tǒng)在合理懷疑范圍之外是安全的。這并不意味著要暫停AI的總體發(fā)展，而只是從競(jìng)相開發(fā)越來越大、不可預(yù)測(cè)的黑箱模型和具有突現(xiàn)能力的模型中退后一步。

AI研究和開發(fā)應(yīng)該重新關(guān)注如何使現(xiàn)有的強(qiáng)大、先進(jìn)的系統(tǒng)變得更準(zhǔn)確、安全、可解釋、透明、穩(wěn)健、符合人類意愿、值得信賴和忠誠(chéng)。

與此同時(shí)，AI開發(fā)者必須與政策制定者合作，大力加快發(fā)展健全的AI治理系統(tǒng)。這些至少應(yīng)包括：專門負(fù)責(zé)AI的新型、有能力的監(jiān)管機(jī)構(gòu)；對(duì)高能力AI系統(tǒng)和大量計(jì)算能力的監(jiān)督和跟蹤；用于區(qū)分真實(shí)和合成內(nèi)容以及跟蹤模型泄漏的來源和水印系統(tǒng)；健全的審計(jì)和認(rèn)證生態(tài)系統(tǒng)；對(duì)AI造成的損害承擔(dān)責(zé)任；技術(shù)AI安全研究的充足公共資金支持；以及應(yīng)對(duì)AI將帶來的嚴(yán)重經(jīng)濟(jì)和政治顛覆（尤其是對(duì)民主制度）的充足資源支持的機(jī)構(gòu)。

人類可以在AI的幫助下享受繁榮的未來。我們已經(jīng)成功地創(chuàng)造了強(qiáng)大的AI系統(tǒng)，現(xiàn)在可以享受一個(gè)“AI夏天”，在其中我們可以收獲回報(bào)，為所有人明確地利用這些系統(tǒng)，讓社會(huì)有機(jī)會(huì)適應(yīng)。社會(huì)已經(jīng)對(duì)可能對(duì)社會(huì)產(chǎn)生災(zāi)難性影響的其他技術(shù)按下了暫停鍵。我們也可以在這里做到。讓我們享受一個(gè)漫長(zhǎng)的AI夏天，而不是毫無準(zhǔn)備地冒進(jìn)入秋天。