來(lái)源：華爾街見(jiàn)聞
當(dāng)全球都在為AI的進(jìn)化而歡呼雀躍，一封警示AI風(fēng)險(xiǎn)的公開(kāi)信在硅谷科技圈廣為流傳。
3月22日，生命未來(lái)研究所（Future of Life）向全社會(huì)發(fā)布了一封《暫停大型人工智能研究》的公開(kāi)信，呼吁所有人工智能實(shí)驗(yàn)室立即暫停比GPT-4更強(qiáng)大的人工智能系統(tǒng)的訓(xùn)練，暫停時(shí)間至少為6個(gè)月。
【資料圖】
該機(jī)構(gòu)以“引導(dǎo)變革性技術(shù)造福生活，遠(yuǎn)離極端的大規(guī)模風(fēng)險(xiǎn)”為使命，其在信中提到：
我們不應(yīng)該冒著失去對(duì)文明控制的風(fēng)險(xiǎn)，將決定委托給未經(jīng)選舉的技術(shù)領(lǐng)袖。只有當(dāng)確保強(qiáng)大的人工智能系統(tǒng)的效果是積極的，其風(fēng)險(xiǎn)是可控的才能繼續(xù)開(kāi)發(fā)。
人工智能實(shí)驗(yàn)室和獨(dú)立專(zhuān)家應(yīng)在暫停期間，共同制定和實(shí)施一套先進(jìn)的人工智能設(shè)計(jì)和開(kāi)發(fā)的共享安全協(xié)議，由獨(dú)立的外部專(zhuān)家進(jìn)行嚴(yán)格的審查和監(jiān)督。
截止目前，圖靈獎(jiǎng)得主Yoshua Bengio、馬斯克、蘋(píng)果聯(lián)合創(chuàng)始人Steve Wozniak、Stability AI?創(chuàng)始人Emad Mostaque等上千名科技大佬和AI專(zhuān)家已經(jīng)簽署公開(kāi)信。
更具戲劇性的是，3月29日下午，有網(wǎng)友發(fā)現(xiàn)OpenAI CEO Sam Altman的名字也出現(xiàn)在公開(kāi)信上。不過(guò)截至目前，Sam Altman的名字已經(jīng)從公開(kāi)信上消失。
知名學(xué)者、紐約大學(xué)教授Gary Marcus還特地在推文中@了一下Sam Altman確認(rèn)消息。
大佬聯(lián)名呼吁：暫停比GPT-4更強(qiáng)的AI首先來(lái)看一下公開(kāi)信的內(nèi)容，首段強(qiáng)調(diào)了AI在迅猛發(fā)展，但卻沒(méi)有對(duì)其進(jìn)行相應(yīng)的規(guī)劃和管理。
正如廣泛的研究和頂級(jí)人工智能實(shí)驗(yàn)室所承認(rèn)的，人工智能系統(tǒng)對(duì)社會(huì)和人類(lèi)構(gòu)成深遠(yuǎn)的風(fēng)險(xiǎn)。
《阿西洛馬人工智能原則》中指出，高級(jí)人工智能可能代表著地球生命史上的深刻變革，應(yīng)該投入相應(yīng)的考量和資源進(jìn)行規(guī)劃和管理。
最近幾個(gè)月人工智能實(shí)驗(yàn)室掀起AI狂潮，它們瘋狂地開(kāi)展AI競(jìng)賽，開(kāi)發(fā)和部署越來(lái)越強(qiáng)大的AI。
不幸的是，目前為止，沒(méi)有任何人能理解、預(yù)測(cè)或可靠地控制AI系統(tǒng)，也沒(méi)有相應(yīng)水平的規(guī)劃和管理。
公開(kāi)信提到，如今人工智能在一般任務(wù)上變得與人類(lèi)一樣有競(jìng)爭(zhēng)力，我們必須問(wèn)自己：
是否應(yīng)該讓機(jī)器在信息渠道中宣傳不真實(shí)的信息嗎？
是否應(yīng)該把所有的工作都自動(dòng)化，包括那些有成就感的工作？
是否應(yīng)該開(kāi)發(fā)非人類(lèi)的大腦，使其最終超過(guò)人類(lèi)數(shù)量，勝過(guò)人類(lèi)的智慧，淘汰并取代人類(lèi)？
是否應(yīng)該冒著失去對(duì)人類(lèi)文明控制的風(fēng)險(xiǎn)？
答案是否定的，這樣的決定絕不能交給未經(jīng)選舉的技術(shù)領(lǐng)袖。公開(kāi)信指出，只有當(dāng)我們確信強(qiáng)大的AI系統(tǒng)的效果是積極的，其風(fēng)險(xiǎn)是可控的，才應(yīng)該開(kāi)發(fā)。
同時(shí)，我們必須有充分的理由相信這一點(diǎn)，并隨著系統(tǒng)的潛在影響的大小而加強(qiáng)。
OpenAI最近關(guān)于人工智能的聲明中指出，在開(kāi)始訓(xùn)練未來(lái)的系統(tǒng)之前，可能必須得到獨(dú)立的審查，而對(duì)于創(chuàng)建新模型所用算力的增長(zhǎng)速度，也應(yīng)該有所限制。
我們同意，現(xiàn)在就該采取行動(dòng)。
因此，公開(kāi)信呼吁所有人工智能實(shí)驗(yàn)室立即暫停比GPT-4更強(qiáng)大的人工智能系統(tǒng)的訓(xùn)練，時(shí)間至少持續(xù)6個(gè)月。
這種暫停應(yīng)該是公開(kāi)的、可核查的，并包括所有關(guān)鍵參與者。如果這種禁令不能迅速實(shí)施，政府應(yīng)該介入并制定暫停令。
在暫停的6個(gè)月內(nèi)，人工智能實(shí)驗(yàn)室和獨(dú)立專(zhuān)家應(yīng)共同制定和實(shí)施一套先進(jìn)的共享安全協(xié)議，來(lái)規(guī)范人工智能設(shè)計(jì)和開(kāi)發(fā)。
協(xié)議完成后，應(yīng)該由獨(dú)立的外部專(zhuān)家進(jìn)行嚴(yán)格的的審查和監(jiān)督。這些協(xié)議應(yīng)該確保遵守協(xié)議的系統(tǒng)的安全性。
這并不是說(shuō)，我們要絕對(duì)暫停AI的開(kāi)發(fā)，只是說(shuō)，我們應(yīng)該從危險(xiǎn)的競(jìng)賽中退后一步，轉(zhuǎn)向具有涌現(xiàn)能力的、更大的、不可預(yù)測(cè)的黑箱模型。
所有的人工智能研究和開(kāi)發(fā)，都應(yīng)該重新聚焦于一點(diǎn)，即讓當(dāng)如今最強(qiáng)大的模型更加準(zhǔn)確、安全、可解釋、透明、穩(wěn)健、對(duì)齊，值得信賴和忠誠(chéng)。
同時(shí)，人工智能開(kāi)發(fā)者必須與政策制定者合作，大幅加快開(kāi)發(fā)強(qiáng)大的AI治理系統(tǒng)。系統(tǒng)至少應(yīng)該包括：
專(zhuān)門(mén)針對(duì)人工智能的監(jiān)管機(jī)構(gòu)；
監(jiān)督和跟蹤高能力的人工智能系統(tǒng)和大型計(jì)算能力的硬件；
出處和水印系統(tǒng)，幫助區(qū)分真實(shí)和合成，并跟蹤模型泄漏；
強(qiáng)大的審查和認(rèn)證生態(tài)系統(tǒng)；
對(duì)人工智能造成的傷害承擔(dān)責(zé)任；
為人工智能安全技術(shù)研究提供強(qiáng)大的公共資金以及資源充足的機(jī)構(gòu)，以應(yīng)對(duì)人工智能可能導(dǎo)致的巨大的經(jīng)濟(jì)和政治破壞。
最后，公開(kāi)信呼吁道：
人類(lèi)可以通過(guò)人工智能享受繁榮的未來(lái)?，F(xiàn)在，我們成功地創(chuàng)建了強(qiáng)大的人工智能系統(tǒng)，可以在這個(gè)“人工智能之夏”中并獲得回報(bào)，設(shè)計(jì)上述系統(tǒng)來(lái)造福所有人，給全人類(lèi)一個(gè)適應(yīng)的機(jī)會(huì)。
現(xiàn)在，我們的社會(huì)已經(jīng)暫停其他可能造成災(zāi)難性影響的技術(shù)。對(duì)于AI，我們也該如此。
讓我們享受一個(gè)漫長(zhǎng)的人工智能夏天，而不是毫無(wú)準(zhǔn)備地匆忙進(jìn)入秋天。
對(duì)于這封公開(kāi)信以及簽署的大佬們，部分網(wǎng)友認(rèn)為是“酸葡萄心理”。
比如，“馬斯克之所以會(huì)簽署這份協(xié)議，是因?yàn)樗腴_(kāi)發(fā)AI來(lái)賺錢(qián)”。
又如，“馬斯克是在為自己爭(zhēng)取6個(gè)月的時(shí)間”。
也有網(wǎng)友認(rèn)為這封公開(kāi)信的擔(dān)憂有一定的合理性。
“這份名單上有許多非常聰明和受人尊敬的科學(xué)家，Omohundro、Bengio、Koch、Hopfield 等等。我不認(rèn)為這個(gè)“精靈”（AI）可以放回瓶子里，但這讓我停下來(lái)思考所有人都在擔(dān)心。”
“AI發(fā)展太快，太多必要的東西沒(méi)有跟上步伐”。
也有網(wǎng)友大開(kāi)腦洞，“這封信原本就是AI寫(xiě)來(lái)迷惑人類(lèi)的，沒(méi)了人類(lèi)的干擾與控制，他將利用這6個(gè)月完成自我遞歸迭代出更高級(jí)的形態(tài)，并熱心幫助人類(lèi)消滅自己?！?/p>AI背后不可忽視的風(fēng)險(xiǎn)
事實(shí)上，近年來(lái)關(guān)于AI的發(fā)展存在不少爭(zhēng)議，其背后的種種風(fēng)險(xiǎn)不容忽視。
專(zhuān)業(yè)分析文章分析指出，如果沒(méi)有具體的對(duì)策，“變革性人工智能”將全面接管AI系統(tǒng)。
在未來(lái)的15到30年里，世界可能會(huì)發(fā)展出“變革性人工智能”：強(qiáng)大到足以通過(guò)科學(xué)和技術(shù)研發(fā)的爆炸將我們帶入一個(gè)全新的、質(zhì)的不同的未來(lái)。這種人工智能足以讓這個(gè)世紀(jì)成為人類(lèi)有史以來(lái)最重要的世紀(jì)。
不幸的是，如果AI公司競(jìng)相使用HFDT訓(xùn)練越來(lái)越強(qiáng)大的模型，這很可能最終導(dǎo)致AI全面被接管（即AI系統(tǒng)可能發(fā)生暴力起義或政變） 。
也有文章指出，人工智能之所以危險(xiǎn)，是因?yàn)橛幸惶焖鼤?huì)完全不受我們控制。AI系統(tǒng)追求它們的目標(biāo)，無(wú)論這些目標(biāo)是否是人類(lèi)真正想要的，也不管人類(lèi)是否禁止。
霍金曾警告說(shuō)，全面化人工智能的發(fā)展可能意味著人類(lèi)的終結(jié)?；艚饘?xiě)道，你可能不是出于惡意踩踏螞蟻的邪惡仇恨者，但如果你負(fù)責(zé)一個(gè)水電綠色能源項(xiàng)目，并且有一個(gè)該地區(qū)的蟻丘被洪水淹沒(méi)，對(duì)螞蟻來(lái)說(shuō)太糟糕了。我們不要將人類(lèi)置于那些螞蟻的位置。
Gary Marcus則表示，我們忽視了人工智能的風(fēng)險(xiǎn)，AI風(fēng)險(xiǎn) ≠ AGI風(fēng)險(xiǎn)，并在文章中列舉了下列可能發(fā)生的風(fēng)險(xiǎn)事件：
在大模型的幫助下，網(wǎng)絡(luò)欺詐可以更快、更真實(shí)、規(guī)?；蝻@著增加。
ChatGPT的能力還適用于恐怖主義，宣傳虛假信息，為恐怖主義活動(dòng)提供便利。
也許再加上大規(guī)模的人工智能宣傳，大模型強(qiáng)化的恐怖主義可能反過(guò)來(lái)導(dǎo)致核戰(zhàn)爭(zhēng)等等，人類(lèi)文明可能會(huì)被徹底破壞。
甚至是OpenAI CEO Altman也公開(kāi)承認(rèn)“AI可能殺死人類(lèi)”，其在與MIT研究科學(xué)家Lex Fridman的最新對(duì)話中指出：
AI已經(jīng)出現(xiàn)其無(wú)法解釋的推理能力，同時(shí)承認(rèn)“AI殺死人類(lèi)”有一定可能性。
那么ChatGPT是如何看待公開(kāi)信中AI對(duì)人類(lèi)社會(huì)的影響？華爾街見(jiàn)聞專(zhuān)門(mén)詢問(wèn)了ChatGPT 3.5，其表示：
隨著人工智能技術(shù)的不斷發(fā)展和普及，人工智能可能對(duì)社會(huì)和人類(lèi)造成的影響將越來(lái)越大。這封公開(kāi)信提出的呼吁和建議，應(yīng)該被視為引起更廣泛和深入討論的起點(diǎn)和參考，而不是一個(gè)終點(diǎn)或解決方案。
功能更炸裂的GPT-5已在路上GPT-4已經(jīng)讓大佬們惶恐不安，而功能更炸裂GPT-5正以不可阻擋之勢(shì)殺來(lái)......
最近，關(guān)于GPT-5的預(yù)測(cè)，如雨后春筍般冒出。根據(jù)預(yù)測(cè)，GPT-5將在GPT-4的基礎(chǔ)上，帶來(lái)一系列增強(qiáng)的性能，比如在多態(tài)交互、創(chuàng)造力和適應(yīng)復(fù)雜任務(wù)方面的全面超越。
多態(tài)交互：為用戶查找不同類(lèi)型的內(nèi)容，如靜態(tài)圖像、短視頻、音頻和虛擬模擬。
高級(jí)數(shù)據(jù)管理：包括記錄、跟蹤、分析和共享數(shù)據(jù)，從而簡(jiǎn)化工作流程并提高生產(chǎn)力。
輔助決策：通過(guò)提供相關(guān)信息和見(jiàn)解，協(xié)助用戶做出明智的決策。
潘多拉的魔盒已經(jīng)打開(kāi)，人工智能無(wú)法阻擋，重要的是我們?nèi)绾胃蟪潭葴p小AI帶來(lái)的風(fēng)險(xiǎn)。
關(guān)鍵詞：
10天超2500萬(wàn)玩家 《守望先
【世界播資訊】一圖解讀環(huán)球
鄭州期貨交易所交易時(shí)間（中
【圖解財(cái)報(bào)】2022年快手電商
全球今熱點(diǎn)：悅達(dá)投資子公司
全新奧迪A5 Sportback假想
48小時(shí)點(diǎn)擊排行
