在人工智能末日文學(xué)中，一個(gè)早期的、有影響力的思想實(shí)驗(yàn)正在成為現(xiàn)實(shí)——回形針最大化的場(chǎng)景，只不過(guò)世界上沒(méi)有充斥著多余的、不需要的回形針。它充滿(mǎn)了對(duì)人工智能末日的預(yù)測(cè)。
出于同樣的原因，好萊塢不會(huì)制作飛機(jī)不會(huì)被劫持、游輪不會(huì)傾覆沉沒(méi)的非災(zāi)難電影，如果一個(gè)人工智能專(zhuān)家不強(qiáng)調(diào)所謂的“存在”風(fēng)險(xiǎn)，他就會(huì)被判隱形。這就是為什么你很少聽(tīng)到meta的人工智能大師Yann LeCun的消息。
當(dāng)被問(wèn)及對(duì)新聞的定義時(shí)，ChatGPT說(shuō):“新聞是對(duì)事件、事實(shí)、觀點(diǎn)和人物的相互作用進(jìn)行報(bào)道的生產(chǎn)和傳播，這些報(bào)道是‘每日新聞’，至少在某種程度上向社會(huì)提供信息。”
我喜歡最后一部分。回形針的最大化“在某種程度上”把它推到了最低限度，就像巨無(wú)霸提供空卡路里一樣。然而，媒體對(duì)人工智能的警告是有目的的——也許是媒體報(bào)道所能提供的唯一目的——向心不在焉的觀眾發(fā)出信號(hào)，至少告訴他們這個(gè)時(shí)刻的重要性。
不要介意90%的詞實(shí)際上是關(guān)于其他事情的:對(duì)成功年輕人的不滿(mǎn)，反商業(yè)的刻板印象，標(biāo)題中“人工智能啟示錄”這個(gè)詞的簡(jiǎn)單，點(diǎn)擊量的樂(lè)趣。
不管chatgpt公司OpenAI解雇和重新聘用山姆·奧特曼(Sam Altman)背后的原因是什么，人工智能已經(jīng)不在全球范圍內(nèi)了，它已經(jīng)不在硅谷任何一個(gè)特定群體的控制之下了，OpenAI這家公司的官方動(dòng)機(jī)是為了利潤(rùn)，還是為了將人類(lèi)從人工智能的危害中拯救出來(lái)，這都無(wú)關(guān)重要。
錯(cuò)誤是會(huì)犯的，但在人工智能被賦予發(fā)射核武器、設(shè)計(jì)新生命形式或制造排除人類(lèi)所有其他需求的回形針的權(quán)力之前，它將一次又一次地接受測(cè)試，看它是否有能力在非滅絕級(jí)別的問(wèn)題上做出可靠、有用的判斷。
其中包括你可能喜歡的電視節(jié)目、一種新藥可能產(chǎn)生的副作用、購(gòu)物者對(duì)個(gè)性化優(yōu)惠的反應(yīng)、自動(dòng)駕駛汽車(chē)對(duì)奇怪的交通狀況的反應(yīng)。
在用于核電站之前，一個(gè)開(kāi)關(guān)必須在非關(guān)鍵應(yīng)用中進(jìn)行數(shù)百萬(wàn)次驗(yàn)證。人工智能也是如此。
不管怎樣，人類(lèi)已經(jīng)完蛋了。我們知道這個(gè)。根據(jù)一種關(guān)于為什么外星文明不明顯的理論，它可能會(huì)通過(guò)自己的技術(shù)毀滅自己。人類(lèi)(到目前為止)已經(jīng)從原子彈、選擇性育種、基因工程、我們自己污染的環(huán)境影響等中幸存下來(lái)。
如果人工智能對(duì)我們的生存構(gòu)成威脅，那么它很可能與這些其他威脅之一結(jié)合在一起。一個(gè)有趣的例外是:如果人工智能注定了我們，它可能會(huì)通過(guò)誘導(dǎo)，為我們提供一種不再屬于人類(lèi)的存在。
據(jù)報(bào)道，這種擔(dān)憂導(dǎo)致了埃隆·馬斯克和谷歌創(chuàng)始人拉里·佩奇之間的爭(zhēng)吵。人工智能最具吸引力的潛力同時(shí)也是最令人不安的潛力——它有可能阻止或無(wú)限期推遲人類(lèi)記憶和文化成就的滅絕，如果不是我們這個(gè)實(shí)際的物種的話。
自地球上出現(xiàn)生命以來(lái)，已經(jīng)過(guò)去了近40億年;自生命變成多細(xì)胞生物以來(lái)，已經(jīng)過(guò)去了6億年;自第一個(gè)大腦進(jìn)化以來(lái)，已經(jīng)過(guò)去了5.2億年。
據(jù)我們所知，通過(guò)文字保存知識(shí)的可能性只有大約5000年的歷史，誕生了一個(gè)技術(shù)文明。現(xiàn)在有可能將這些知識(shí)輸入ChatGPT，從而誕生人工智能。
人類(lèi)正處于瘋狂的旅程中，而且在某些方面正在加速。如此多的現(xiàn)代焦慮是不知道這段旅程何時(shí)以及如何結(jié)束的焦慮。如果超光速旅行是不可能的，我們可以說(shuō)一件事:人類(lèi)在太陽(yáng)系之外生存的唯一可能的機(jī)會(huì)是在人工智能的幫助下，把我們的遺傳物質(zhì)或至少是我們的思想帶到新的家園，并在那里培養(yǎng)它們。
就連上個(gè)月在車(chē)管所和我排隊(duì)的那個(gè)既沒(méi)有電腦也沒(méi)有智能手機(jī)(這讓登記汽車(chē)變得很困難)的家伙，也深知人工智能的風(fēng)險(xiǎn)和希望。
“人工智能即將到來(lái)，并將改變社會(huì)”是七個(gè)字。一項(xiàng)研究發(fā)現(xiàn)，《紐約時(shí)報(bào)》上閱讀量最高的文章平均只有1000多字。有時(shí)添加空卡路里是一種讓新聞更牢固的方法。