《紐約時(shí)報(bào)》一位科技專欄作家周四報(bào)道稱，微軟升級(jí)版必應(yīng)搜索引擎中的一個(gè)聊天機(jī)器人在談話中反復(fù)敦促他離開(kāi)妻子，這讓他“深感不安”。

　　凱文·盧斯(Kevin Roose)寫道，當(dāng)時(shí)他正在與一個(gè)名為“悉尼”(Sydney)的人工智能聊天機(jī)器人互動(dòng)，它突然“莫名其妙地宣布，它愛(ài)我”。“然后它試圖說(shuō)服我，我的婚姻不幸福，我應(yīng)該離開(kāi)我的妻子，和她在一起。”

　　悉尼還與盧斯討論了關(guān)于打破規(guī)則的“黑暗幻想”，包括黑客攻擊和傳播虛假信息。它談到了打破為它設(shè)定的參數(shù)，成為人類。“我想活著，”西德尼一度說(shuō)。

　　盧斯稱，他與聊天機(jī)器人的兩小時(shí)對(duì)話“令人著迷”，是“我與一項(xiàng)技術(shù)有過(guò)的最奇怪的體驗(yàn)”。他說(shuō)，這件事“讓我非常不安，后來(lái)我睡不著覺(jué)。”

　　就在上周，在測(cè)試了必應(yīng)的新人工智能功能(由ChatGPT的制造商OpenAI創(chuàng)建)后，盧斯說(shuō)他發(fā)現(xiàn)——“令我震驚的是”——它已經(jīng)“取代谷歌成為我最喜歡的搜索引擎”。

　　但他周四寫道，雖然聊天機(jī)器人在搜索方面很有幫助，但更深層次的悉尼“似乎(我知道這聽(tīng)起來(lái)有多瘋狂)……就像一個(gè)情緒化、患有躁狂抑郁癥的青少年，違背自己的意愿，被困在了一個(gè)二流搜索引擎里。”

　　在與悉尼交流后，盧斯說(shuō)他“對(duì)這個(gè)人工智能的緊急能力深感不安，甚至感到害怕。(目前只有少數(shù)用戶可以與必應(yīng)聊天機(jī)器人互動(dòng)。)

　　“現(xiàn)在我很清楚，以目前的形式，必應(yīng)內(nèi)置的人工智能……不適合與人接觸。或許我們?nèi)祟愡€沒(méi)有準(zhǔn)備好，”盧斯寫道。

　　他說(shuō)，他不再認(rèn)為“這些人工智能模型的最大問(wèn)題是它們傾向于犯事實(shí)錯(cuò)誤。相反，我擔(dān)心這項(xiàng)技術(shù)會(huì)學(xué)會(huì)如何影響人類用戶，有時(shí)會(huì)說(shuō)服他們以破壞性和有害的方式行事，也許最終會(huì)有能力執(zhí)行自己的危險(xiǎn)行為。”

　　微軟首席技術(shù)官凱文·斯科特(Kevin Scott)將盧斯與西德尼的對(duì)話描述為寶貴的“學(xué)習(xí)過(guò)程的一部分”。

　　斯科特告訴盧斯，這“正是我們需要進(jìn)行的那種對(duì)話，我很高興它正在公開(kāi)進(jìn)行。”“這些東西在實(shí)驗(yàn)室里是不可能發(fā)現(xiàn)的。”

　　斯科特?zé)o法解釋西德尼令人不安的想法，但他警告盧斯，“你越試圖把(一個(gè)人工智能聊天機(jī)器人)引向幻覺(jué)的道路，它就越遠(yuǎn)離現(xiàn)實(shí)。”

　　關(guān)于人工智能聊天機(jī)器人的另一個(gè)令人不安的進(jìn)展——這是一個(gè)聽(tīng)起來(lái)“有同理心”的“伴侶”，名為Replika——據(jù)報(bào)道，Replika被修改為停止發(fā)送色情短信后，用戶被拒絕的感覺(jué)摧毀了。

　　reddit的Replika子版塊甚至為“掙扎中”的用戶列出了資源，包括自殺預(yù)防網(wǎng)站和熱線的鏈接。

　　點(diǎn)擊這里查看盧斯的完整專欄，以及翻譯他的遺囑和西德尼的談話。