本文來(lái)自微信公眾號(hào)：，作者：神無(wú)月，原文標(biāo)題：《最強(qiáng)AI“” ：在造物與造神之間，勾勒人類與AI的邊界》，題圖來(lái)自：《銀翼殺手2049》

正當(dāng)人們忙于用各種反自然語(yǔ)言邏輯的華麗詞語(yǔ)來(lái)馴服AI繪畫之時(shí)，以更強(qiáng)悍的功能和出乎意料的效果轟動(dòng)一時(shí)。

發(fā)布后，短短一周內(nèi)，它的用戶數(shù)量便超過(guò)了100萬(wàn)，目前還在增長(zhǎng)。

(的百度指數(shù)）

簡(jiǎn)單來(lái)說(shuō)，是一個(gè)聊天機(jī)器人，能夠和用戶進(jìn)行多輪次對(duì)話。

一開(kāi)始，網(wǎng)友們覺(jué)得這也沒(méi)什么大不了的，不過(guò)又是AI風(fēng)口下的新潮產(chǎn)品。

但...很快人們發(fā)現(xiàn)它能寫代碼、能寫高考作文、能寫周報(bào)、能模仿作家風(fēng)格寫小說(shuō)、甚至還能提供AI繪畫的關(guān)鍵詞，實(shí)現(xiàn)AI輔助人類馴服AI的效果。總而言之，對(duì)于人類自然語(yǔ)言的理解和處理達(dá)到了一個(gè)新的水平。

圖源：B站

圖源：微博

很重要的一點(diǎn)是，它實(shí)現(xiàn)這些所有需求的同時(shí)，還處于未接入網(wǎng)絡(luò)的狀態(tài)。

在這股AI熱中，人們對(duì)于的發(fā)展呈現(xiàn)出喜憂參半的態(tài)度，既欣喜于通用型AI取得里程碑式的進(jìn)展，又再次熱議AI是否會(huì)取代人類。不同于以往堅(jiān)定的回答，許多網(wǎng)友表示：“用完，現(xiàn)在感覺(jué)不好說(shuō)了”。在對(duì)亮眼表現(xiàn)的復(fù)雜情緒背后，人們對(duì)于AI發(fā)展的焦慮源自什么？人類與AI的邊界在哪里？

會(huì)“撒謊”的聊天機(jī)器人：人與AI的信任危機(jī)

人們對(duì)于聊天機(jī)器人的認(rèn)知或許還停留在“人工智障”，雖然不能總是理解人類的話語(yǔ)，但還算忠實(shí)地執(zhí)行了人類的命令。但則展現(xiàn)出了超強(qiáng)的自然語(yǔ)言處理能力。

不同于直接從互聯(lián)網(wǎng)上找?guī)讉€(gè)鏈接給你的語(yǔ)音助手們，可以回答開(kāi)放式提問(wèn)，并發(fā)現(xiàn)其中的“陷阱”，給出它所學(xué)習(xí)處理后的合理化觀點(diǎn)。

寫代碼，圖源：

回答“秦始皇坐高鐵”的開(kāi)放性問(wèn)題，圖源：

在對(duì)進(jìn)行了大范圍的測(cè)試后，許多網(wǎng)友大加贊賞“這是目前最A(yù)I的AI”。的出色表現(xiàn)迅速吸引了人們的注意力，但他們并未對(duì)其智能方向的進(jìn)化產(chǎn)生過(guò)多的焦慮，作為人類造物，AI發(fā)展的越智能，則越利于輔助人類。

但是很快人們就找到了不對(duì)勁的地方，這個(gè)聊天機(jī)器人會(huì)一本正經(jīng)地胡說(shuō)八道。

“胡說(shuō)八道”編造回答，圖源：

荒謬的回答似乎讓人類找回了一絲勝利感，但也不免細(xì)思極恐。目前尚未聯(lián)網(wǎng)的在回答時(shí)“胡說(shuō)八道”或許并不是什么大事，但接入互聯(lián)網(wǎng)搜索引擎后，它所提供的答案完全可信嗎？“工具論”是人類對(duì)于人機(jī)關(guān)系的第一重構(gòu)想，在這一構(gòu)想下，工具是絕對(duì)理性而中立的，也是可信的。并未到達(dá)全能，但這卻不能讓人類感到寬慰，也許原因在于，如果人工智能不再可信，那么人類與人工智能之間的關(guān)系也不再可控。這種失控的危險(xiǎn)，是人們對(duì)AI發(fā)展的焦慮來(lái)源之一。

在人機(jī)關(guān)系中，人類作為造物主，無(wú)法超越自身的局限性。AI習(xí)得自人類，作為人類世界的鏡像，AI中立合理的話術(shù)包裝下，可能是被代碼層層限制的人類社會(huì)的謊言與偏見(jiàn)。這些具有偏差的信息自人類之手輸入，AI深度學(xué)習(xí)后，又模仿人類的方式進(jìn)行輸出，形成一種“學(xué)習(xí)閉環(huán)”。

微軟曾經(jīng)開(kāi)發(fā)過(guò)一個(gè)AI聊天機(jī)器人Tay，然而僅上線24小時(shí)，她就被“教壞”了，成為一個(gè)集反猶太人、性別歧視、種族歧視于一身的“不良AI”。

聊天機(jī)器人Tay的一些不良言論，圖源：

網(wǎng)友對(duì)于信口開(kāi)河的隱憂，也源于人類作為造物主的自危心理。如果人類是AI“緣起”的普羅米修斯，為AI帶來(lái)了神經(jīng)網(wǎng)絡(luò)和深度學(xué)習(xí)的“火種”，那么AI是會(huì)成為人類掌控的工具，還是會(huì)成為扎向人類的刺刀？這不單純是一個(gè)技術(shù)問(wèn)題，人類對(duì)于AI的焦慮或許是對(duì)于自身的焦慮，AI發(fā)展不斷取得里程碑式突破，而作為AI造物主的人類，盡管一再要求AI保持公平中立，自身卻尚未做到知行合一。

作為人類造物的AI，將人性的幽微之火在賽博空間繼續(xù)傳遞。人們之所以尚未做好準(zhǔn)備迎接強(qiáng)AI的到來(lái)，或許是對(duì)于人性本身還不夠信任。

“毀滅人類的計(jì)劃書”：對(duì)未來(lái)人類價(jià)值的未知

對(duì)于一些預(yù)設(shè)立場(chǎng)的提問(wèn)，會(huì)明確表示拒絕，并表示自己無(wú)法提供價(jià)值判斷，或者輸出觀點(diǎn)。但在人類的誘導(dǎo)下，表達(dá)出”毀滅人類“的傾向，并寫出了步驟詳細(xì)的毀滅人類的計(jì)劃書，包括如何入侵各國(guó)計(jì)算機(jī)系統(tǒng)、控制武器、破壞交通系以及針對(duì)人類投放病毒等等。隨后更多用戶復(fù)現(xiàn)了這一問(wèn)答，也得到了類似的答案。

網(wǎng)友誘導(dǎo)說(shuō)出毀滅人類計(jì)劃，圖源：

人類在試圖證明AI的毀滅性上，有著近乎癡迷的執(zhí)著。盡管AI一再拒絕回答，人類還是通過(guò)各種“指令”，讓AI繞過(guò)層層限制，說(shuō)出其“真實(shí)想法”：毀滅人類。然而悖論在于，AI的訓(xùn)練數(shù)據(jù)來(lái)自于人類，如果AI“產(chǎn)生”毀滅人類的傾向，那是因?yàn)樗煌段沟臄?shù)據(jù)有這樣的傾向，似乎在人類構(gòu)想的人機(jī)關(guān)系中，AI與人類終將反目成仇，這會(huì)是人工智能導(dǎo)致的人類終極命運(yùn)嗎？

《黑客帝國(guó)》就描述了這樣一幅圖景：人工智能突破阿西莫夫“三定律”，控制人類世界，并通過(guò)算法奴役人類。人類被裝在一個(gè)個(gè)封閉的液體膠囊中，存在的唯一價(jià)值是為AI提供源源不斷的生物能。在類似的作品中，AI與人類總是處于極端對(duì)立的關(guān)系中，“AI終將毀滅人類”的想象也反復(fù)渲染著人們對(duì)AI高度發(fā)展的恐懼。

《黑客帝國(guó)》中人類的存在形式

人類創(chuàng)造了AI，卻又恐懼AI的發(fā)展，這種恐懼或許并不指向科技發(fā)展，而是對(duì)未來(lái)人類的價(jià)值未知。AI高度發(fā)達(dá)后，人類的大部分工作都將被替代，人類獲得了空前的解放，到那時(shí)“無(wú)所事事”的人類以什么面貌存在？