最強AI“ChatGPT”，讓人類焦慮了嗎？
本文來自微信公眾號：，作者：神無月，原文標題：《最強AI“” ：在造物與造神之間，勾勒人類與AI的邊界》，題圖來自：《銀翼殺手2049》
正當人們忙于用各種反自然語言邏輯的華麗詞語來馴服AI繪畫之時，以更強悍的功能和出乎意料的效果轟動一時。
發布后，短短一周內，它的用戶數量便超過了100萬，目前還在增長。
(的百度指數）
簡單來說，是一個聊天機器人，能夠和用戶進行多輪次對話。
一開始，網友們覺得這也沒什么大不了的，不過又是AI風口下的新潮產品。
但...很快人們發現它能寫代碼、能寫高考作文、能寫周報、能模仿作家風格寫小說、甚至還能提供AI繪畫的關鍵詞，實現AI輔助人類馴服AI的效果。總而言之，對于人類自然語言的理解和處理達到了一個新的水平。
圖源：B站
圖源：微博
很重要的一點是，它實現這些所有需求的同時，還處于未接入網絡的狀態。
在這股AI熱中，人們對于的發展呈現出喜憂參半的態度，既欣喜于通用型AI取得里程碑式的進展，又再次熱議AI是否會取代人類。不同于以往堅定的回答，許多網友表示：“用完，現在感覺不好說了”。在對亮眼表現的復雜情緒背后，人們對于AI發展的焦慮源自什么？人類與AI的邊界在哪里？
會“撒謊”的聊天機器人：人與AI的信任危機
人們對于聊天機器人的認知或許還停留在“人工智障”，雖然不能總是理解人類的話語，但還算忠實地執行了人類的命令。但則展現出了超強的自然語言處理能力。
不同于直接從互聯網上找幾個鏈接給你的語音助手們，可以回答開放式提問，并發現其中的“陷阱”，給出它所學習處理后的合理化觀點。
寫代碼，圖源：
回答“秦始皇坐高鐵”的開放性問題，圖源：
在對進行了大范圍的測試后，許多網友大加贊賞“這是目前最AI的AI”。的出色表現迅速吸引了人們的注意力，但他們并未對其智能方向的進化產生過多的焦慮，作為人類造物，AI發展的越智能，則越利于輔助人類。
但是很快人們就找到了不對勁的地方，這個聊天機器人會一本正經地胡說八道。
“胡說八道”編造回答，圖源：
荒謬的回答似乎讓人類找回了一絲勝利感，但也不免細思極恐。目前尚未聯網的在回答時“胡說八道”或許并不是什么大事，但接入互聯網搜索引擎后，它所提供的答案完全可信嗎？“工具論”是人類對于人機關系的第一重構想，在這一構想下，工具是絕對理性而中立的，也是可信的。并未到達全能，但這卻不能讓人類感到寬慰，也許原因在于，如果人工智能不再可信，那么人類與人工智能之間的關系也不再可控。這種失控的危險，是人們對AI發展的焦慮來源之一。
在人機關系中，人類作為造物主，無法超越自身的局限性。AI習得自人類，作為人類世界的鏡像，AI中立合理的話術包裝下，可能是被代碼層層限制的人類社會的謊言與偏見。這些具有偏差的信息自人類之手輸入，AI深度學習后，又模仿人類的方式進行輸出，形成一種“學習閉環”。
微軟曾經開發過一個AI聊天機器人Tay，然而僅上線24小時，她就被“教壞”了，成為一個集反猶太人、性別歧視、種族歧視于一身的“不良AI”。
聊天機器人Tay的一些不良言論，圖源：
網友對于信口開河的隱憂，也源于人類作為造物主的自危心理。如果人類是AI“緣起”的普羅米修斯，為AI帶來了神經網絡和深度學習的“火種”，那么AI是會成為人類掌控的工具，還是會成為扎向人類的刺刀？這不單純是一個技術問題，人類對于AI的焦慮或許是對于自身的焦慮，AI發展不斷取得里程碑式突破，而作為AI造物主的人類，盡管一再要求AI保持公平中立，自身卻尚未做到知行合一。
作為人類造物的AI，將人性的幽微之火在賽博空間繼續傳遞。人們之所以尚未做好準備迎接強AI的到來，或許是對于人性本身還不夠信任。
“毀滅人類的計劃書”：對未來人類價值的未知
對于一些預設立場的提問，會明確表示拒絕，并表示自己無法提供價值判斷，或者輸出觀點。但在人類的誘導下，表達出”毀滅人類“的傾向，并寫出了步驟詳細的毀滅人類的計劃書，包括如何入侵各國計算機系統、控制武器、破壞交通系以及針對人類投放病毒等等。隨后更多用戶復現了這一問答，也得到了類似的答案。
網友誘導說出毀滅人類計劃，圖源：
人類在試圖證明AI的毀滅性上，有著近乎癡迷的執著。盡管AI一再拒絕回答，人類還是通過各種“指令”，讓AI繞過層層限制，說出其“真實想法”：毀滅人類。然而悖論在于，AI的訓練數據來自于人類，如果AI“產生”毀滅人類的傾向，那是因為它被投喂的數據有這樣的傾向，似乎在人類構想的人機關系中，AI與人類終將反目成仇，這會是人工智能導致的人類終極命運嗎？
《黑客帝國》就描述了這樣一幅圖景：人工智能突破阿西莫夫“三定律”，控制人類世界，并通過算法奴役人類。人類被裝在一個個封閉的液體膠囊中，存在的唯一價值是為AI提供源源不斷的生物能。在類似的作品中，AI與人類總是處于極端對立的關系中，“AI終將毀滅人類”的想象也反復渲染著人們對AI高度發展的恐懼。
《黑客帝國》中人類的存在形式
人類創造了AI，卻又恐懼AI的發展，這種恐懼或許并不指向科技發展，而是對未來人類的價值未知。AI高度發達后，人類的大部分工作都將被替代，人類獲得了空前的解放，到那時“無所事事”的人類以什么面貌存在？
