人與人工智能的邊界究竟在哪里？
4月25日，由中國科技產(chǎn)業(yè)智庫「甲子光年」主辦、上海市信息服務(wù)業(yè)行業(yè)協(xié)會支持的「共赴山?！?023甲子引力X智能新世代」峰會在上海召開?，F(xiàn)場30余位嘉賓與數(shù)百位科技從業(yè)者共同全方位聚焦新一代人工智能，為科技與產(chǎn)業(yè)的結(jié)合尋找新機會。
在當天下午的《明天過后：走進通用人工智能時代》主題圓桌中，維智科技CTO劉泉、天壤創(chuàng)始人&CEO薛貴榮、啟元世界聯(lián)合創(chuàng)始人&首席算法官王湘君、特贊聯(lián)合創(chuàng)始人王喆、北極光創(chuàng)投合伙人張朋、甲子光年王博圍繞智能的定義、人與機器的界限、人類的“自留地”等話題展開討論。
(資料圖片僅供參考)
以下是本場圓桌的交流實錄，「甲子光年」整理刪改：
1.新AI時代，
“智能”是否需要被重新定義？
王博（主持人）：這場圓桌論壇的主題是《明天過后：走進通用人工智能時代》。首先，我們來關(guān)注“智能”這個詞。如何定義“智能”？我們會想到著名的圖靈測試，這是衡量AI智能程度的重要標準。但是，在ChatGPT出現(xiàn)后，有人認為，圖靈測試已經(jīng)過時，無法用來檢測AI的發(fā)展程度與智能水平。對于ChatGPT，我周圍很多朋友評價它“像一個人”。我想請各位嘉賓給“智能”下一個定義。另外，在ChatGPT出現(xiàn)后，這個定義是否發(fā)生過變化？
劉泉：關(guān)于智能的定義，我感覺不僅僅是一個技術(shù)問題，可能在一定意義上也上升到了哲學的高度。我認為智能是一個生命體，通過感知理解和一定的交互獲得進一步反饋，不斷形成個體層面的一個認知、理解和思考，進而會發(fā)生一些行動，包括用語言的方式和外界進行交互以及自己產(chǎn)生進一步的決策。這是我在寬泛意義上對智能的理解。
包括剛剛主持人提到的圖靈測試是否有用，我是這么理解的：在提出圖靈的時代，人對于計算機的理解更多地處于純粹的計算層面。我們通過黑盒子，對一個人、一個機器提一個問題，來辨別人與機器。如果今天把ChatGPT放在后面，做類似的Q&A的話，這個檢測的理念我是比較認同的。隨著硅基生命自己的認知和決策能力的不斷提升，我們很難對其真實性進行辨別。就像剛剛嘉賓展示的數(shù)字人和一個真實人，已經(jīng)很難區(qū)別出哪個是真人了。但如果再追問一些很深層次的問題，包括價值觀、創(chuàng)造、倫理等等方面，這些問題的引入也許可以幫助我們對不同生命體智能的階段進行劃分或者區(qū)隔。
薛貴榮：的確，GPT-4發(fā)布以后，大家對智能的概念可能和聰明這個詞的聯(lián)系更加緊密了。大家覺得GPT“講人話”了，好像也表現(xiàn)得挺聰明的。我覺得也可以從另外一個角度定義新的概念，叫機器智能。首先是記憶的能力。機器和人的記憶有非常典型的不同，機器的記憶能力無疑巨大。其次，我認為機器智能具備像創(chuàng)造力、情感等能力。雖然GPT-4發(fā)布以后，大家感覺在專業(yè)上，人類也受到了機器的挑戰(zhàn)，GPT-4可以打敗我們85%以上的人的表現(xiàn)。所以我覺得，更專業(yè)的、更具有創(chuàng)造性和情感的表現(xiàn)可能是人類智能的表現(xiàn)，而機器只能在總結(jié)、歸納、推理記憶規(guī)模方面有更新的展現(xiàn)力。
王喆：我覺得智能是一個系統(tǒng)，不一定是一個人，這個系統(tǒng)可以吸收信息、處理信息。我們遇到的問題可以簡單分兩類，一類是確定性問題，一類是不確定性問題。確定性的問題大家是通過工程的方法、編程的方法解決。但像今天還有很多開放性的、不確定性的問題，大模型很擅長解決不確定性的問題，或者通過概率函數(shù)預(yù)測找到不確定性的邊界。我認為智能是一個好的系統(tǒng)，能夠把兩種能力相結(jié)合。
張朋：簡單來說，我認為無論人工智能達到何種程度，最終都應(yīng)該具備為人類提供服務(wù)的能力。從客戶的角度來看，無論實現(xiàn)方式、技術(shù)、模型組合是否開源或閉源，客戶只關(guān)心是否能夠解決他們的問題。商業(yè)角度下，我將智能分為內(nèi)外兩個層面。內(nèi)部層面指的是能否解決員工或下屬的問題，以及是否能夠為公司創(chuàng)造價值。外部層面指的是能否代表公司或銷售員或咨詢?nèi)藛T與客戶溝通，無論是通過語音還是個人形象。過去，數(shù)字化的軟件只能解決確定性問題，只要輸入指令就能得到結(jié)果。大型模型則能夠解決模糊性問題，將問題按照邏輯分解成可能的問題，做出選擇。智能從“你說1它做1”推進到“你說1，它可以舉一反三”，越走越像真人，既能解決內(nèi)部問題，又能觸達外部客戶。
王湘君：我認為隨著人工智能的不斷發(fā)展，大家對智能的認知和定義也在不斷進化。回想幾年前，我們認為如果AI下棋可以超過人類就是很智能的表現(xiàn)。但是現(xiàn)在，阿爾法狗已經(jīng)能夠碾壓人類，顯示出在游戲方面更高層次的智能水平。隨著AI攻克更多領(lǐng)域，人們開始討論真正的人工智能應(yīng)該是什么。我們最開始定義智能體是具有自主學習和自主決策能力，這是智能發(fā)展的方向。
GPT的不斷發(fā)展代表了通用人工智能的發(fā)展，類似于阿爾法狗?，F(xiàn)在GPT已經(jīng)具備了一種通用認知的能力，而OpenAI對智能和AGI的定義也在不斷改變。在GPT-3發(fā)布時，OpenAI定義AGI為能夠像人類一樣完成智能任務(wù)，普遍適用于各種任務(wù)。特別是在最近GPT-4發(fā)布后，有一個新的定義是AI是一個比人類更聰明的智能系統(tǒng)。這個定義非常有意義，因為在談?wù)撝悄軙r，我們可以提出三個問題：*，它是通用智能還是特定領(lǐng)域的智能？第二，它是普通的智能還是專家級的智能？很明顯，GPT-4已經(jīng)超越或達到了人類專家的水平。第三，它是智慧的智能還是全面的智能？從多個維度看，人工智能在感知、認知、決策方面取得了重大進展。要成為真正的智能，必須具備感知、認知和決策專家的水平。這是我的看法。
2.當硅基取代人類勞動力，
未來人類的“自留地”是什么？
王博：無論通用人工智能是接近人還是超越人，都是在用人的智能來衡量通用人工智能，這讓我想到一句話——“人是萬物的尺度”。接下來，我們一起談?wù)勅伺c機器，或者人與機器人。很多人都聽說過“機器人三大定律”，看過機器人主題的科幻電影，近期還有一種觀點是“人工智能會在一些領(lǐng)域取代人類”。那么，當硅基智能取代一些人類勞動力，我們是否還有必要在人與機器之間劃分明確的界限？未來人類的“自留地”又是什么呢？
劉泉：這個問題變得更加深刻了。實際上，我不完全贊同“機器總會取代人類”的觀點，盡管我們有時會這樣解讀。因為科技進步會創(chuàng)造新的工作崗位和機會，這是相互促進、共同進步的過程，而不是單方面的替代。關(guān)于人和機器的區(qū)別，實際上我們前幾年一直在探討這個概念。人工智能從感知到認知再到?jīng)Q策，決策后還有下一步。我們曾認為這個階段的特點是人可以創(chuàng)造大量內(nèi)容，定義高質(zhì)量的問題，而機器可以完全替代重復(fù)性流程。但自從ChatGPT發(fā)布以來，AIGC也在近年來蓬勃發(fā)展，人的創(chuàng)造能力也被替代，這讓人有些驚訝。
一方面，一些創(chuàng)作或創(chuàng)造是基于對世界更深層次的理解和洞察，以及對規(guī)律和邏輯的歸納，通過對歷史的樣本和數(shù)據(jù)進行重新拼湊和組裝。在這些更高維度的創(chuàng)造能力上，我認為人類仍然具有優(yōu)勢。另一方面，人類自身的情感和價值觀是一個重要的區(qū)別點，這些價值觀可能包括宗教或信仰等等，這帶來了更加復(fù)雜的判斷，無法很好地被浮像化和具像化。
薛貴榮：我覺得未來明確區(qū)分人類和機器或人工智能的區(qū)隔，還要花非常長的時間，但是在接下來的5到10年里，我們或許思考更多的是“我們怎么和AI互動”，以此來做協(xié)同模式，我覺得這是一個很大的創(chuàng)新。我們怎么用機器做更重要的事或者更復(fù)雜的事，讓機器幫我們做我們不想做的事。就像現(xiàn)在人們戴眼鏡和使用手機一樣，和千里外的人通信就像在眼前，未來人工智能可以很好地幫助人類做很多的事?，F(xiàn)在我們主要談?wù)撊撕椭悄軈f(xié)同，十年之后再看是什么樣的跡象，是不是整體的人類認知或者人類解決問題的水平也提升了一定高度。那就是人智共存的時代。
王喆：我來提供一個新的視角。當我們思考這些問題的時候，我們可以把時間尺度放得比人類歷史更長，從地球的角度看待這個問題。地球上的生命從單細胞生物開始演化，不斷向上發(fā)展?，F(xiàn)在，我們?nèi)祟惢蛟S正處在地球上的一個特殊時期——我們已經(jīng)發(fā)展出了智能，目前是主宰地球文明的生物種群，但也許在未來，還會有更先進的文明出現(xiàn)，這也許是人類在演化過程中的一個中間階段。以單細胞生物時代為例，如果站在單細胞生物的角度看，也許會發(fā)現(xiàn)有一個更高級的文明正在慢慢地消滅他們。從這個角度來看待人類，我們或許只是地球上新一代非生物體系文明中的一個中間體。
至于機器和人類之間的關(guān)系，也許會在未來演化出一種協(xié)作或互斥的關(guān)系，這取決于文明和科技的發(fā)展。我們并不知道機器和人類是否會相互合作，還是會產(chǎn)生矛盾，就像大自然中生物之間存在互為食物、捕獵和共生的關(guān)系一樣。而人類學習知識的方式相對落后，我們必須從零開始學習，并且使用比較古老的信息傳遞方式。例如一個老師在課堂上講，每個學生聽到的不同，信息的損失是非常大的。同時，每個人類個體壽命有限，要學習前人的知識需要花費很多時間。這是一個相對較慢的演化進程。不過，從科技的角度來看，更先進的文明可能會解決一些我們目前無法想象的新問題，比如能源和量子力學等，從而對人類的進步有所幫助。這是我提供的一種新的視角。
張朋：我非常認同王總剛才說的觀點，我們對知識進行迭代的速度非常慢。雖然有可能通過某種新技術(shù)將上一代人的技術(shù)100%無損地傳遞給人腦，但這似乎有些超出科技范疇，比較不現(xiàn)實。然而，就目前而言，我認為人類可以主導技術(shù)的發(fā)展。尤其是在現(xiàn)代社會充斥各種信息的情況下，人工智能的應(yīng)用可以幫助我們更快速地消化知識。
例如，在機器智能應(yīng)用于搜索引擎和發(fā)布人工智能大型模型方面，可以加速我們學習的速度。這種工具是全民普及的，任何人都可以使用，只是看誰能更好地利用它。我們可以在大型模型的基礎(chǔ)上完成許多事情。當然，這也會導致人與人之間的不同，有些人會從事高級工作，而有些人則從事低級工作。我們不確定是“人引領(lǐng)技術(shù)”還是“技術(shù)引領(lǐng)人”，但如果技術(shù)決定方向，那么人類的安全邊界在哪里？因此，從工具為人擴展能力的角度來看，我認為這個問題應(yīng)該優(yōu)先解決。
王博：我想問一下湘君總，您之前在游戲領(lǐng)域做過“星際AI”和“AI陪玩”，您對于“人與機器之間是否應(yīng)該劃分明確的界限”有什么看法？
王湘君：我從三個方面來談?wù)勥@個話題。
首先是關(guān)于是否需要劃分邊界的問題。我們在游戲AI方面做了很多工作，例如實現(xiàn)可以像真人一樣對話的NPC這樣的場景。目前運用的大型模型技術(shù)已經(jīng)能夠讓玩家難以分辨這些NPC是不是AI了。從用戶體驗的角度來看，這是一種更好的體驗，他們不再關(guān)心與誰交互，是人還是AI。在這個角度上，我相信，除了游戲之外，很多人類社交本身的需求還是陪伴、情感交流。因此，AI可以用來滿足人們在這方面的需求。特別是現(xiàn)在虛擬人對于AI的認知和下一代人有不同的看法，越來越開放、接受新技術(shù)和接受AI在新社會的定位。
第二個角度是，AI的能力越來越強，但仍然有一些事情它無法做好。AI的發(fā)展更多地集中在智商能力方面。但是，有兩個比較難回答的問題：人的自我意識是什么？AI是否能通過學習的方式獲得自我認識？這些問題還不確定。
第三個角度是，現(xiàn)在有兩個觀點，一個是像馬斯克提出的新硅基智能，人類可能是硅基智能的引導程序，來引出更先進的新一代智能。另一個觀點是，AI是我們創(chuàng)造的實體，就像NPC一樣，無法感知高維的存在。從技術(shù)的角度來看，我們可能更傾向于后者。
實際上，現(xiàn)在AI還有很多缺陷，最明顯的是OpenAI強迫讓ChatGPT的部分功能失效。ChatGPT只是一個工具人的定位，開發(fā)者賦予了它應(yīng)該做什么、不應(yīng)該做什么、擅長做什么，幫助AI確定了它的價值觀和道德準則。目前，人類對AI還擁有引導和發(fā)展方向的主控權(quán)，這也是現(xiàn)在很多人關(guān)注的AI安全問題所在。在發(fā)展AI的同時，我們需要掌握它的可控性，更好地創(chuàng)造一個人工智能和人類共生的世界。
3.科幻電影里的人工智能，
未來能成真嗎？
王博：今年年初，《流浪地球2》受到了廣泛關(guān)注，其中“圖丫丫”給人們帶來了關(guān)于“數(shù)字生命”的想象。當我們走進通用人工智能時代，我們對未來生命形態(tài)還可能有哪些想象？
劉泉：我認為通過在數(shù)字世界當中存儲一些人的思想和認知等等，能夠進一步和視頻做交互，有點像數(shù)字世界的永生。拉回到現(xiàn)在世界的尺度，我更加期待看到機器和人有更好的共生和相互促進的關(guān)系，比如機器可以輔助人們更快速地學習和掌握知識，更高效地掌握工具，從重復(fù)性勞動中釋放出來，在影響力的創(chuàng)作和探索產(chǎn)生更大的價值。人的生命在數(shù)字世界的永生可能是另外一個話題。
薛貴榮：今天我們談到的更多是關(guān)于數(shù)字人的，未來可能還會有一個實體的機器人在外面工作，一個數(shù)字人在虛擬世界，而我們在家里面躺平。我們的思想和決策在真實世界和虛擬世界的互通，這非常有意思。比如《流浪地球2》里面的一個人物，我們現(xiàn)在看不到他本人，但可能看到一個機器人在外面代表他。我覺得這是一個比較有意思的世界。
王喆：我的想法是，我們現(xiàn)在發(fā)展的時候，發(fā)現(xiàn)生命體的意義是把基因還原成能力和學習。數(shù)字生命是一直延續(xù)永存的，過去的人通過留下作品從而被后人感知。只是現(xiàn)在的門檻稍微降低了，不需要一個特別偉大的作品來延續(xù)，可能是通過自己的想法，甚至可能在數(shù)字世界形成某種延續(xù)。當然隨著發(fā)展，數(shù)字生命的意義也會和以前不一樣。以前生產(chǎn)力效率不高的時候，我們這代人努力拼搏，享受生活其實不多。生命的意義在享受生活，數(shù)字世界里可能主要是玩，不需要努力工作，大多數(shù)工作是被機器完成了。生命的定義會隨著科技的發(fā)展擁有新的理解。
張朋：真的挺科幻的。從意識上傳這一想法來說，我想到了一本科幻小說。在小說中，當人變老到八十多歲時，有一項新技術(shù)可以幫助他們換一個新的身體。思想和記憶仍然是原來的那個人的。 至于數(shù)字生命，我認為在人類社會中，無論是數(shù)字人之間的互動，還是數(shù)字人是你的親人、朋友、愛人等等，人類更需要和人類在一起感受彼此的情感。畢竟，我們是需要社交和群居的動物。在人工智能時代，人工智能擁有自己的思想和觀點。到了那個時候，可能有很多社交障礙的人不需要跟真實的人產(chǎn)生交流和互動。因此，我認為數(shù)字生命是人類的一種補充。
王博：這讓我想起《三體》里面的云天明。我想請教一下湘君總，您對未來生命形態(tài)有哪些想象？
王湘君：好的。因為做過比較多的娛樂行業(yè)，我也有很多感受。特別是從游戲玩家的角度來講，很需要它。首先是因為游戲本身就是追求體驗，各種游戲包括元宇宙都在打造一個不同的平行世界，或許可以穿越到三國時期、三國戰(zhàn)場等等，也能夠和未來世界進行交互。我覺得其實這能夠超越現(xiàn)在社交的局限性，甚至包括時間限制和更多數(shù)字生命的交互。另外，我們在陪伴的方向上想提到的是，讓AI能夠像我們看到的科幻電影一樣，更好地陪伴人，能夠讓人在精神和情感世界有更好的寄托。第三點呢，看到數(shù)字生命的發(fā)展，也期待在實體世界里大佬的實體機器人帶來的更多的想象力。
王博：好的，謝謝線上的湘君總，謝謝在場的所有嘉賓，本場圓桌論壇到此結(jié)束。
【本文由投資界合作伙伴微信公眾號：甲子光年授權(quán)發(fā)布，本平臺僅提供信息存儲服務(wù)?！咳缬腥魏我蓡?，請聯(lián)系（editor@zero2ipo.com.cn）投資界處理。
標簽：
