人與人工智能的邊界究竟在哪里？
4月25日，由中國科技產(chǎn)業(yè)智庫「甲子光年」主辦、上海市信息服務(wù)業(yè)行業(yè)協(xié)會(huì)支持的「共赴山?！?023甲子引力X智能新世代」峰會(huì)在上海召開?，F(xiàn)場30余位嘉賓與數(shù)百位科技從業(yè)者共同全方位聚焦新一代人工智能，為科技與產(chǎn)業(yè)的結(jié)合尋找新機(jī)會(huì)。
在當(dāng)天下午的《明天過后：走進(jìn)通用人工智能時(shí)代》主題圓桌中，維智科技CTO劉泉、天壤創(chuàng)始人&CEO薛貴榮、啟元世界聯(lián)合創(chuàng)始人&首席算法官王湘君、特贊聯(lián)合創(chuàng)始人王喆、北極光創(chuàng)投合伙人張朋、甲子光年王博圍繞智能的定義、人與機(jī)器的界限、人類的“自留地”等話題展開討論。
(資料圖片僅供參考)
以下是本場圓桌的交流實(shí)錄，「甲子光年」整理刪改：
1.新AI時(shí)代，
“智能”是否需要被重新定義？
王博（主持人）：這場圓桌論壇的主題是《明天過后：走進(jìn)通用人工智能時(shí)代》。首先，我們來關(guān)注“智能”這個(gè)詞。如何定義“智能”？我們會(huì)想到著名的圖靈測試，這是衡量AI智能程度的重要標(biāo)準(zhǔn)。但是，在ChatGPT出現(xiàn)后，有人認(rèn)為，圖靈測試已經(jīng)過時(shí)，無法用來檢測AI的發(fā)展程度與智能水平。對(duì)于ChatGPT，我周圍很多朋友評(píng)價(jià)它“像一個(gè)人”。我想請(qǐng)各位嘉賓給“智能”下一個(gè)定義。另外，在ChatGPT出現(xiàn)后，這個(gè)定義是否發(fā)生過變化？
劉泉：關(guān)于智能的定義，我感覺不僅僅是一個(gè)技術(shù)問題，可能在一定意義上也上升到了哲學(xué)的高度。我認(rèn)為智能是一個(gè)生命體，通過感知理解和一定的交互獲得進(jìn)一步反饋，不斷形成個(gè)體層面的一個(gè)認(rèn)知、理解和思考，進(jìn)而會(huì)發(fā)生一些行動(dòng)，包括用語言的方式和外界進(jìn)行交互以及自己產(chǎn)生進(jìn)一步的決策。這是我在寬泛意義上對(duì)智能的理解。
包括剛剛主持人提到的圖靈測試是否有用，我是這么理解的：在提出圖靈的時(shí)代，人對(duì)于計(jì)算機(jī)的理解更多地處于純粹的計(jì)算層面。我們通過黑盒子，對(duì)一個(gè)人、一個(gè)機(jī)器提一個(gè)問題，來辨別人與機(jī)器。如果今天把ChatGPT放在后面，做類似的Q&A的話，這個(gè)檢測的理念我是比較認(rèn)同的。隨著硅基生命自己的認(rèn)知和決策能力的不斷提升，我們很難對(duì)其真實(shí)性進(jìn)行辨別。就像剛剛嘉賓展示的數(shù)字人和一個(gè)真實(shí)人，已經(jīng)很難區(qū)別出哪個(gè)是真人了。但如果再追問一些很深層次的問題，包括價(jià)值觀、創(chuàng)造、倫理等等方面，這些問題的引入也許可以幫助我們對(duì)不同生命體智能的階段進(jìn)行劃分或者區(qū)隔。
薛貴榮：的確，GPT-4發(fā)布以后，大家對(duì)智能的概念可能和聰明這個(gè)詞的聯(lián)系更加緊密了。大家覺得GPT“講人話”了，好像也表現(xiàn)得挺聰明的。我覺得也可以從另外一個(gè)角度定義新的概念，叫機(jī)器智能。首先是記憶的能力。機(jī)器和人的記憶有非常典型的不同，機(jī)器的記憶能力無疑巨大。其次，我認(rèn)為機(jī)器智能具備像創(chuàng)造力、情感等能力。雖然GPT-4發(fā)布以后，大家感覺在專業(yè)上，人類也受到了機(jī)器的挑戰(zhàn)，GPT-4可以打敗我們85%以上的人的表現(xiàn)。所以我覺得，更專業(yè)的、更具有創(chuàng)造性和情感的表現(xiàn)可能是人類智能的表現(xiàn)，而機(jī)器只能在總結(jié)、歸納、推理記憶規(guī)模方面有更新的展現(xiàn)力。
王喆：我覺得智能是一個(gè)系統(tǒng)，不一定是一個(gè)人，這個(gè)系統(tǒng)可以吸收信息、處理信息。我們遇到的問題可以簡單分兩類，一類是確定性問題，一類是不確定性問題。確定性的問題大家是通過工程的方法、編程的方法解決。但像今天還有很多開放性的、不確定性的問題，大模型很擅長解決不確定性的問題，或者通過概率函數(shù)預(yù)測找到不確定性的邊界。我認(rèn)為智能是一個(gè)好的系統(tǒng)，能夠把兩種能力相結(jié)合。
張朋：簡單來說，我認(rèn)為無論人工智能達(dá)到何種程度，最終都應(yīng)該具備為人類提供服務(wù)的能力。從客戶的角度來看，無論實(shí)現(xiàn)方式、技術(shù)、模型組合是否開源或閉源，客戶只關(guān)心是否能夠解決他們的問題。商業(yè)角度下，我將智能分為內(nèi)外兩個(gè)層面。內(nèi)部層面指的是能否解決員工或下屬的問題，以及是否能夠?yàn)楣緞?chuàng)造價(jià)值。外部層面指的是能否代表公司或銷售員或咨詢?nèi)藛T與客戶溝通，無論是通過語音還是個(gè)人形象。過去，數(shù)字化的軟件只能解決確定性問題，只要輸入指令就能得到結(jié)果。大型模型則能夠解決模糊性問題，將問題按照邏輯分解成可能的問題，做出選擇。智能從“你說1它做1”推進(jìn)到“你說1，它可以舉一反三”，越走越像真人，既能解決內(nèi)部問題，又能觸達(dá)外部客戶。
王湘君：我認(rèn)為隨著人工智能的不斷發(fā)展，大家對(duì)智能的認(rèn)知和定義也在不斷進(jìn)化。回想幾年前，我們認(rèn)為如果AI下棋可以超過人類就是很智能的表現(xiàn)。但是現(xiàn)在，阿爾法狗已經(jīng)能夠碾壓人類，顯示出在游戲方面更高層次的智能水平。隨著AI攻克更多領(lǐng)域，人們開始討論真正的人工智能應(yīng)該是什么。我們最開始定義智能體是具有自主學(xué)習(xí)和自主決策能力，這是智能發(fā)展的方向。
GPT的不斷發(fā)展代表了通用人工智能的發(fā)展，類似于阿爾法狗。現(xiàn)在GPT已經(jīng)具備了一種通用認(rèn)知的能力，而OpenAI對(duì)智能和AGI的定義也在不斷改變。在GPT-3發(fā)布時(shí)，OpenAI定義AGI為能夠像人類一樣完成智能任務(wù)，普遍適用于各種任務(wù)。特別是在最近GPT-4發(fā)布后，有一個(gè)新的定義是AI是一個(gè)比人類更聰明的智能系統(tǒng)。這個(gè)定義非常有意義，因?yàn)樵谡務(wù)撝悄軙r(shí)，我們可以提出三個(gè)問題：*，它是通用智能還是特定領(lǐng)域的智能？第二，它是普通的智能還是專家級(jí)的智能？很明顯，GPT-4已經(jīng)超越或達(dá)到了人類專家的水平。第三，它是智慧的智能還是全面的智能？從多個(gè)維度看，人工智能在感知、認(rèn)知、決策方面取得了重大進(jìn)展。要成為真正的智能，必須具備感知、認(rèn)知和決策專家的水平。這是我的看法。
2.當(dāng)硅基取代人類勞動(dòng)力，
未來人類的“自留地”是什么？
王博：無論通用人工智能是接近人還是超越人，都是在用人的智能來衡量通用人工智能，這讓我想到一句話——“人是萬物的尺度”。接下來，我們一起談?wù)勅伺c機(jī)器，或者人與機(jī)器人。很多人都聽說過“機(jī)器人三大定律”，看過機(jī)器人主題的科幻電影，近期還有一種觀點(diǎn)是“人工智能會(huì)在一些領(lǐng)域取代人類”。那么，當(dāng)硅基智能取代一些人類勞動(dòng)力，我們是否還有必要在人與機(jī)器之間劃分明確的界限？未來人類的“自留地”又是什么呢？
劉泉：這個(gè)問題變得更加深刻了。實(shí)際上，我不完全贊同“機(jī)器總會(huì)取代人類”的觀點(diǎn)，盡管我們有時(shí)會(huì)這樣解讀。因?yàn)榭萍歼M(jìn)步會(huì)創(chuàng)造新的工作崗位和機(jī)會(huì)，這是相互促進(jìn)、共同進(jìn)步的過程，而不是單方面的替代。關(guān)于人和機(jī)器的區(qū)別，實(shí)際上我們前幾年一直在探討這個(gè)概念。人工智能從感知到認(rèn)知再到?jīng)Q策，決策后還有下一步。我們曾認(rèn)為這個(gè)階段的特點(diǎn)是人可以創(chuàng)造大量內(nèi)容，定義高質(zhì)量的問題，而機(jī)器可以完全替代重復(fù)性流程。但自從ChatGPT發(fā)布以來，AIGC也在近年來蓬勃發(fā)展，人的創(chuàng)造能力也被替代，這讓人有些驚訝。
一方面，一些創(chuàng)作或創(chuàng)造是基于對(duì)世界更深層次的理解和洞察，以及對(duì)規(guī)律和邏輯的歸納，通過對(duì)歷史的樣本和數(shù)據(jù)進(jìn)行重新拼湊和組裝。在這些更高維度的創(chuàng)造能力上，我認(rèn)為人類仍然具有優(yōu)勢。另一方面，人類自身的情感和價(jià)值觀是一個(gè)重要的區(qū)別點(diǎn)，這些價(jià)值觀可能包括宗教或信仰等等，這帶來了更加復(fù)雜的判斷，無法很好地被浮像化和具像化。
薛貴榮：我覺得未來明確區(qū)分人類和機(jī)器或人工智能的區(qū)隔，還要花非常長的時(shí)間，但是在接下來的5到10年里，我們或許思考更多的是“我們怎么和AI互動(dòng)”，以此來做協(xié)同模式，我覺得這是一個(gè)很大的創(chuàng)新。我們怎么用機(jī)器做更重要的事或者更復(fù)雜的事，讓機(jī)器幫我們做我們不想做的事。就像現(xiàn)在人們戴眼鏡和使用手機(jī)一樣，和千里外的人通信就像在眼前，未來人工智能可以很好地幫助人類做很多的事?，F(xiàn)在我們主要談?wù)撊撕椭悄軈f(xié)同，十年之后再看是什么樣的跡象，是不是整體的人類認(rèn)知或者人類解決問題的水平也提升了一定高度。那就是人智共存的時(shí)代。
王喆：我來提供一個(gè)新的視角。當(dāng)我們思考這些問題的時(shí)候，我們可以把時(shí)間尺度放得比人類歷史更長，從地球的角度看待這個(gè)問題。地球上的生命從單細(xì)胞生物開始演化，不斷向上發(fā)展?，F(xiàn)在，我們?nèi)祟惢蛟S正處在地球上的一個(gè)特殊時(shí)期——我們已經(jīng)發(fā)展出了智能，目前是主宰地球文明的生物種群，但也許在未來，還會(huì)有更先進(jìn)的文明出現(xiàn)，這也許是人類在演化過程中的一個(gè)中間階段。以單細(xì)胞生物時(shí)代為例，如果站在單細(xì)胞生物的角度看，也許會(huì)發(fā)現(xiàn)有一個(gè)更高級(jí)的文明正在慢慢地消滅他們。從這個(gè)角度來看待人類，我們或許只是地球上新一代非生物體系文明中的一個(gè)中間體。
至于機(jī)器和人類之間的關(guān)系，也許會(huì)在未來演化出一種協(xié)作或互斥的關(guān)系，這取決于文明和科技的發(fā)展。我們并不知道機(jī)器和人類是否會(huì)相互合作，還是會(huì)產(chǎn)生矛盾，就像大自然中生物之間存在互為食物、捕獵和共生的關(guān)系一樣。而人類學(xué)習(xí)知識(shí)的方式相對(duì)落后，我們必須從零開始學(xué)習(xí)，并且使用比較古老的信息傳遞方式。例如一個(gè)老師在課堂上講，每個(gè)學(xué)生聽到的不同，信息的損失是非常大的。同時(shí)，每個(gè)人類個(gè)體壽命有限，要學(xué)習(xí)前人的知識(shí)需要花費(fèi)很多時(shí)間。這是一個(gè)相對(duì)較慢的演化進(jìn)程。不過，從科技的角度來看，更先進(jìn)的文明可能會(huì)解決一些我們目前無法想象的新問題，比如能源和量子力學(xué)等，從而對(duì)人類的進(jìn)步有所幫助。這是我提供的一種新的視角。
張朋：我非常認(rèn)同王總剛才說的觀點(diǎn)，我們對(duì)知識(shí)進(jìn)行迭代的速度非常慢。雖然有可能通過某種新技術(shù)將上一代人的技術(shù)100%無損地傳遞給人腦，但這似乎有些超出科技范疇，比較不現(xiàn)實(shí)。然而，就目前而言，我認(rèn)為人類可以主導(dǎo)技術(shù)的發(fā)展。尤其是在現(xiàn)代社會(huì)充斥各種信息的情況下，人工智能的應(yīng)用可以幫助我們更快速地消化知識(shí)。
例如，在機(jī)器智能應(yīng)用于搜索引擎和發(fā)布人工智能大型模型方面，可以加速我們學(xué)習(xí)的速度。這種工具是全民普及的，任何人都可以使用，只是看誰能更好地利用它。我們可以在大型模型的基礎(chǔ)上完成許多事情。當(dāng)然，這也會(huì)導(dǎo)致人與人之間的不同，有些人會(huì)從事高級(jí)工作，而有些人則從事低級(jí)工作。我們不確定是“人引領(lǐng)技術(shù)”還是“技術(shù)引領(lǐng)人”，但如果技術(shù)決定方向，那么人類的安全邊界在哪里？因此，從工具為人擴(kuò)展能力的角度來看，我認(rèn)為這個(gè)問題應(yīng)該優(yōu)先解決。
王博：我想問一下湘君總，您之前在游戲領(lǐng)域做過“星際AI”和“AI陪玩”，您對(duì)于“人與機(jī)器之間是否應(yīng)該劃分明確的界限”有什么看法？
王湘君：我從三個(gè)方面來談?wù)勥@個(gè)話題。
首先是關(guān)于是否需要?jiǎng)澐诌吔绲膯栴}。我們在游戲AI方面做了很多工作，例如實(shí)現(xiàn)可以像真人一樣對(duì)話的NPC這樣的場景。目前運(yùn)用的大型模型技術(shù)已經(jīng)能夠讓玩家難以分辨這些NPC是不是AI了。從用戶體驗(yàn)的角度來看，這是一種更好的體驗(yàn)，他們不再關(guān)心與誰交互，是人還是AI。在這個(gè)角度上，我相信，除了游戲之外，很多人類社交本身的需求還是陪伴、情感交流。因此，AI可以用來滿足人們在這方面的需求。特別是現(xiàn)在虛擬人對(duì)于AI的認(rèn)知和下一代人有不同的看法，越來越開放、接受新技術(shù)和接受AI在新社會(huì)的定位。
第二個(gè)角度是，AI的能力越來越強(qiáng)，但仍然有一些事情它無法做好。AI的發(fā)展更多地集中在智商能力方面。但是，有兩個(gè)比較難回答的問題：人的自我意識(shí)是什么？AI是否能通過學(xué)習(xí)的方式獲得自我認(rèn)識(shí)？這些問題還不確定。
第三個(gè)角度是，現(xiàn)在有兩個(gè)觀點(diǎn)，一個(gè)是像馬斯克提出的新硅基智能，人類可能是硅基智能的引導(dǎo)程序，來引出更先進(jìn)的新一代智能。另一個(gè)觀點(diǎn)是，AI是我們創(chuàng)造的實(shí)體，就像NPC一樣，無法感知高維的存在。從技術(shù)的角度來看，我們可能更傾向于后者。
實(shí)際上，現(xiàn)在AI還有很多缺陷，最明顯的是OpenAI強(qiáng)迫讓ChatGPT的部分功能失效。ChatGPT只是一個(gè)工具人的定位，開發(fā)者賦予了它應(yīng)該做什么、不應(yīng)該做什么、擅長做什么，幫助AI確定了它的價(jià)值觀和道德準(zhǔn)則。目前，人類對(duì)AI還擁有引導(dǎo)和發(fā)展方向的主控權(quán)，這也是現(xiàn)在很多人關(guān)注的AI安全問題所在。在發(fā)展AI的同時(shí)，我們需要掌握它的可控性，更好地創(chuàng)造一個(gè)人工智能和人類共生的世界。
3.科幻電影里的人工智能，
未來能成真嗎？
王博：今年年初，《流浪地球2》受到了廣泛關(guān)注，其中“圖丫丫”給人們帶來了關(guān)于“數(shù)字生命”的想象。當(dāng)我們走進(jìn)通用人工智能時(shí)代，我們對(duì)未來生命形態(tài)還可能有哪些想象？
劉泉：我認(rèn)為通過在數(shù)字世界當(dāng)中存儲(chǔ)一些人的思想和認(rèn)知等等，能夠進(jìn)一步和視頻做交互，有點(diǎn)像數(shù)字世界的永生。拉回到現(xiàn)在世界的尺度，我更加期待看到機(jī)器和人有更好的共生和相互促進(jìn)的關(guān)系，比如機(jī)器可以輔助人們更快速地學(xué)習(xí)和掌握知識(shí)，更高效地掌握工具，從重復(fù)性勞動(dòng)中釋放出來，在影響力的創(chuàng)作和探索產(chǎn)生更大的價(jià)值。人的生命在數(shù)字世界的永生可能是另外一個(gè)話題。
薛貴榮：今天我們談到的更多是關(guān)于數(shù)字人的，未來可能還會(huì)有一個(gè)實(shí)體的機(jī)器人在外面工作，一個(gè)數(shù)字人在虛擬世界，而我們在家里面躺平。我們的思想和決策在真實(shí)世界和虛擬世界的互通，這非常有意思。比如《流浪地球2》里面的一個(gè)人物，我們現(xiàn)在看不到他本人，但可能看到一個(gè)機(jī)器人在外面代表他。我覺得這是一個(gè)比較有意思的世界。
王喆：我的想法是，我們現(xiàn)在發(fā)展的時(shí)候，發(fā)現(xiàn)生命體的意義是把基因還原成能力和學(xué)習(xí)。數(shù)字生命是一直延續(xù)永存的，過去的人通過留下作品從而被后人感知。只是現(xiàn)在的門檻稍微降低了，不需要一個(gè)特別偉大的作品來延續(xù)，可能是通過自己的想法，甚至可能在數(shù)字世界形成某種延續(xù)。當(dāng)然隨著發(fā)展，數(shù)字生命的意義也會(huì)和以前不一樣。以前生產(chǎn)力效率不高的時(shí)候，我們這代人努力拼搏，享受生活其實(shí)不多。生命的意義在享受生活，數(shù)字世界里可能主要是玩，不需要努力工作，大多數(shù)工作是被機(jī)器完成了。生命的定義會(huì)隨著科技的發(fā)展擁有新的理解。
張朋：真的挺科幻的。從意識(shí)上傳這一想法來說，我想到了一本科幻小說。在小說中，當(dāng)人變老到八十多歲時(shí)，有一項(xiàng)新技術(shù)可以幫助他們換一個(gè)新的身體。思想和記憶仍然是原來的那個(gè)人的。 至于數(shù)字生命，我認(rèn)為在人類社會(huì)中，無論是數(shù)字人之間的互動(dòng)，還是數(shù)字人是你的親人、朋友、愛人等等，人類更需要和人類在一起感受彼此的情感。畢竟，我們是需要社交和群居的動(dòng)物。在人工智能時(shí)代，人工智能擁有自己的思想和觀點(diǎn)。到了那個(gè)時(shí)候，可能有很多社交障礙的人不需要跟真實(shí)的人產(chǎn)生交流和互動(dòng)。因此，我認(rèn)為數(shù)字生命是人類的一種補(bǔ)充。
王博：這讓我想起《三體》里面的云天明。我想請(qǐng)教一下湘君總，您對(duì)未來生命形態(tài)有哪些想象？
王湘君：好的。因?yàn)樽鲞^比較多的娛樂行業(yè)，我也有很多感受。特別是從游戲玩家的角度來講，很需要它。首先是因?yàn)橛螒虮旧砭褪亲非篌w驗(yàn)，各種游戲包括元宇宙都在打造一個(gè)不同的平行世界，或許可以穿越到三國時(shí)期、三國戰(zhàn)場等等，也能夠和未來世界進(jìn)行交互。我覺得其實(shí)這能夠超越現(xiàn)在社交的局限性，甚至包括時(shí)間限制和更多數(shù)字生命的交互。另外，我們在陪伴的方向上想提到的是，讓AI能夠像我們看到的科幻電影一樣，更好地陪伴人，能夠讓人在精神和情感世界有更好的寄托。第三點(diǎn)呢，看到數(shù)字生命的發(fā)展，也期待在實(shí)體世界里大佬的實(shí)體機(jī)器人帶來的更多的想象力。
王博：好的，謝謝線上的湘君總，謝謝在場的所有嘉賓，本場圓桌論壇到此結(jié)束。
【本文由投資界合作伙伴微信公眾號(hào)：甲子光年授權(quán)發(fā)布，本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。】如有任何疑問，請(qǐng)聯(lián)系（editor@zero2ipo.com.cn）投資界處理。
標(biāo)簽：
