教授說(shuō) | ChatGPT是通用人工智能嗎,？進(jìn)來(lái)辯論,！

來(lái)源：法國(guó)里昂商學(xué)院時(shí)間：2024-04-02

ChatGPT從進(jìn)入大眾視野后熱度居高不下，它能稱得上是數(shù)字化時(shí)代躍進(jìn)的代表性產(chǎn)物之一,，然而大家對(duì)于其商業(yè)用途及數(shù)據(jù)安全性一直抱有爭(zhēng)議,。ChatGPT的發(fā)展速度之快時(shí)常讓人感嘆：它究竟智能到了什么地步？

本次針對(duì)ChatGPT是否可以定義為通用人工智能 (AGI) 提出了自己的見(jiàn)解,，并且從多個(gè)方面細(xì)致舉例做出佐證,。

*通用人工智能 (AGI) 是人工智能類型的其中一種，它能在廣泛的認(rèn)知任務(wù)中表現(xiàn)得和人類一樣好,，甚至比人類更好,。


Clement Levallois
里昂商學(xué)院教授


ChatGPT 是AGI的一種嗎？我周圍許多人都明確地回答“不”,。而我的回答則是肯定的,。

*在下文中，將交替使用“ChatGPT”和“LLM”,，因?yàn)?ChatGPT 已成為大型語(yǔ)言模型 (LLM) 家喻戶曉的名字

為什么人們會(huì)關(guān)心ChatGPT是否是AGI,？

這并不是一場(chǎng)文字游戲辯論。我的觀點(diǎn)是,，如果ChatGPT不是AGI,，那么我們還有幾年的時(shí)間來(lái)應(yīng)對(duì)可能出現(xiàn)的一些負(fù)面后果。

如果ChatGPT確實(shí)是一個(gè)AGI,，則意味著：

由于我們與AGI共存，并且AGI有著非常大的影響力,，我們不應(yīng)該坐等假設(shè)中的情況發(fā)生,?！白兓瘯?huì)在何時(shí)產(chǎn)生？”是一個(gè)不恰當(dāng)?shù)膯?wèn)題,，因?yàn)樗赡芤呀?jīng)毫無(wú)征兆地出現(xiàn)了,。AGI 的出現(xiàn)應(yīng)該是在幾年內(nèi)逐步形成的。如果該假設(shè)成立,，我們應(yīng)當(dāng)承認(rèn)一些早期形式的通用人工智能已經(jīng)出現(xiàn),，并采取相應(yīng)的行動(dòng)，那么,，以個(gè)人,、組織和社會(huì)的形式我們?nèi)祟惾绾闻c“類人”的人工智能共存？

所以ChatGPT是否是AGI這個(gè)問(wèn)題相對(duì)復(fù)雜,，我們來(lái)看一下正反方的觀點(diǎn),。

ChatGPT不是AGI

人們一致認(rèn)為，通用人工智能將在幾年或幾十年后,，甚至永遠(yuǎn)不會(huì)出現(xiàn),。“已經(jīng)存在”的情況并不在考慮范疇中：

*圖片與數(shù)據(jù)來(lái)源：emerji.com

針對(duì)“AGI已經(jīng)存在”被認(rèn)為是幼稚的,，我總結(jié)了幾個(gè)相關(guān)論點(diǎn)：

  • 大型語(yǔ)言模型（LLM即ChatGPT）“僅僅依靠強(qiáng)大的統(tǒng)計(jì)關(guān)聯(lián)模式輸出文本”,。
  • LLM不是自主的，他們只是回答人類輸入的提示
  • 沒(méi)有自我意識(shí)
  • 證明LLM不是AGI的證據(jù)來(lái)自于他們輸出結(jié)果中出現(xiàn)的錯(cuò)誤：幻覺(jué),、有8個(gè)手指的手,、不真實(shí)等。

ChatGPT是AGI

什么是AGI,？定義很模糊,。通過(guò)閱讀許多不同的資料，我列出了這些標(biāo)準(zhǔn)：

  1. 自我意識(shí)
  2. 自主性
  3. 能夠完成一般任務(wù)
  4. 能夠完美模仿人類智能
  5. 能夠完美模仿人類認(rèn)知的各個(gè)方面（智力,、情感,、創(chuàng)造力、主觀想法等）
  6. 如果失調(diào),，將對(duì)人類造成直接的生存威脅

我認(rèn)為：

  • LLMs滿足標(biāo)準(zhǔn)3,、4和5；
  • LLMs不滿足標(biāo)準(zhǔn)2,，但當(dāng)前的技術(shù)水平可以達(dá)到這個(gè)階段,；
  • 標(biāo)準(zhǔn)1與該假設(shè)并非完全相關(guān)；
  • 標(biāo)準(zhǔn)6是一項(xiàng)結(jié)果預(yù)測(cè)并非AGI本身的部分定義

接下來(lái),，讓我們來(lái)逐一分析這些標(biāo)準(zhǔn)：

1. 自我意識(shí)是AGI的重要標(biāo)準(zhǔn)嗎,？

我們是否應(yīng)該在觀察到LLMs具有自我意識(shí)的明確跡象后再判斷AI是否是AGI？我想說(shuō),，絕對(duì)不是,。原因有很多,，我更喜歡的一個(gè)是，自從弗洛伊德以來(lái),，我們已經(jīng)接受了人類本身沒(méi)有完全的自我意識(shí),。認(rèn)知心理學(xué)又提供了成堆的證據(jù)，證明我們?nèi)祟愒谀撤N程度上是有意識(shí)的,，但不是絕對(duì)意義上的,。在我看來(lái)，要求滿足“人工智能具有自我意識(shí)”才能被稱為“AGI”是沒(méi)有意義的——我們沒(méi)有衡量自我意識(shí)的標(biāo)準(zhǔn),。它只需要模仿人類的自我意識(shí)即可,。正如我們從當(dāng)前的LLMs中發(fā)現(xiàn)的那樣，他們模仿人類思維過(guò)程的能力非常令人驚嘆,。

2. 自主性

誠(chéng)然,，當(dāng)前版本的LLMs并沒(méi)有自主性。它們僅在人類請(qǐng)求的提示下發(fā)揮作用,，一旦請(qǐng)求得到答復(fù),，它們就會(huì)停止運(yùn)行。但是建立一個(gè)自動(dòng)執(zhí)行要求并自主解決的無(wú)限循環(huán)非常簡(jiǎn)單,。事實(shí)上,，目前有成千上萬(wàn)的軟件開(kāi)發(fā)人員公開(kāi)致力創(chuàng)建自主形式的LLMs。

因此,，“自主性”可能不是AGI的一個(gè)特征,，它更像是一種訓(xùn)練后的結(jié)果，使用者需要使用一些經(jīng)典工具推動(dòng)實(shí)現(xiàn)“自主性”,。

他們很清楚這有一定風(fēng)險(xiǎn),。雖然不是存在性風(fēng)險(xiǎn) (見(jiàn)下文第 6 點(diǎn))，但仍然值得關(guān)注：

3. 完成一般任務(wù)的能力

人們對(duì)LLMs的該特點(diǎn)能夠達(dá)成共識(shí),，它們擅長(zhǎng)完成一般性任務(wù),，并且每天都會(huì)帶來(lái)更多進(jìn)展。

我聽(tīng)到的最新反對(duì)意見(jiàn)是“一般任務(wù),，但僅限于文本”,。這并不是一個(gè)堅(jiān)定的反對(duì)意見(jiàn)，因?yàn)長(zhǎng)LMs可以生成圖像,，自2023年9月26日起也完成做多種模式任務(wù)：

它仍然是軟件和屏幕,，而不是“現(xiàn)實(shí)世界”中的實(shí)際操作和動(dòng)作。誠(chéng)然,，非數(shù)字類型操作的發(fā)展總是較慢,，但我將其視為“操作范圍”的限制，而不是缺乏智能的表現(xiàn),。

4. 完美模仿人類智慧的能力

你還記得圖靈測(cè)試嗎,？這包括一名人類審訊員分別與一名人類和一臺(tái)計(jì)算機(jī)進(jìn)行討論,，但在該過(guò)程中，與審訊員交流對(duì)象的身份會(huì)被隱藏起來(lái),。經(jīng)過(guò)長(zhǎng)時(shí)間的對(duì)話后，如果人類審訊員無(wú)法判斷出哪些對(duì)話是與電腦進(jìn)行的,，那么電腦就通過(guò)了圖靈測(cè)試,。在我的記憶中，這項(xiàng)測(cè)試是人工智能無(wú)法達(dá)到的真正高難度標(biāo)準(zhǔn),。

然而你猜怎么著：ChatGPT破壞了圖靈測(cè)試,。我想，任何使用過(guò)ChatGPT的人都不會(huì)感到驚訝,。有趣的是,，維基百科上關(guān)于AGI定義的頁(yè)面仍然將圖靈測(cè)試列為AGI必須通過(guò)的標(biāo)準(zhǔn)——同時(shí)還堅(jiān)持認(rèn)為，AGI是一種假設(shè),，并不存在,。

5. 能夠完美模仿人類認(rèn)知的各個(gè)方面（智力，還有情感,、創(chuàng)造力,、主觀觀點(diǎn)等）

  • 人類有由 ChatGPT 驅(qū)動(dòng)的戀人。
  • 人工智能與患者的對(duì)話內(nèi)容被認(rèn)為比人類的實(shí)際反應(yīng)更具同理心,。
  • 人工智能生成的圖像贏得了攝影比賽,，而人類拍攝的照片可能會(huì)被取消資格，因?yàn)樗鼈兎幢徽`認(rèn)為是人工智能生成的產(chǎn)品,！
  • ChatGPT 在亞馬遜上掀起了人工智能編寫電子書的熱潮,。

6. 如果不協(xié)調(diào)，會(huì)對(duì)人類造成直接的生存威脅

在我看來(lái),，第2點(diǎn)到第5點(diǎn)是定義AGI是最有效的標(biāo)準(zhǔn),。我希望通過(guò)我上文的分析能讓你相信當(dāng)前的LLMs（截至2023年）符合這些標(biāo)準(zhǔn)。

第6點(diǎn),，關(guān)于其存在產(chǎn)生威脅,，是 AGI可能產(chǎn)生的后果之一，但它往往被視為定義的一部分,。我很想把這歸咎于《終結(jié)者》電影：它給我們留下了一個(gè) “開(kāi)關(guān)”可以“喚醒” AGI的想法,，并立即將人類面臨的生存威脅問(wèn)題放在了首位。

相反,，上述第 2 至第 5 點(diǎn)表明,，根據(jù)所有合理的定義，AGI 已經(jīng)出現(xiàn),。LLMs 是通才,，模仿人類智能,，模仿人類主觀能動(dòng)性，可以自主,，它們是否具有自我意識(shí)的能力是一個(gè)懸而未決的問(wèn)題,。而擺在我們面前的并不是對(duì)人類生存的威脅，而是一些更為緊迫的問(wèn)題,，比如與AGI一起工作,、學(xué)習(xí)，建立情感上的關(guān)系,，制定社會(huì)政策,，讓其參與戰(zhàn)爭(zhēng)等等……會(huì)發(fā)生些什么？

這些問(wèn)題不應(yīng)該在 AGI 出現(xiàn)后才著手解決,，它們現(xiàn)在就應(yīng)該被提出,。