用戶登錄投稿

中國(guó)作家協(xié)會(huì)主管

AI“奇點(diǎn)”時(shí)刻已來(lái)?人類:不要溫和地走進(jìn)那個(gè)良夜
來(lái)源:中國(guó)作家網(wǎng) | 李菁  2023年02月21日11:48
關(guān)鍵詞:AI ChatGPT 人工智能

機(jī)器人寫的新聞?dòng)幸惶煺娴哪芤约賮y真?

前不久杭州當(dāng)?shù)鼐用竦纳缃蝗Ο倐饕粭l“3月1號(hào)起杭州市政府將取消機(jī)動(dòng)車尾號(hào)限行政策”的消息。后經(jīng)調(diào)查后發(fā)現(xiàn),這竟然是ChatGPT寫的假新聞,被不明真相的人士截圖轉(zhuǎn)發(fā)后導(dǎo)致了錯(cuò)誤信息的傳播。

烏龍事件的“始作俑者”ChatGPT自問(wèn)世之日起即在國(guó)內(nèi)外引發(fā)了輿論風(fēng)暴。與人工智能AlphaGo、小冰不同的是,它是一個(gè)自然語(yǔ)言處理(NLP)領(lǐng)域的人工智能,能深入?yún)⑴c到比較深度的人類自然語(yǔ)言體系中。它可以直接應(yīng)用到多個(gè)場(chǎng)景,比如寫出嚴(yán)謹(jǐn)性不亞于人類所寫的新聞,具有一定文學(xué)性的詩(shī)歌、小說(shuō)等等,甚至還能回答腦筋急轉(zhuǎn)彎,功能強(qiáng)大到無(wú)法想象。

這樣一個(gè)能夠不斷深入學(xué)習(xí)自然語(yǔ)言的大型語(yǔ)言模型的出現(xiàn)對(duì)人類社會(huì)而言是上帝的福祉還是潘多拉的魔盒?有人持樂(lè)觀態(tài)度,“網(wǎng)紅”哲學(xué)家斯拉沃熱?齊澤克直言“我的學(xué)生交給我他們用AI寫的論文,而我用AI給他們打分。這樣我們?nèi)甲杂闪?!”也有不少人視ChatGPT為潛在威脅者,認(rèn)為會(huì)導(dǎo)致很多職業(yè)消失,而ChatGPT有可能引發(fā)的人工智能內(nèi)容生產(chǎn)傳播風(fēng)險(xiǎn)也讓人憂心忡忡。尤其在人文社科領(lǐng)域,不僅很多人的工作直接“撞上了ChatGPT的槍口”,人工智能的涉足也在極快地改變很多領(lǐng)域的業(yè)界生態(tài)。ChatGPT的到來(lái)是否會(huì)導(dǎo)致文化領(lǐng)域兩極分化進(jìn)而“內(nèi)卷”?作為文化領(lǐng)域從業(yè)者,該如何面對(duì)人工智能浪潮的到來(lái)?中國(guó)作家網(wǎng)記者走訪多位媒體從業(yè)者、青年作家和高校文科教授,請(qǐng)他們聊聊 ChatGPT及其帶來(lái)的影響。

讓ChatGPT替代人工遠(yuǎn)遠(yuǎn)沒(méi)那么容易

“一個(gè)比你優(yōu)秀、比你便宜、比你快,永遠(yuǎn)不會(huì)抱怨和找借口,永遠(yuǎn)不會(huì)鬧情緒的AI,它對(duì)平庸人群的沖擊力是比較大的?!?據(jù)科幻作家陳楸帆介紹,國(guó)外有很多家善于利用AI創(chuàng)作文案的公司,美國(guó)有專業(yè)生產(chǎn)類型小說(shuō)的網(wǎng)站,通過(guò)創(chuàng)建不同模型進(jìn)行垂直化寫作,比如生成科幻小說(shuō)的世界觀設(shè)定等。前不久,牛津大學(xué)亞洲和中東研究學(xué)院Jieun Kiaer教授與ChatGPT合作出版了第一本討論ChatGPT的語(yǔ)言學(xué)著作。

肉眼可見(jiàn)的未來(lái),人工智能可以深入許多涉及內(nèi)容創(chuàng)作的工作中,社會(huì)將更青睞富有創(chuàng)造力和想象力的作品,沒(méi)有太多創(chuàng)新的作品會(huì)被淘汰。但就現(xiàn)階段ChatGPT的科技水平而言,“人工智能替代人類”的預(yù)言為時(shí)尚早。

北京大學(xué)新聞傳播學(xué)院研究員張慧瑜認(rèn)為,ChatGPT是程序化的思考方式,這點(diǎn)和人類的學(xué)習(xí)方式很相似。而機(jī)器又不像人類受身體的限制,它更適用于被廣泛應(yīng)用在新聞稿的寫作和文件整理等工作中。在中國(guó)作家網(wǎng)記者鄧潔舲看來(lái),chatGPT抬高新聞從業(yè)門檻,淘汰只會(huì)寫簡(jiǎn)訊的“文字搬運(yùn)工”是未來(lái)很有可能發(fā)生的事情。它可以一個(gè)頂替N個(gè),只要給出準(zhǔn)確的關(guān)鍵信息就可以快速組織語(yǔ)言,甚至不同的媒體可以訓(xùn)練自己語(yǔ)言風(fēng)格的人工智能模型。

也有人認(rèn)為,新聞傳媒行業(yè)不能簡(jiǎn)單定義為寫稿。據(jù)中國(guó)出版?zhèn)髅缴虉?bào)記者張中江講,僅就文字報(bào)道而言,多數(shù)記者目前所作的工作都可以被機(jī)器替代,但是對(duì)記者的綜合要求中,視頻思維已經(jīng)很常見(jiàn)了,而ChatGPT對(duì)主觀客觀的辨別,還需要很長(zhǎng)時(shí)間的訓(xùn)練。

科幻、懸疑、網(wǎng)絡(luò)文學(xué)等類型文學(xué)因其相對(duì)固定的程式化套路,也有很大的概率被人工智能模仿和取代。北京大學(xué)中文系教授邵燕君從事網(wǎng)絡(luò)文學(xué)研究多年,她認(rèn)為網(wǎng)絡(luò)文學(xué)類型化小說(shuō)的確更容易被ChatGPT模仿,大量平庸的作者會(huì)被取代。但同時(shí)她認(rèn)為,類型文學(xué)可以多個(gè)套路進(jìn)行組合,正因?yàn)槟J焦潭ǎ瑒?chuàng)新部分反而是清晰的,更能讓人一目了然哪些是平庸的創(chuàng)作,哪些是在人們想象力數(shù)據(jù)庫(kù)的集合之上的創(chuàng)作,人和機(jī)器的水平高低依然一目了然。只是ChatGPT的創(chuàng)新速度太快了,它會(huì)迅速提高平均水平,促使人們不得不進(jìn)行再度創(chuàng)新。此外,ChatGPT令讀者更容易創(chuàng)作自己喜歡的網(wǎng)絡(luò)小說(shuō),實(shí)現(xiàn)個(gè)體從閱讀轉(zhuǎn)向自主創(chuàng)作,更具有參與性,這是ChatGPT對(duì)網(wǎng)絡(luò)文學(xué)的積極影響。

在傳統(tǒng)的嚴(yán)肅文學(xué)創(chuàng)作方面更是如此,閱讀ChatGPT仿寫的文學(xué)片段后,基本所有受訪者都認(rèn)為人工智能或許能夠模仿創(chuàng)作,但遠(yuǎn)遠(yuǎn)達(dá)不到人類原創(chuàng)的程度。青年作家梁豪坦言,ChatGPT的文學(xué)創(chuàng)作仍停留在相對(duì)粗糙的模仿之中,其水準(zhǔn)距離專業(yè)作家,尤其是優(yōu)秀的作家,還有相當(dāng)大的差別,“只要是模仿,在創(chuàng)作層面就可以忽略不計(jì)。重視可以,但我們不能什么都當(dāng)真?!?/p>

“認(rèn)為機(jī)器可以直接寫出和人類創(chuàng)作水平相似的文學(xué)作品,我覺(jué)得這種想法比較不切實(shí)際,” 在陳楸帆看來(lái),文學(xué)創(chuàng)作中的“人物塑造”“情感描寫”等都是個(gè)人化的不可替代的創(chuàng)作部分,機(jī)器所寫的內(nèi)容是基于統(tǒng)計(jì)大數(shù)據(jù)后生成的模式,有著嚴(yán)重的模仿痕跡。在深度學(xué)習(xí)AI時(shí)代,更需要作者充分調(diào)動(dòng)主觀能動(dòng)性將人工智能提供的材料組織起來(lái),這反而對(duì)創(chuàng)造力和想象力提出了更高的要求。

有學(xué)者提示,ChatGPT的文學(xué)創(chuàng)作表現(xiàn)的并不盡如人意的原因主要因?yàn)镃hatGPT是在英文語(yǔ)境中開發(fā),這導(dǎo)致在其他語(yǔ)言,特別是非歐洲語(yǔ)言中存在局限性?!昂?jiǎn)單來(lái)說(shuō),只要是方便計(jì)算的,ChatGPT可以處理得很好。不方便計(jì)算的,它就不行?!蓖瑵?jì)大學(xué)青年教師叢子鈺提到,中文語(yǔ)料庫(kù)目前的分詞儲(chǔ)量還遠(yuǎn)遠(yuǎn)達(dá)不到進(jìn)行情感計(jì)算的水平,在北京大學(xué)語(yǔ)料庫(kù)中,文學(xué)語(yǔ)料只有7.3%,合計(jì)約8500萬(wàn)字,也就是說(shuō)按照平均一本書20萬(wàn)字來(lái)算,只錄入了400本書,這個(gè)規(guī)模用于文學(xué)分析的話實(shí)在過(guò)于有限。這導(dǎo)致ChatGPT善于處理邏輯性強(qiáng)的內(nèi)容,比如新聞稿;不太擅長(zhǎng)處理邏輯性較弱的,比如有太多修辭和暗示的文學(xué)作品。廣州大學(xué)“大灣區(qū)海上絲路”傳播中心特任研究員吳長(zhǎng)青也認(rèn)為,中國(guó)語(yǔ)言中的很多轉(zhuǎn)義、修辭,特別是表象義,chatgpt未必能夠真正識(shí)別出來(lái)。

“人類和機(jī)器是來(lái)回較量的過(guò)程”

斯坦福的學(xué)者、計(jì)算機(jī)心理學(xué)副教授Michal Kosinski發(fā)表相關(guān)論文,證明GPT-3之后的AI模型,其同理心能力可能已經(jīng)和9歲小孩的自我意識(shí)差不多。這仿佛越來(lái)越印證了美國(guó)哲學(xué)家、麻省理工學(xué)院博士瑞?庫(kù)茨維爾曾在《心靈機(jī)器時(shí)代——當(dāng)電腦超越人腦》一書中所預(yù)測(cè):人工智能將在2029年通過(guò)圖靈測(cè)試,2045年人類將成為生物和非生物的混合物。ChatGPT正在挑戰(zhàn)很多人對(duì)于“智慧”和“人類獨(dú)特性”的認(rèn)知和假設(shè),這已經(jīng)不僅僅是人工智能的發(fā)展速度太快的問(wèn)題了。人類該如何重新看待與機(jī)器人的關(guān)系?

陳楸帆將人和機(jī)器的關(guān)系比作“來(lái)回較量的過(guò)程”,人工智能在未來(lái)更多的是一個(gè)工具,如何運(yùn)用是作家需要考慮的事情。在他看來(lái),人類對(duì)“意識(shí)”所知甚少。意識(shí)不是“0”或“1”的狀態(tài),而是一個(gè)連續(xù)且廣泛的光譜。很多動(dòng)物都擁有某種程度的意識(shí),只不過(guò)人類是所有生物中意識(shí)層級(jí)最高、最復(fù)雜的。如果以人類作為標(biāo)準(zhǔn),機(jī)器或許永遠(yuǎn)都不會(huì)擁有人類個(gè)體之間交互的關(guān)系和體驗(yàn)、意識(shí)、肉體,但它會(huì)具有依托數(shù)據(jù)發(fā)展起來(lái)的“機(jī)器意識(shí)”。它在未來(lái)所創(chuàng)造出的東西肯定和人類設(shè)想的完全不同?!拔疫€挺期待能見(jiàn)識(shí)到‘singularity’(奇點(diǎn))的那一天?!彼f(shuō)。

邵燕君認(rèn)為,AI只能在個(gè)體的思維模式訓(xùn)練完成的情況下作為彌補(bǔ)人類短板的工具來(lái)使用?!笆紫纫紤]的是它能干什么,比如AI在寫網(wǎng)絡(luò)文學(xué)綜述時(shí)對(duì)材料的掌握以及分析的建模方式,人類是否達(dá)到?如果做不到,那首先考慮的應(yīng)當(dāng)是先好好利用它,讓它成為我們的工具?!钡牵说膭?chuàng)造力無(wú)法通過(guò)使用AI做到,她以爬臺(tái)階為比喻,“如果將爬100節(jié)臺(tái)階以上的人視作擁有創(chuàng)造力,那么前面99節(jié)臺(tái)階必須得親自爬上去才能有創(chuàng)造力。如果前99%都用AI來(lái)完成,人不可能‘平地一下’飛升到第100節(jié)?!比丝梢允褂肁I,但如果無(wú)法在此基礎(chǔ)上超越它擁有原創(chuàng)能力,最終只能被社會(huì)淘汰。

她提到著名理論家麥克盧漢在《理解媒介》中關(guān)于“媒介是人的延伸”的理論,在延伸的過(guò)程中,人類原有的器官會(huì)被解除。AI延伸的是人的智能,如果直接使用,人類自己的智能就被解除,這將進(jìn)入一種可怕的狀態(tài)。在她看來(lái),尤其是學(xué)生在求學(xué)的過(guò)程中,必須用笨辦法完成思維的訓(xùn)練,AI只能在個(gè)體完成訓(xùn)練后作為工具使用。

梁豪也持有相同的看法。人類的文學(xué)創(chuàng)作與機(jī)器最大的不同即人的局限,以及在這種局限中可能出現(xiàn)的一點(diǎn)點(diǎn)脹破。破了,局限的邊界便隨之?dāng)U大,此二者讓創(chuàng)作顯得珍貴和不可取代。文學(xué)寫作通常是一個(gè)人的發(fā)明創(chuàng)造,天然帶著巨大的局限性,局限又不認(rèn)命,時(shí)時(shí)奮筆疾書、努力碼字,在這個(gè)過(guò)程中,好作家逐漸形成一種叫個(gè)人特色的東西,這是局限帶來(lái)的遺產(chǎn)。西西弗斯的石頭一次次滾落,但只要是人在推,就始終存在登頂?shù)目赡堋H绻麚Q成AI,這種攀登便淪為一場(chǎng)無(wú)限循環(huán)的表演。作品這塊石頭不管來(lái)到哪個(gè)高度,都因?yàn)檎礉M汗水而令人感動(dòng),它包含著人類的種種寄寓,這是人附著于其上的屬靈性。AI的石頭,永遠(yuǎn)只是一塊石頭。他對(duì)ChatGPT的心態(tài)就像利用搜索引擎一樣,或者出于一種啟發(fā)抑或規(guī)避,但絕對(duì)不會(huì)產(chǎn)生依賴,它只是一個(gè)工具。“至于生活層面,沒(méi)問(wèn)題,來(lái)者是客,跟Siri偶爾都能相談甚歡,沒(méi)理由不歡迎更能嘮的ChatGPT。”

“當(dāng)有一天人工智能也能與宇宙交流時(shí),人可以不存在,人本身也可能就是一種生物機(jī)器人,生物AI。”少兒科幻作家超俠從人類的記憶與想象力出發(fā),認(rèn)為人的記憶和人工智能的記憶不同之處在于,人的記憶存在缺失和錯(cuò)誤,無(wú)法像人工智能那樣百分之百的準(zhǔn)確。但恰恰是因?yàn)槿笔?,?dǎo)致人類用想象力彌補(bǔ)記憶,而人類的想象力本是基于自己的生命情感、觸感、靈感、超感,而產(chǎn)生的大腦微管與宇宙的量子糾纏,在這之上形成的藝術(shù),它應(yīng)該是獨(dú)一無(wú)二,無(wú)法被取代和模擬的。從理性和感性的結(jié)合上,ChatGPT并未超越目前的人類。

叢子鈺設(shè)想未來(lái)將是人人皆會(huì)使用人工智能進(jìn)行寫作的時(shí)代。對(duì)于學(xué)習(xí)知識(shí)并輸出內(nèi)容并且將所知的內(nèi)容進(jìn)行輸出來(lái)說(shuō),ChatGPT已經(jīng)達(dá)到了及格水平。這個(gè)及格水平還有必不可少的條件:它只能寫靠邏輯推演,而不是靠文獻(xiàn)和田野調(diào)查的論文。ChatGPT適合自然科學(xué),而非社會(huì)科學(xué)和人文科學(xué);適合定量研究,不適合定性研究。所以,像文學(xué)藝術(shù)研究這樣注重表達(dá)形式、難以量化的研究是很難解決的難題。等到ChatGPT升級(jí)完成,會(huì)為有創(chuàng)造力的學(xué)者和“體力勞動(dòng)式的腦力勞動(dòng)者”分別提供更合適的位置,制造更多元的學(xué)術(shù)環(huán)境?!拔矣X(jué)得可能在10年后,不會(huì)用ChatGPT寫論文的學(xué)生就像不會(huì)用微信聊天一樣,他們才是少數(shù)。對(duì)他們來(lái)說(shuō),我們大概已經(jīng)與古代人一般不可思議吧?!?/p>

面對(duì)ChatGPT 先要破除“人類中心主義”

美籍華裔科幻作家特德?姜在《紐約客》的一篇文章中將ChatGPT比作網(wǎng)上所有文本的模糊圖像。這種將大型語(yǔ)言模型視為“有損文本壓縮算法”的說(shuō)法多少有些令人泄氣。也有人提出質(zhì)疑,AI永遠(yuǎn)不可能代替人類把方向盤——因?yàn)椤半娷囯y題”無(wú)法解決。

早在2017年,陳楸帆和朋友開始嘗試訓(xùn)練機(jī)器模型進(jìn)行寫作,最近他和李開復(fù)合著的《AI未來(lái)進(jìn)行式》剛剛出版。在他看來(lái),ChatGPT是人類通過(guò)工程學(xué)的辦法實(shí)現(xiàn)的突破,非常具有突破性,但是和從經(jīng)典的牛頓力學(xué)到量子力學(xué)的飛躍相比,依然不能同日而語(yǔ)。

對(duì)于特德?姜的說(shuō)法,他認(rèn)為人類認(rèn)知外部世界同樣也是一個(gè)模糊的圖像,因?yàn)槿祟惖母泄俸痛竽X會(huì)對(duì)信息進(jìn)行選擇和壓縮,比如視覺(jué)上的盲點(diǎn)等等,人類處理信息的方式未見(jiàn)得比機(jī)器高明多少。人類要對(duì)人工智能的發(fā)展保持一種開放的心態(tài),通常人類都會(huì)高估一個(gè)技術(shù)的短期影響,卻低估其長(zhǎng)期效應(yīng),無(wú)法進(jìn)行非線性的思考,這也是人類認(rèn)知上的某種缺失。在他看來(lái),人工智能無(wú)法為人類決定類似“電車難題”的抉擇,這本身是“人類中心主義思想”在作祟。人類在面臨“電車難題”的狀況下,其判斷的依據(jù)也受到現(xiàn)代社會(huì)的文化、法律、道德、倫理建構(gòu),以及當(dāng)時(shí)的心理狀態(tài)等一系列影響,這其實(shí)跟機(jī)器沒(méi)有太大的區(qū)別。如果站在過(guò)于人類中心的立場(chǎng)討論,就無(wú)法看到更多的可能性,就像汽車的自動(dòng)駕駛功能,在技術(shù)成熟的時(shí)候必然會(huì)大幅下降人為交通事故,這也是科技向善的宗旨。

“原來(lái)我們是用腿走路,現(xiàn)在我們是騎上滑輪、生出翅膀,這個(gè)加速度與最初是不可比擬的。這也是在逼迫我們必須不斷接受、學(xué)習(xí),否則會(huì)被它淘汰?!鄙垩嗑J(rèn)為,ChatGPT為人類的生活方式帶來(lái)了革命性變化,雖然現(xiàn)在還沒(méi)有特別深入的影響,但在將來(lái)一定會(huì)重塑人類的生活觀、工作觀。它的加速度太快了,以后將人類的文明導(dǎo)向何處誰(shuí)也無(wú)從得知。

張慧瑜更愿意將此次對(duì)ChatGPT的討論看作反思文藝創(chuàng)作、現(xiàn)代文明和人的創(chuàng)造性的契機(jī)。過(guò)于強(qiáng)調(diào)只有人類才能創(chuàng)造的作品、擁有的創(chuàng)造力這種想法本身容易讓人們陷入以“自我為中心”的迷思而無(wú)法自拔,而這太一廂情愿了。文學(xué)是什么?人文主義是什么?早在本雅明提出機(jī)械復(fù)制時(shí)代的藝術(shù)的時(shí)候,這就已經(jīng)不是一個(gè)新問(wèn)題了。進(jìn)而,他又提出新的問(wèn)題,這些機(jī)器為誰(shuí)所用,它是否真正的改變了人類的社會(huì)階層或者社會(huì)關(guān)系?如果ChatGPT真的導(dǎo)致大量的人口失業(yè),那么討論將不單單是科技問(wèn)題,而是涉及到社會(huì)關(guān)系和社會(huì)結(jié)構(gòu)的問(wèn)題,以及背后的文化、政治影響。它目前還不像互聯(lián)網(wǎng)一樣重構(gòu)社會(huì),而是數(shù)字社會(huì)的一個(gè)更新的應(yīng)用,能夠幫助人類理解現(xiàn)代社會(huì)的本質(zhì)特征及其限定性。對(duì)于現(xiàn)代社會(huì)來(lái)說(shuō),人工智能背后深藏的是人和機(jī)器的問(wèn)題,比如“人如何理解這個(gè)機(jī)器”,或者“人如何和機(jī)器能夠相輔相成”,這其實(shí)是現(xiàn)代社會(huì)的源問(wèn)題。

吳長(zhǎng)青直言,雖然ChatGPT是極具顛覆性的科技產(chǎn)物,自己在做學(xué)術(shù)研究的時(shí)候不會(huì)使用。高校教育的特別之處在于不僅自己如何思考,還在于教人如何思考,因此對(duì)于神經(jīng)科學(xué)和腦科學(xué)產(chǎn)品,他有一種本能的抵抗。他希望自己在做學(xué)術(shù)研究的時(shí)候能夠回到“我手寫我心”的肉身感,而差異化也正源于此,否則無(wú)異于流水線上的產(chǎn)品。他認(rèn)為這不是保守,而是守護(hù)人類的一道底線。

“就像嬰兒從會(huì)爬到了第一次學(xué)會(huì)走路一樣,但距離成為一個(gè)短跑運(yùn)動(dòng)員,還有很長(zhǎng)的距離。”叢子鈺認(rèn)為, ChatGPT具有的優(yōu)勢(shì)并非在技術(shù)層面,而是具有某種方便大眾消費(fèi)的特征。“就像占星術(shù)甚至不是科學(xué),也曾被當(dāng)作科學(xué)看待,這是類似的道理?!?/p>

無(wú)論對(duì)AI握手言歡還是視作洪水猛獸,不可否認(rèn)的是,ChatGPT時(shí)代已經(jīng)到來(lái)。我們不妨再大開腦洞,或許有一天,ChatGPT寫作如同AI繪畫一樣人機(jī)無(wú)差別,更甚至可將chatGPT植入大腦,徹底達(dá)到人機(jī)合一。在未來(lái),寫就這樣一篇文章或許只需幾分鐘,又或許,那將是另一個(gè)版本的《美麗新世界》。 

(鄧潔舲、叢子鈺對(duì)本文亦有貢獻(xiàn))