導(dǎo)語
“科普中國智庫?魏公村講壇”是中國科普研究所依托“科普中國智庫”專家資源，面向科協(xié)魏公村辦公區(qū)搭建的常態(tài)化學(xué)術(shù)交流平臺，以“開拓視野、夯實(shí)基礎(chǔ)、促進(jìn)協(xié)作、提升能力”為目標(biāo)，邀請智庫專家解讀前沿科技動態(tài)，分享科研學(xué)術(shù)進(jìn)展，促進(jìn)科研創(chuàng)新，營造學(xué)術(shù)氛圍，助力干部科學(xué)素質(zhì)和能力提升。本文整理自講壇第三期《智能革命與文明重置》。
?
?
隨著智能革命不斷深入展開，向當(dāng)代社會各個(gè)層面滲透，有關(guān)“智能社會未來將去向何方、又應(yīng)該去往何方”的問題，不僅為越來越多的人所困惑、思考，亦成為試圖把握時(shí)代精神的當(dāng)代學(xué)者不可能繞開的關(guān)注點(diǎn)。
一、人工智能對社會的沖擊
眾多學(xué)者認(rèn)為，AI的顛覆性遠(yuǎn)超我們的想象。有人提出AI的出現(xiàn)相當(dāng)于地球上誕生了一種新的生命形式，形成了碳基文明與硅基文明的對比。庫茲韋爾的觀點(diǎn)頗具代表性，他認(rèn)為地球的進(jìn)化歷程從無機(jī)物到有機(jī)物到生命，再到生命發(fā)展至出現(xiàn)智能，其中智能的第一個(gè)階段是人類的碳基智能，接下來則是機(jī)器人的硅基智能。對于這種觀點(diǎn)，人們的態(tài)度呈現(xiàn)出兩極分化。一部分人持積極關(guān)注的態(tài)度，甚至被稱為“機(jī)器人帶路黨”，例如一些醫(yī)學(xué)專家認(rèn)為機(jī)器人的發(fā)展對人類有益；然而，也有許多人對此深感擔(dān)憂，不少人都在思考AI可能帶來的種種危機(jī)。
生成式人工智能的出現(xiàn)和普及應(yīng)用，標(biāo)志著當(dāng)代社會已步入“AI輔助智能”階段。我們的工作、學(xué)習(xí)和勞動等活動，都在AI的輔助下完成。很多人相信在一個(gè)世紀(jì)之內(nèi)，我們將進(jìn)入“AI替代勞動社會”。理論上，機(jī)器人完全可以百分之百替代人類的體力勞動以及絕大多數(shù)的腦力勞動。但在現(xiàn)實(shí)層面，機(jī)器人能否真正實(shí)現(xiàn)替代，還涉及到技術(shù)與制度之間復(fù)雜的互動關(guān)系。
智能革命對社會的影響將分兩個(gè)階段逐步呈現(xiàn)。
第一個(gè)階段是增長極限問題。人類的發(fā)展會受到物理資源的約束，地球資源最終限定經(jīng)濟(jì)增長的“天花板”。人工智能和機(jī)器人的發(fā)展可能大幅壓縮資源耗盡周期，這對建立在稀缺性假設(shè)上的經(jīng)濟(jì)學(xué)體系構(gòu)成根本挑戰(zhàn)。
第二個(gè)階段是富裕社會問題。從物質(zhì)層面理解，富裕社會是指通過計(jì)算每個(gè)人消耗物質(zhì)和能源的量，結(jié)合人口總數(shù)，再加上安全余量，能夠算出人類實(shí)現(xiàn)簡單舒適生活所需的生產(chǎn)力條件。然而“富裕社會”問題的關(guān)鍵不在于生產(chǎn)能力不足，而在于技術(shù)進(jìn)步成果無法實(shí)現(xiàn)公平共享。在AI時(shí)代，當(dāng)機(jī)器人高效生產(chǎn)卻導(dǎo)致大量人類失業(yè)時(shí)，生產(chǎn)與分配的矛盾將變得更加尖銳。
二、人工智能對人類的影響：智人的機(jī)器化
從哲學(xué)角度，尤其是從人性和主體的層面深入剖析，人工智能對人類的沖擊更為關(guān)鍵。智人的肉身和觀念開始發(fā)生前所未有的巨變。
在人的身體方面，當(dāng)前主流觀點(diǎn)認(rèn)為人的身體變化主要有兩條路徑。其一，是賽博格模式，即人的肉身與智能機(jī)器相融合。例如安裝帶有智能的機(jī)械手，它能實(shí)現(xiàn)抓握等動作，與以往單純的假肢有著本質(zhì)區(qū)別。其二，在元宇宙概念流行時(shí)提出的設(shè)想。通過記憶接口將人的意識上傳到虛擬世界，成為一種數(shù)字存在。這些可能性表明，人類身體的基本狀態(tài)正在發(fā)生轉(zhuǎn)變。
在人的精神層面也發(fā)生了巨變。以當(dāng)下對“agent”的討論為例，機(jī)器人是否是主體，以及機(jī)器人是否具有道德等問題，重點(diǎn)不在于具體結(jié)論，而是我們產(chǎn)生了這樣的想法本身就反映出我們對自身的理解和認(rèn)知正發(fā)生著重大轉(zhuǎn)變。將AI擬人化同時(shí)意味著人將自己視為機(jī)器。
現(xiàn)在，我們不再主要從哲學(xué)、宗教和文學(xué)中去探尋對人的理解，而是越來越依賴自然科學(xué)的解釋。這種科學(xué)對人類觀念的影響，體現(xiàn)為“科學(xué)人”的崛起，其實(shí)質(zhì)是所有人都應(yīng)被測量、控制和改造。而由于新科技的發(fā)展，人類的力量變得非常強(qiáng)大，我們是否會在未來一兩個(gè)世紀(jì)中滅亡，這是所謂的“文明危崖”。一是可能會出現(xiàn)人類種族的滅絕，二是人類的衰退。雖然目前AI仍比不上氣候變化、核大戰(zhàn)和新發(fā)未知病毒等帶來的威脅，但其可能加劇已有的生存性風(fēng)險(xiǎn)。
三、對AI的治理需要長期主義
第一，“人機(jī)共生”不等同于“人機(jī)共贏”。第二，擬人論的agent概念意味深長，即前述給AI賦予人的地位，也意味著人被拉平至AI同等水平。第三，AI治理要堅(jiān)持長期主義。
很多人對當(dāng)前AI發(fā)展產(chǎn)生夸張臆想，進(jìn)而促發(fā)社會范圍內(nèi)的AI焦慮甚至AI恐慌。這與大眾傳媒的科幻式宣傳有關(guān)，結(jié)果是各種敏捷治理的想法出現(xiàn)。就目前AI發(fā)展的實(shí)際狀況而言，治理AI要將長期主義與敏捷治理結(jié)合起來。在總體規(guī)劃之下制定治理制度，同時(shí)倡導(dǎo)AI發(fā)展遵循有限主義的原則。
四、AI時(shí)代的文科危機(jī)
在教育領(lǐng)域，人工智能的出現(xiàn)對文科和理工科都產(chǎn)生了全面的沖擊。以文科為例，主要體現(xiàn)在學(xué)生培養(yǎng)和學(xué)術(shù)發(fā)展兩個(gè)根基性問題上。在學(xué)生培養(yǎng)方面，文科注重能力，以前看寫作和外語能力，現(xiàn)在學(xué)生用AI寫東西，難以區(qū)分能力，且學(xué)生覺得AI寫得比自己好，這讓我們對學(xué)生的培養(yǎng)體系產(chǎn)生困惑；在學(xué)術(shù)發(fā)展方面，文科成果主要靠論文發(fā)表，現(xiàn)在學(xué)術(shù)雜志難以分辨文章是AI寫的、人寫的還是人在AI幫助下寫的，如果認(rèn)可只要文章好就行，那么作為學(xué)術(shù)發(fā)表基礎(chǔ)的學(xué)術(shù)雜志將面臨被顛覆，無法正常運(yùn)轉(zhuǎn)。
相比之下，理工科雖然還有可重復(fù)性檢驗(yàn)和實(shí)驗(yàn)環(huán)節(jié)，但同樣面臨著諸多挑戰(zhàn)。對于文科的應(yīng)對，一方面在AI擅長的寫作等能力上，我們要超越它；另一方面要發(fā)展AI沒有的能力，如批判性思維、提問能力以及情感交流能力。