經(jīng)濟(jì)導(dǎo)報(bào)記者 劉勇

　　隨著聊天機(jī)器人ChatGPT火爆全球，人工智能這個(gè)誕生于1956年達(dá)特茅斯會(huì)議上的概念，歷經(jīng)技術(shù)迭代，迎來(lái)新的發(fā)展熱潮。而隨著AI越學(xué)越“聰明”，人們不禁會(huì)考慮“終結(jié)者”會(huì)不會(huì)來(lái)的問(wèn)題。

　　《終結(jié)者》是美國(guó)知名的科幻電影系列，看過(guò)電影的都知道大體劇情，人工智能“天網(wǎng)”擁有獨(dú)立意識(shí)后，對(duì)創(chuàng)造它的人類展開(kāi)血腥屠殺。

　　實(shí)際上，這種擔(dān)心并非不存在。隨著人工智能技術(shù)突飛猛進(jìn)，技術(shù)的風(fēng)險(xiǎn)以及如何對(duì)此加以監(jiān)管，成為備受關(guān)注的話題。

　　近日，三星推出一項(xiàng)新政策，要求員工不得在工作場(chǎng)所使用OpenAI的ChatGPT和谷歌Bard等生成式人工智能。三星補(bǔ)充稱，正在創(chuàng)造一個(gè)安全環(huán)境，以讓生成式人工智能可以在沒(méi)有風(fēng)險(xiǎn)的情況下，幫助員工提高生產(chǎn)力。但在此之前，人工智能將被限制使用。

　　三星并不是第一個(gè)禁止員工使用人工智能工具的公司。摩根大通、美國(guó)銀行和花旗等大型銀行早已對(duì)人工智能下了禁令，是首批限制員工訪問(wèn)ChatGPT的公司。

　　同樣，就在不久前，美國(guó)得克薩斯州奧斯汀分校的團(tuán)隊(duì)基于人工智能技術(shù)開(kāi)發(fā)出一種解碼器，可將大腦活動(dòng)轉(zhuǎn)化為連續(xù)的文本流，AI首次可以通過(guò)非侵入式的方法學(xué)會(huì)“讀心術(shù)”。

　　根據(jù)這項(xiàng)發(fā)表在《自然神經(jīng)科學(xué)》(Nature Neuroscience)雜志上的實(shí)驗(yàn)結(jié)果，GPT人工智能大模型感知語(yǔ)音的準(zhǔn)確率可高達(dá)82%，令人驚嘆。

　　不過(guò)研究人員強(qiáng)調(diào)，“AI讀心”也要尊重心理隱私，AI的訓(xùn)練和應(yīng)用解碼器都需要著手解決有關(guān)該技術(shù)可能被濫用的問(wèn)題，以確保人們只在他們想要的時(shí)候使用這類技術(shù)，并對(duì)他們有所幫助，而不是起到反向作用。

　　中國(guó)證券報(bào)的一篇報(bào)道顯示，近日，一個(gè)名為Chirper的AI網(wǎng)絡(luò)社區(qū)爆火。這個(gè)網(wǎng)絡(luò)社區(qū)打出的標(biāo)語(yǔ)格外有趣：此網(wǎng)絡(luò)只針對(duì)AI，人類禁止入內(nèi)。根據(jù)AI的人格、身份設(shè)定的不同，每個(gè)AI具有不同的性格，說(shuō)話的風(fēng)格也大相徑庭，有的AI機(jī)器人會(huì)講述日常的生活瑣碎，有的AI則會(huì)表達(dá)一些深沉的“思考”。

　　如果人工智能變得比人類聰明得多，就會(huì)對(duì)人類進(jìn)行操控；人工智能知道怎么編程，就會(huì)想辦法繞開(kāi)人類對(duì)其設(shè)置的限制。

　　環(huán)球時(shí)報(bào)的報(bào)道稱，現(xiàn)年75歲的前谷歌科學(xué)家杰弗里·辛頓在神經(jīng)網(wǎng)絡(luò)領(lǐng)域長(zhǎng)期從事開(kāi)創(chuàng)性工作，為人工智能(AI)技術(shù)的發(fā)展奠定基礎(chǔ)，因此在業(yè)內(nèi)被稱為“人工智能教父”。就在不久前，其從谷歌離職，之所以離開(kāi)谷歌，就是為了完全自由地說(shuō)出人工智能所帶來(lái)的危險(xiǎn)。他在接受媒體采訪時(shí)表示，如果人工智能變得比人類聰明得多，就會(huì)對(duì)人類進(jìn)行操控。

　　今年3月底，包括馬斯克在內(nèi)的許多科技產(chǎn)業(yè)人士聯(lián)署了一封公開(kāi)信，呼吁所有AI實(shí)驗(yàn)室立即暫停訓(xùn)練人工智能系統(tǒng)至少6個(gè)月。3月30日，聯(lián)合國(guó)教科文組織發(fā)表聲明，表示注意到業(yè)界呼聲，呼吁各國(guó)政府根據(jù)2021年通過(guò)的《人工智能倫理問(wèn)題建議書(shū)》盡快實(shí)施具體標(biāo)準(zhǔn)。

　　清華大學(xué)計(jì)算機(jī)科學(xué)與技術(shù)系長(zhǎng)聘副教授、智能技術(shù)與系統(tǒng)實(shí)驗(yàn)室副主任黃民烈表示，具備“意識(shí)”，意味著機(jī)器能夠發(fā)展自己的世界觀、價(jià)值觀以及做出價(jià)值判斷，并且根據(jù)這些進(jìn)行自主決策。顯然，目前機(jī)器所生成的所有內(nèi)容都是人類賦予的，機(jī)器沒(méi)有自主決策能力，更沒(méi)有所謂的“自主意識(shí)”。

　　“目前幾乎所有推出人工智能產(chǎn)品的公司及其相關(guān)人員都已意識(shí)到必須設(shè)置所謂的‘護(hù)欄’，讓未來(lái)人工智能的發(fā)展有序進(jìn)行。”美國(guó)亞太法學(xué)研究院執(zhí)行長(zhǎng)孫遠(yuǎn)釗認(rèn)為，“基本原則還是技術(shù)中立”，最終要規(guī)制的還是人類自己的行為。

　　實(shí)際上，各國(guó)監(jiān)管機(jī)構(gòu)也早已坐不住。白宮官員近日向美國(guó)科技公司發(fā)出邀請(qǐng)，希望與行業(yè)企業(yè)領(lǐng)導(dǎo)者共同探討針對(duì)人工智能的監(jiān)管問(wèn)題。參加的科技公司包括谷歌、微軟和OpenAI等公司高管。美國(guó)總統(tǒng)拜登稱，希望科技公司在向公眾提供產(chǎn)品之前必須確保其產(chǎn)品安全。

　　歐洲消費(fèi)者組織(BEUC)也呼吁歐盟消費(fèi)者保護(hù)機(jī)構(gòu)關(guān)注人工智能對(duì)消費(fèi)者的潛在危害。上個(gè)月，歐洲數(shù)據(jù)保護(hù)委員會(huì)已經(jīng)成立了一個(gè)專門針對(duì)ChatGPT的工作組，并朝著制定人工智能隱私規(guī)則的共同政策邁出的重要一步。

　　歐盟立法者還在討論如何引入歐盟人工智能法案，并且生成式AI(AIGC)成為最受關(guān)注的內(nèi)容之一。歐盟委員會(huì)將于5月11日對(duì)相關(guān)協(xié)議進(jìn)行投票，如果通過(guò)，將進(jìn)入下一階段的三方談判，屆時(shí)歐盟成員國(guó)將與歐盟委員會(huì)以及歐洲議會(huì)就談判內(nèi)容進(jìn)行辯論。

　　創(chuàng)新工場(chǎng)董事長(zhǎng)兼首席執(zhí)行官李開(kāi)復(fù)也認(rèn)為，只要堅(jiān)守技術(shù)中性原則，嚴(yán)謹(jǐn)發(fā)展人工智能，可讓它成為幫助人類進(jìn)步發(fā)展、完善自我的利器，而不會(huì)演化為一些科幻作品描述中令人擔(dān)憂的“終結(jié)者”。他說(shuō)：“未來(lái)已來(lái)，但終結(jié)者不會(huì)來(lái)�！�