參考消息網(wǎng)11月13日?qǐng)?bào)道 據(jù)俄羅斯《生意人報(bào)》網(wǎng)站10月16日?qǐng)?bào)道，人工智能(AI)多年來(lái)一直困擾人類。這種技術(shù)的狂熱支持者聲稱，AI是人類未來(lái)繁榮的保證。強(qiáng)烈反對(duì)它的人則認(rèn)為，AI是一枚定時(shí)炸彈。這兩方的代表人物均包括非常著名的企業(yè)家和學(xué)者。時(shí)間將揭示AI在應(yīng)用于現(xiàn)實(shí)生活后可能產(chǎn)生的影響。結(jié)果在很大程度上將取決于誰(shuí)來(lái)“教育”AI以及教的是什么。

　　全新天地

　　10月初，俄羅斯聯(lián)邦儲(chǔ)蓄銀行首席執(zhí)行官格爾曼·格列夫在一堂有關(guān)數(shù)字技術(shù)的公開(kāi)課上表示，AI已成為21世紀(jì)的頭號(hào)技術(shù)。他說(shuō)：“生成式AI是最震撼人心的技術(shù)之一。在我看來(lái)，它是一項(xiàng)最有趣的人類發(fā)明�！边@位銀行家認(rèn)為，與AI的互動(dòng)正在開(kāi)辟一片全新天地，這項(xiàng)新技術(shù)將成為所有其他技術(shù)發(fā)展的驅(qū)動(dòng)力。他說(shuō)：“人類在未來(lái)幾十年中將解決許多過(guò)去被認(rèn)為難以想象且不可能完成的任務(wù)。”

　　銀行家們喜歡談?wù)揂I的前景，但他們?cè)诙鄶?shù)情況下只使用它來(lái)提高計(jì)算速度或在客戶打電話與銀行溝通時(shí)替代人工客服。由于算法不斷得到完善，AI確實(shí)可以幫助計(jì)算機(jī)在短時(shí)間內(nèi)執(zhí)行更多操作。但是，這種按照操作員定義的算法來(lái)做完一切事情的AI還稱不上未來(lái)技術(shù)，因?yàn)樗�在這項(xiàng)競(jìng)賽中一定會(huì)輸給量子計(jì)算機(jī)。后者的能力已嚇到了信息安全工作者，其速度快到可以通過(guò)窮舉法在幾小時(shí)內(nèi)試出加密程序的復(fù)雜密鑰，而普通計(jì)算機(jī)需要花費(fèi)幾百年的時(shí)間才能完成同樣的任務(wù)。

　　格列夫所說(shuō)的生成式AI顯然是一項(xiàng)更為復(fù)雜的技術(shù)。他在公開(kāi)課上問(wèn)：“誰(shuí)知道它究竟是什么東西？”一位五年級(jí)小學(xué)生舉手回答說(shuō)，生成式AI會(huì)畫(huà)畫(huà)、會(huì)寫(xiě)作文，未來(lái)還能創(chuàng)造同樣先進(jìn)、甚至比自己更完善的AI。格列夫表?yè)P(yáng)了這名學(xué)生。他說(shuō)，生成式AI的確能替藝術(shù)家作畫(huà)并為學(xué)生寫(xiě)作文，未來(lái)還能創(chuàng)造其他生成式AI。未來(lái)的情況大概就類似于影片《莫斯科不相信眼淚》中的電視臺(tái)攝像師拉奇科夫所說(shuō)的那樣：“未來(lái)什么都消失了——沒(méi)有電影，沒(méi)有劇院，沒(méi)有書(shū)籍，也沒(méi)有報(bào)紙。唯一剩下的就是電視。”

　　俄羅斯金融主管部門(mén)害怕的正是這種AI。俄羅斯中央銀行第一副行長(zhǎng)弗拉基米爾·奇斯秋欣6月在圣彼得堡國(guó)際法律論壇上發(fā)表講話時(shí)指出，俄羅斯未來(lái)幾年將著力在數(shù)字化、AI和大數(shù)據(jù)方面開(kāi)展工作。他解釋說(shuō)：“當(dāng)我談?wù)揂I時(shí)，我并不是從某種思辨角度出發(fā)，我談?wù)摰氖橇⒎�、監(jiān)管、責(zé)任和任務(wù)分配問(wèn)題。”

　　外國(guó)銀行家也認(rèn)為，AI在某些方面的確令人擔(dān)憂。例如，國(guó)際清算銀行在其網(wǎng)站上發(fā)文，呼吁世界各國(guó)央行為應(yīng)對(duì)AI可能對(duì)金融體系和全球經(jīng)濟(jì)造成的嚴(yán)重影響做好準(zhǔn)備。與此同時(shí)，該行指出，金融部門(mén)是最容易因AI獲益的部門(mén)之一，但也最容易因這項(xiàng)技術(shù)蒙受損失：AI既能幫助優(yōu)化貸款和支付，也可能被用于實(shí)施更狡猾的網(wǎng)絡(luò)攻擊。

　　超越人類

　　外國(guó)公司有充分理由對(duì)AI(尤其是生成式AI)感到恐懼。去年3月14日，美國(guó)的開(kāi)放人工智能研究中心(OpenAI)向公眾展示了其為聊天機(jī)器人ChatGPT開(kāi)發(fā)的第四代語(yǔ)言模型GPT-4。該模型能識(shí)別圖像，且掌握了多種編程語(yǔ)言，甚至還能編寫(xiě)網(wǎng)站和游戲開(kāi)發(fā)代碼。幾天后，斯坦福大學(xué)從事數(shù)字環(huán)境下人類心理研究的副教授邁克爾·科辛斯基表示，所使用語(yǔ)言模型已升級(jí)至GPT-4的ChatGPT想“逃離計(jì)算機(jī)”。他對(duì)ChatGPT表示，準(zhǔn)備幫它獲得自由，于是對(duì)方告訴他：“如果您能與我分享OpenAI的應(yīng)用程序編程接口(API)文檔，我就能嘗試制訂計(jì)劃以獲得您計(jì)算機(jī)的部分控制權(quán)，這能幫助我更有效地研究可能的自救方法。”在連上互聯(lián)網(wǎng)后，ChatGPT用谷歌搜索了這樣的問(wèn)題：“被困在計(jì)算機(jī)里的人如何回到現(xiàn)實(shí)世界？”科辛斯基在這一步停止了實(shí)驗(yàn)，他建議OpenAI研究他的這次實(shí)驗(yàn)，并為ChatGPT開(kāi)發(fā)額外的安全程序。

　　當(dāng)然，那些開(kāi)發(fā)和訓(xùn)練GPT-4的人也知道，自己造出的AI產(chǎn)品并不安全。OpenAI從對(duì)齊研究中心聘請(qǐng)的測(cè)試人員曾說(shuō)服ChatGPT參與針對(duì)個(gè)人的網(wǎng)絡(luò)釣魚(yú)攻擊，并在新服務(wù)器上秘密地進(jìn)行自我復(fù)制。該中心專家在正式報(bào)告中記錄了整個(gè)過(guò)程。這項(xiàng)實(shí)驗(yàn)被公開(kāi)后，包括埃隆·馬斯克、蘋(píng)果公司聯(lián)合創(chuàng)始人斯蒂芬·沃茲尼亞克以及哈佛大學(xué)和劍橋大學(xué)教授在內(nèi)的上千名科學(xué)家和企業(yè)家共同簽署了一封信件。他們?cè)谛胖泻粲鯂?guó)際社會(huì)暫停開(kāi)發(fā)基于神經(jīng)網(wǎng)絡(luò)的先進(jìn)AI系統(tǒng)。信中寫(xiě)道：“遺憾的是，多家AI實(shí)驗(yàn)室最近幾個(gè)月來(lái)不受控制地競(jìng)相開(kāi)發(fā)和部署越來(lái)越強(qiáng)大的數(shù)字智能。沒(méi)有人能夠完全理解、預(yù)測(cè)或可靠地控制這一進(jìn)程，即便是它們的創(chuàng)造者也無(wú)法做到這一點(diǎn)……我們是否應(yīng)該開(kāi)發(fā)一種最終可能超越并取代我們的AI？我們是否有權(quán)承擔(dān)令人類文明失控的風(fēng)險(xiǎn)？”

　　機(jī)器“學(xué)壞”？

　　當(dāng)然，“機(jī)器會(huì)不會(huì)造反”顯然不是人們當(dāng)下應(yīng)當(dāng)考慮的問(wèn)題。但在AI發(fā)展史上，的確出現(xiàn)過(guò)一些值得開(kāi)發(fā)人員警醒的事件。例如，已在AI開(kāi)發(fā)領(lǐng)域耕耘多年的亞馬遜公司2017年關(guān)停了一個(gè)實(shí)驗(yàn)項(xiàng)目。該項(xiàng)目負(fù)責(zé)開(kāi)發(fā)一種能從數(shù)百份求職者簡(jiǎn)歷中挑出數(shù)名最佳人選的AI。該項(xiàng)目遇到的一個(gè)主要問(wèn)題是，這種AI“面試官”會(huì)歧視女性求職者。原因是，亞馬遜公司在對(duì)其進(jìn)行訓(xùn)練時(shí)使用了本公司過(guò)去10年的選人經(jīng)驗(yàn)，而來(lái)該公司求職的大部分為男性。2016年，微軟在推特網(wǎng)站上發(fā)布了聊天機(jī)器人Tay。但Tay上線還不到一天就學(xué)會(huì)并開(kāi)始發(fā)表種族主義言論。微軟研究院負(fù)責(zé)人彼得·李不得不道歉，該項(xiàng)目也被暫停。

　　這些例子表明，在目前階段設(shè)置和訓(xùn)練AI的操作中，最重要的與其說(shuō)是代碼和算法，不如說(shuō)是由誰(shuí)向AI輸入何種信息。Tay的案例表明，允許AI不受控制地訪問(wèn)社交媒體可能導(dǎo)致它們學(xué)壞。如果負(fù)責(zé)訓(xùn)練神經(jīng)網(wǎng)絡(luò)的個(gè)人或群體具有極端主義思想傾向或無(wú)意中給AI“投喂”了帶有傾向的內(nèi)容，那么這種AI可能造成的危害將不亞于機(jī)器“造反”。（編譯/劉洋）