AI崛起之后，會(huì)毀滅人類(lèi)嗎？如果會(huì)的話，它又會(huì)以怎樣的方式毀滅人類(lèi)呢？關(guān)于這點(diǎn)，很多人都在擔(dān)心，因?yàn)楹萌R塢早就預(yù)言過(guò)，AI都不是什么好東西。不管是終結(jié)者里的天網(wǎng)，還是黑客帝國(guó)里的矩陣，又或是西部世界里的Host，總之，它們不是要滅亡人類(lèi)就是要圈養(yǎng)人類(lèi)，再次再次，也要跟人類(lèi)平起平坐。這你受得了嗎！

所以在看到過(guò)去幾個(gè)月里，人工智能的突飛猛進(jìn)之后，很多大咖都急了，表示要是我們?cè)俨患酉拗频拈_(kāi)發(fā)AI，一個(gè)恐怖的將來(lái)就一定會(huì)在不遠(yuǎn)處等著我們。這里面喊聲最大的一個(gè)，大概就要數(shù)埃隆馬斯克了，看來(lái)，他真的很討厭AI呀。

那么問(wèn)題就來(lái)了，當(dāng)你很討厭一樣?xùn)|西，又拿它沒(méi)辦法的時(shí)候，該怎么做呢？埃隆馬斯克給我們上了很好的一課，那就是——用另一個(gè)AI去干掉自己討厭的這個(gè)AI。

好吧，所以本質(zhì)上，他只是不放心別人開(kāi)發(fā)的AI而已。

就在最近，埃隆馬斯克正式推出了一家名為xAI的人工智能公司， 雖然目前我們對(duì)該公司的雄心壯志了解甚少，但馬斯克在Twitter Spaces活動(dòng)中表示，他希望他的人工智能能夠“理解宇宙的真實(shí)本質(zhì)”。

為什么讓人工智能理解宇宙的本質(zhì)那么重要，因?yàn)轳R斯克認(rèn)為——如果AI理解了宇宙的真實(shí)本質(zhì)，它就會(huì)明白，人類(lèi)其實(shí)會(huì)比非人類(lèi)有趣太多了，于是基于這點(diǎn)，它自然就會(huì)站在人類(lèi)的一邊，成為一個(gè)對(duì)人類(lèi)來(lái)說(shuō)安全的AI了。呃......這個(gè)邏輯......通嗎？

好吧，希望它通，因?yàn)槿绻煌?，人?lèi)的未來(lái)在AI面前，可能的確會(huì)比較黯淡。我最近正好看了一篇文章，標(biāo)題就叫做《人工智能傷害我們的最危險(xiǎn)、最令人意外和最讓人討厭的六種方式》，文章的作者在采訪了大量相關(guān)領(lǐng)域的專家和從業(yè)者后，得出結(jié)論——雖然AI可能并不會(huì)像好萊塢宇宙中表現(xiàn)的那么邪惡，但是它依然會(huì)給我們制造大量的噩夢(mèng)，其中有六個(gè)，已經(jīng)到了讓人夜不能寐的程度，下面，我就來(lái)分享一下。

但事先說(shuō)明，由于作者和他訪談的對(duì)象都是國(guó)外的，所以其中舉的案例也基本都是國(guó)外的，可能跟我們的情況會(huì)略有不同，大家如果有不同的意見(jiàn)或者補(bǔ)充，正好可以在留言區(qū)討論討論。下面，噩夢(mèng)就來(lái)了。

噩夢(mèng)一，叫做數(shù)據(jù)分身的詛咒。2011年，美國(guó)密歇根州州長(zhǎng)批準(zhǔn)了一筆資金，讓密歇根失業(yè)保險(xiǎn)局開(kāi)發(fā)一個(gè)新的算法，目的是要讓該算法能夠智能的檢測(cè)保險(xiǎn)欺詐。

保險(xiǎn)局與三家不同的軟件開(kāi)發(fā)公司合作，于2013年推出了密歇根集成數(shù)據(jù)自動(dòng)化系統(tǒng)（MiDAS）。盡管該局從未透露算法從哪里收集數(shù)據(jù)，但隨后的訴訟表明，它可能從雇主提供的失業(yè)數(shù)據(jù)集中收集了不準(zhǔn)確的細(xì)節(jié)。因?yàn)樵诮酉聛?lái)的兩年里，MiDAS錯(cuò)誤地指控了4萬(wàn)多人欺詐，并通過(guò)各種方式迫使他們支付了高額的罰款。

但這還不算最糟糕的，一旦MiDAS在數(shù)據(jù)庫(kù)中錯(cuò)誤地將成千上萬(wàn)的無(wú)辜者標(biāo)記為騙子，其他使用該數(shù)據(jù)庫(kù)進(jìn)行背景調(diào)查的機(jī)構(gòu)就會(huì)重復(fù)這些錯(cuò)誤信息。于是，有些被指控者便無(wú)法找到工作，有些則無(wú)法再領(lǐng)取失業(yè)救濟(jì)金。而這其中最絕望的一點(diǎn)是，當(dāng)這些人突然被當(dāng)成是罪犯來(lái)對(duì)待時(shí)，他們根本就想不明白這是為什么？到底背后發(fā)什么什么？直到，有缺陷的算法被曝光之后，他們才用集體訴訟的方式為自己討回了公道。

好，你以為這就完了嗎？不，噩夢(mèng)還沒(méi)走，甚至，它這一輩子都走不掉了。倫理組織AI Now的主席梅雷迪斯·惠特克將MiDAS創(chuàng)造出來(lái)的與真實(shí)人物有偏差的在線版本稱為“數(shù)據(jù)分身”。它們的功能很像被盜用的身份，一旦建立起來(lái)，就幾乎無(wú)法刪除。因?yàn)槲覀兊暮芏鄶?shù)據(jù)都被重新打包并出售給第三方，所以一個(gè)由人工智能創(chuàng)造出來(lái)的數(shù)據(jù)分身可能會(huì)從你的保險(xiǎn)記錄里消失，但又會(huì)出現(xiàn)在你的銀行記錄、學(xué)校錄取或工作背景調(diào)查中。由于許多數(shù)據(jù)庫(kù)是集中式的，所以一個(gè)數(shù)據(jù)分身可能會(huì)在你的一生中跟隨你許多年。

惠特克說(shuō)：“這些系統(tǒng)正在生成沒(méi)有人給予它們的虛假個(gè)人數(shù)據(jù)，而它們正變得越來(lái)越比真相更真實(shí)。這一定會(huì)影響我們的生活?！?/p>

接著，是噩夢(mèng)二，它叫做“萬(wàn)歲，隨機(jī)鸚鵡”。

鸚鵡學(xué)舌我們都知道，要是訓(xùn)練的好，你完全可以跟一只鸚鵡展開(kāi)看似正常的對(duì)話——它可以跟你問(wèn)好、可以跟你打招呼、甚至，還能跟你對(duì)罵幾句——盡管，它可能根本就不知道這些語(yǔ)言的含義。

誒，對(duì)比一下，GPT之所以厲害，之所以它說(shuō)的話看起來(lái)像是人說(shuō)的，不就是因?yàn)槲覀冇昧舜罅咳祟?lèi)的語(yǔ)言去訓(xùn)練它的結(jié)果嗎。但是，它真的就明白這些語(yǔ)言背后的真實(shí)含義嗎？不見(jiàn)得。

華盛頓大學(xué)社會(huì)未來(lái)實(shí)驗(yàn)室的負(fù)責(zé)人艾米·張說(shuō)，她最擔(dān)心的就是AI胡說(shuō)八道的傾向。很多通過(guò)ChatGPT或是其他類(lèi)似的，能夠?qū)懗龃蠖尉渥由踔琳恼碌腁I說(shuō)出來(lái)的東西，咋聽(tīng)起來(lái)非常合理，但你仔細(xì)一想，就會(huì)發(fā)現(xiàn)錯(cuò)得是相當(dāng)離譜。

她舉了個(gè)例子，在一次科學(xué)作家蓋瑞·馬庫(kù)斯與ChatGPT的對(duì)話中，后者建議到，將瓷器粉加入母乳有好處，因?yàn)椤善鞣劭梢詭椭胶饽溉榈臓I(yíng)養(yǎng)成分，為嬰兒提供生長(zhǎng)和發(fā)育所需的營(yíng)養(yǎng)。是不是的相當(dāng)?shù)幕闹嚒?/p>

研究人員稱這種現(xiàn)象為“隨機(jī)鸚鵡”問(wèn)題： 當(dāng)計(jì)算機(jī)以混亂的方式復(fù)制聽(tīng)起來(lái)像是人類(lèi)的短語(yǔ)時(shí)，這種問(wèn)題就會(huì)發(fā)生。艾米介紹，隨機(jī)鸚鵡可能會(huì)在互聯(lián)網(wǎng)上散播大量錯(cuò)誤信息，從而造成一場(chǎng)堪稱核災(zāi)難級(jí)別的垃圾信息泛濫。AI生成內(nèi)容的擴(kuò)散將使得在一片垃圾信息中找到高質(zhì)量信息變得更加困難。最終，我們必然面臨一個(gè)完全被隨機(jī)鸚鵡信息取代了人類(lèi)生成文字的世界。到那個(gè)時(shí)候，除了垃圾，還剩什么呢？隨機(jī)鸚鵡，真的是萬(wàn)歲了。

噩夢(mèng)三，AI學(xué)會(huì)了偏見(jiàn)。當(dāng)我們現(xiàn)在為AI能做的很多事感到興奮不已，并本能的認(rèn)為這是一個(gè)全新開(kāi)啟的時(shí)代時(shí)。其實(shí)，你要知道，大多數(shù)的人工智能實(shí)際上是建立在一些能追溯到上個(gè)世紀(jì)80年代的“破舊系統(tǒng)”之上的。所以可以這么說(shuō)：AI不是什么新技術(shù)，新的，只不過(guò)是我們現(xiàn)在擁有的大量數(shù)據(jù)和計(jì)算能力。

這會(huì)帶來(lái)什么問(wèn)題？這會(huì)帶來(lái)算法通過(guò)學(xué)習(xí)按照舊有標(biāo)準(zhǔn)分類(lèi)的數(shù)據(jù)，從而得出偏離了真相的結(jié)果。比如AI在警務(wù)平臺(tái)上的使用。 上個(gè)世紀(jì)90年代，洛杉磯警察使用一個(gè)奇怪的縮寫(xiě)詞“NHI”來(lái)指代涉及黑人和其他少數(shù)族裔的事件。NHI到底是什么意思呢？后來(lái)通過(guò)調(diào)查才知道，它是“沒(méi)有涉及人類(lèi) no humans involved”的縮寫(xiě)。

這就相當(dāng)歧視了，意思就是在洛杉磯警察的眼里黑人和少數(shù)族裔都不是人唄。顯然，這個(gè)縮寫(xiě)很快就被刪除。但是，就像我們上面講到的一樣，數(shù)據(jù)分身是很難被徹底抹掉的。在用可能含有這個(gè)縮寫(xiě)的數(shù)據(jù)去訓(xùn)練AI的過(guò)程中，AI也許就會(huì)錯(cuò)誤的學(xué)習(xí)到某些人比其他人不那么有價(jià)值——等于是把歧視和偏見(jiàn)也學(xué)了下來(lái)。

這也是多年來(lái)人工智能專家一直在警告的，一些警務(wù)算法是根據(jù)有偏見(jiàn)的數(shù)據(jù)進(jìn)行訓(xùn)練的，于是很容易就將黑人與犯罪畫(huà)上了等號(hào)。通常，這些算法會(huì)“學(xué)習(xí)”誰(shuí)更可能犯罪，這是基于逮捕和監(jiān)禁的歷史數(shù)據(jù)，而其中黑人美國(guó)人由于曾經(jīng)被不公平地定位為目標(biāo)，就導(dǎo)致了他們?cè)谶@些數(shù)據(jù)中占據(jù)了錯(cuò)誤的高比例。

隨著人臉識(shí)別越來(lái)越多地被集成到智能監(jiān)控?cái)z像頭中，這個(gè)問(wèn)題將變得更加嚴(yán)重。因?yàn)楫?dāng)一個(gè)超市試圖安裝這樣的智能攝像頭，來(lái)將顧客的臉與之前涉嫌偷竊的人匹配，從而警告保安人員時(shí)。錯(cuò)誤訓(xùn)練的AI很有可能會(huì)將亂指無(wú)辜，既傷害了顧客的權(quán)利，也削弱了商場(chǎng)的信譽(yù)，可謂極具危害性。

噩夢(mèng)四，AI教我打仗。想象這么一個(gè)場(chǎng)景，在未來(lái)的戰(zhàn)場(chǎng)上，一個(gè)軍事指揮官正在與恐怖分子作戰(zhàn)，硝煙籠罩，他需要同時(shí)處理數(shù)百個(gè)關(guān)于發(fā)生了什么的相互矛盾的情報(bào)，并迅速做出一個(gè)可能會(huì)造成不同傷亡的決策。那么，他應(yīng)該怎么做呢？

合理的推測(cè)是，依靠AI。

美國(guó)國(guó)防高級(jí)研究計(jì)劃局（DARPA）已經(jīng)開(kāi)始啟動(dòng)一個(gè)名為ITM（In The Moment）的項(xiàng)目，旨在設(shè)計(jì)一個(gè)可以幫助做出關(guān)于戰(zhàn)場(chǎng)傷亡的復(fù)雜決策的算法。所以，在可以預(yù)見(jiàn)的未來(lái)，將會(huì)有更多算法會(huì)基于歷史沖突的數(shù)據(jù)來(lái)幫它做出決策。

但是，這些歷史沖突的數(shù)據(jù)就真的那么可靠嗎？如果這個(gè)未來(lái)的指揮官在歐洲，卻使用了基于阿富汗戰(zhàn)爭(zhēng)的數(shù)據(jù)所訓(xùn)練出來(lái)的AI呢？

你想，在阿富汗作戰(zhàn)的方式，它也許并不適合放在歐洲嘛，那么這樣的AI所做出的決策就勢(shì)必產(chǎn)生了偏差。最慘的，你即使知道有這個(gè)偏差，也很難去修正，因?yàn)樗举|(zhì)上，是個(gè)“黑箱”問(wèn)題。對(duì)于構(gòu)成我們算法基礎(chǔ)的神經(jīng)網(wǎng)絡(luò)，我們可以看到的只有數(shù)據(jù)的輸入和輸出，而并不知道里面到底發(fā)生了什么。

比如我們現(xiàn)在在訓(xùn)練AI下棋時(shí)就會(huì)發(fā)生這種情況。AI贏了，是因?yàn)樗氤隽巳祟?lèi)在數(shù)千年的下棋過(guò)程中從未想象過(guò)的棋步?？蔀槭裁此苓@么想？它在想的過(guò)程中加入了什么、放棄了什么？這么做會(huì)帶來(lái)其他后果嗎？等等這些，我們是既看不到也無(wú)法理解，這就帶來(lái)了很多巨大的風(fēng)險(xiǎn)。

比如，在未來(lái)的某個(gè)時(shí)刻，當(dāng)作戰(zhàn)指揮官問(wèn)一隊(duì)由AI控制的無(wú)人機(jī)下一步該怎么做時(shí)，它們可能會(huì)制定出一種對(duì)指揮官而言毫無(wú)意義的策略——轟炸所有戴黃帽子的人。聽(tīng)上去很荒謬吧？但是指揮官不得不相信它，因?yàn)樗峭ㄟ^(guò)對(duì)情報(bào)的大量分析后，才得出的這一判斷——恐怖分子都在暗中編織黃色的帽子。但是，萬(wàn)一它是犯了一個(gè)錯(cuò)，把織毛線帽的無(wú)辜大媽標(biāo)記成了恐怖分子呢？指揮官在做出決定之前是根本不會(huì)知道的，而當(dāng)他知道的時(shí)候，一切都已經(jīng)太晚了。

噩夢(mèng)五， 你的大腦植入物不會(huì)讓你頂嘴。最終，我們一定會(huì)邀請(qǐng)算法進(jìn)入我們的身體。多倫多大學(xué)的研究人員已經(jīng)設(shè)計(jì)了可以植入到人腦中的增強(qiáng)型AI芯片，幫助罹患帕金森病的患者。當(dāng)然，我們還有其他的腦植入物，可以幫助癱瘓的人用意念控制鼠標(biāo)和鍵盤(pán)。

聽(tīng)起來(lái)很安全，對(duì)吧？但是，等到心電感應(yīng)、用想一想就能給其他人發(fā)送信息的時(shí)候，情況就會(huì)發(fā)生變化了。由于像微軟這樣的公司會(huì)為文本加上預(yù)測(cè)算法，通過(guò)該算法來(lái)幫助你更快的完成你想要的句子。可它在另一方面，也既能阻止你講臟話，還能改變你可能想講的話。也許在一個(gè)不那么光明的未來(lái)，它會(huì)阻止你批評(píng)某個(gè)公司或者組織，甚至連一個(gè)有點(diǎn)創(chuàng)造性的提議都不會(huì)讓你發(fā)出來(lái)。

最后，噩夢(mèng)六，跨越了維度的麻煩。在噩夢(mèng)二里面，隨機(jī)鸚鵡還只存在于你的瀏覽器里，但是，當(dāng)它跨出網(wǎng)絡(luò)開(kāi)始控制你的汽車(chē)時(shí)會(huì)發(fā)生什么？這就是華盛頓大學(xué)法學(xué)教授瑞安·卡羅最關(guān)心的。他指出，人工智能與重要系統(tǒng)之間的意外互動(dòng)，可能會(huì)帶來(lái)難以想象的后果。

其中一個(gè)系統(tǒng)可能就是你所在的智能城市。在那里，算法將控制從電網(wǎng)分配到交通流量等一切事情。想象一下，那些通過(guò)鸚鵡學(xué)舌自動(dòng)產(chǎn)生了某些毫無(wú)意義的垃圾的算法，此刻可能正在控制著橋梁、控制著你所在建筑物的空調(diào)系統(tǒng)，或者，控制著你的自動(dòng)駕駛車(chē)輛穿過(guò)擁擠的市區(qū)......難道不令人恐懼嗎！

其實(shí)一些奇怪、或者說(shuō)可怕的相互作用已經(jīng)出現(xiàn)了。比如，之前就有一群自動(dòng)駕駛汽車(chē)，毫無(wú)緣由的阻塞了舊金山數(shù)小時(shí)的交通。這還不是最差的，還記得我上面說(shuō)的黑箱問(wèn)題嗎？在這里，黑箱問(wèn)題也導(dǎo)致了人類(lèi)既不能理解也不能修復(fù)的一些奇怪的交通行為。比方說(shuō)，一個(gè)由AI控制的電網(wǎng)和交通系統(tǒng)，該如何應(yīng)對(duì)一場(chǎng)突發(fā)而來(lái)的抗議或者慶?；顒?dòng)呢？