| 簡(jiǎn)體中文 / English | ||||
| 股票代碼：603291 | ||||
| 網(wǎng)站首頁(yè) | 關(guān)于我們 | 新聞資訊 | 核心業(yè)務(wù) | 人力資源 | 聯(lián)系我們 |
|
|
||||||||||
|
|||||||||||
|
| 亨利·基辛格最后的神圣戰爭 | ||
|
||
【美國《時(shí)代》周刊網(wǎng)站11月5日報道】題：亨利·基辛格最后的神圣戰爭：阻止危險的人工智能(記者貝琳達·勒斯科姆) 美國前國務(wù)卿亨利·基辛格在98歲高齡之際，有了全新的興趣點(diǎn)：人工智能。在2016年召開(kāi)的比爾德貝赫會(huì )議期間，時(shí)任谷歌公司執行董事長(cháng)埃里克·施密特說(shuō)服他參加了一場(chǎng)關(guān)于人工智能主題的講座，讓他對此產(chǎn)生了濃厚的興趣。兩人與麻省理工學(xué)院蘇世民計算機學(xué)院院長(cháng)丹尼爾·胡滕洛赫爾合作，撰寫(xiě)了一本令人振奮的新書(shū)——《人工智能時(shí)代》。書(shū)中探討了人工智能迅速崛起并投入使用所帶來(lái)的影響，用他們的話(huà)說(shuō)，這“預示著(zhù)人類(lèi)事務(wù)的一場(chǎng)革命”。這本書(shū)提出的觀(guān)點(diǎn)是，人工智能的進(jìn)程如此勢不可擋，如此天衣無(wú)縫地嵌入人類(lèi)事務(wù)，而且如此不可預知，如果沒(méi)有一定的深謀遠慮與妥善管理，它們將帶來(lái)的“劃時(shí)代轉型”可能讓人類(lèi)歷史走向危險的方向。 基辛格與施密特一同坐下來(lái)接受了《時(shí)代》周刊記者的采訪(fǎng)，講述了他們所展望的未來(lái)。 技術(shù)缺乏哲學(xué)引導 問(wèn)：基辛格博士，您是一位資歷深厚的政治家。您為什么認為人工智能對您來(lái)說(shuō)是一個(gè)足夠重要的主題？ 基辛格：我在讀大學(xué)本科時(shí)，寫(xiě)了一篇300頁(yè)的論文，題為《歷史的意義》。歷史的意義和我們向何處去的主題一直占據著(zhù)我的生活。技術(shù)奇跡并沒(méi)有讓我如此著(zhù)迷；真正讓我著(zhù)迷的是，我們正在進(jìn)入人類(lèi)意識的新時(shí)期。對此，我們理解得還不夠透徹。 說(shuō)到人類(lèi)意識的新時(shí)期，我們指的是，對世界的認知會(huì )有不同，至少像啟蒙運動(dòng)時(shí)期與中世紀之間的不同那么明顯，當時(shí)西方世界在從宗教角度認知世界轉向基于理性認知世界，這個(gè)進(jìn)程是非常緩慢的。這次，轉變的速度會(huì )快一些。 其中有一個(gè)重要的不同。啟蒙運動(dòng)時(shí)期，存在一個(gè)基于信仰的概念世界。因此，伽利略和已故的啟蒙運動(dòng)先驅們擁有一套當時(shí)盛行的哲學(xué)，他們要在這種背景下檢驗自己的思想。你可以追蹤這種思想的發(fā)展演變。事實(shí)上，我們如今生活的世界沒(méi)有哲學(xué)，也沒(méi)有占主導的哲學(xué)觀(guān)。因此，技術(shù)專(zhuān)家可以為所欲為。他們可以研發(fā)改變世界的東西，但沒(méi)有人會(huì )說(shuō)，“我們要把它融入某個(gè)東西當中”。 問(wèn)：您遇到埃里克·施密特后，他邀請您對谷歌員工發(fā)表講話(huà)，您說(shuō)您認為谷歌是對文明的威脅。您為什么會(huì )這樣想？ 基辛格：我不希望哪一個(gè)組織壟斷信息的供應。我認為，一家公司能夠提供信息，并且能夠根據它對公眾想要什么信息或認為什么樣的信息可信所做的研究來(lái)調整它所供應的信息，這是極其危險的。這樣一來(lái)，真相變成相對而言的概念。我當時(shí)就是這樣認為的。而他之所以邀請我與他的算法團隊見(jiàn)面，是為了讓我明白，這并非專(zhuān)斷之舉，在為呈現哪些內容所做的選擇背后，有思考和分析。這并沒(méi)有打消我對一個(gè)私人機構擁有這種權力的擔憂(yōu)。不過(guò)，我正是這樣進(jìn)入這一領(lǐng)域的。 施密特：參觀(guān)谷歌的這次經(jīng)歷讓他思考。等我們開(kāi)始談?wù)撨@件事時(shí)，基辛格博士說(shuō)，他非常擔心這批技術(shù)給人類(lèi)及其生存帶來(lái)的影響，而技術(shù)專(zhuān)家在運用這些技術(shù)時(shí)卻沒(méi)有弄明白它們的影響或歷史。我認為，這樣的擔心是完全正確的。 問(wèn)：許多人覺(jué)得您現在或者過(guò)去針對技術(shù)公司所做的事情——讓人感覺(jué)它們并不是真的值得信任，它們?yōu)榱烁纳谱陨斫?jīng)營(yíng)而采取的許多做法對社會(huì )來(lái)說(shuō)未必是好事�？紤]到這一點(diǎn)，您認為技術(shù)行業(yè)領(lǐng)袖在這個(gè)新體系中扮演什么角色？ 基辛格：我認為，技術(shù)公司引領(lǐng)大家進(jìn)入了人類(lèi)意識的新時(shí)期，就像啟蒙運動(dòng)時(shí)期的幾代人在從宗教轉向理性時(shí)所發(fā)揮的作用，而技術(shù)專(zhuān)家正在向我們展示如何將理性與人工智能關(guān)聯(lián)起來(lái)。這在某種意義上是一門(mén)不同的學(xué)問(wèn)，因為說(shuō)到理性，也就是我成長(cháng)的環(huán)境，證據是相互印證的。說(shuō)到人工智能，最令人震驚的地方在于，你得出了一個(gè)正確結論，可是你不知道其中的原因。這是一個(gè)全新的挑戰。因此，從某些方面講，他們創(chuàng )造的東西是危險的。但它讓我們的文化向前邁進(jìn)。如果從來(lái)沒(méi)有創(chuàng )造出這種技術(shù)，我們會(huì )不會(huì )過(guò)得更好？我不知道答案。不過(guò)既然它已經(jīng)存在，我們就必須了解它。而且也不能將它根除。我們已經(jīng)在這上面消耗太多的精力。 人類(lèi)失去思考能力 問(wèn)：您認為人工智能興起所帶來(lái)的主要地緣政治影響是什么？ 基辛格：我認為我們還沒(méi)有深入研究過(guò)這個(gè)問(wèn)題。想象一下，中美之間爆發(fā)戰爭，你擁有人工智能武器。和所有人工智能技術(shù)一樣，這種武器對你計劃好的目標能夠實(shí)施更有效的打擊。但它們打擊自己所認定的目標時(shí)可能也很有效。因此，如果你說(shuō)，“A目標是我要打擊的目標”，它們可能會(huì )認為別的什么目標更符合這樣的標準。因此，你身處一個(gè)有點(diǎn)不確定的世界。其次，因為從來(lái)沒(méi)有人真正在大規模軍事行動(dòng)中測試過(guò)這些東西，你無(wú)法確切地知道雙方的人工智能戰斗機發(fā)生互動(dòng)時(shí)會(huì )出現什么情形。這樣一來(lái)，你所處的世界可能具有徹底的毀滅性，你的做法也存在極大的不確定性。 問(wèn)：所以您擔心的是人工智能過(guò)于有效嗎？還有我們不能確切知道它們的行為的原因？ 基辛格：我這一生大部分時(shí)間在研究我所談?wù)摰哪切﹩?wèn)題；在人工智能這個(gè)領(lǐng)域，我只研究了四年�！吧疃人伎肌庇嬎銠C通過(guò)和自己對弈，只用四個(gè)小時(shí)就學(xué)會(huì )了下棋。它還下了一盤(pán)人類(lèi)從未見(jiàn)過(guò)的棋局。我們目前最好的計算機也只是偶爾能打敗它。如果這種情況發(fā)生在其他領(lǐng)域，而這是一種必然，同時(shí)也是現實(shí)，那可是一件大事，而我們的世界根本沒(méi)有為此做好準備。 問(wèn)：這本書(shū)提出，由于人工智能進(jìn)程的推進(jìn)速度極快，有人擔心人類(lèi)有可能失去思考、構思和反思的能力。怎么來(lái)看待這種擔憂(yōu)？ 施密特：我們已經(jīng)從讀書(shū)轉變成聽(tīng)書(shū)，再到既沒(méi)時(shí)間看，也沒(méi)時(shí)聞思考、沒(méi)時(shí)間討論的地步，因為別的東西正應運而生。因此，我認為這種時(shí)間和信息的加速的確超出了人類(lèi)的能力。這是勢不可擋的，大家在抱怨這一點(diǎn)；他們沉迷其中，他們無(wú)法思考，連獨自吃飯都做不到了。我認為人類(lèi)不是生來(lái)就可以應對這樣的局面。這讓壓力激素水平之類(lèi)的東西激增。所以，在極端情況下，信息過(guò)載很可能超越我們處理正在發(fā)生的種種事情的能力。 我一直談到，在這本書(shū)中也提到的一點(diǎn)是，你會(huì )需要一名助手。就你而言，你是一名記者，有一大堆事情要做，你會(huì )需要一臺計算機助手，它會(huì )對你說(shuō)：“這些是當下要做的重要事項。這些是需要思考的問(wèn)題，搜索一下歷史記錄，會(huì )讓你更加高效�！爆F在的問(wèn)題是，你已經(jīng)非常依賴(lài)這種人工智能系統。我們在書(shū)中也說(shuō)了，誰(shuí)來(lái)控制人工智能系統的所作所為？它有偏見(jiàn)怎么辦？如何對出現的情況加以調控？尤其是對年輕人而言，這是個(gè)非常令人擔心的地方。 假如武器自動(dòng)發(fā)射 問(wèn)：您在書(shū)中談到的一點(diǎn)是，人工智能有好的一面和壞的一面。這要表達什么意思？ 基辛格：我們要說(shuō)的是，它可能確實(shí)會(huì )帶來(lái)非常大的收益。它可能也是可以管控的。但在對某些方面加以管理上，還存在我們尚未開(kāi)展研究或者研究得不夠透徹的地方。我仍然感到擔憂(yōu)。我反對因為這個(gè)原因就說(shuō)我們必須除掉這種技術(shù)。它現在已經(jīng)存在了。重點(diǎn)之一是，我們認為應該創(chuàng )造某種哲學(xué)來(lái)引導這方面的研究。 問(wèn)：您會(huì )建議由誰(shuí)來(lái)形成這種哲學(xué)？下一步要做什么？ 基辛格：我們需要由一些規模不大的團體來(lái)提出問(wèn)題。我在讀研究生時(shí)，核武器是新生事物。當時(shí)，哈佛大學(xué)、麻省理工學(xué)院和加州理工學(xué)院一些憂(yōu)心忡忡的教授會(huì )在很多個(gè)周六下午碰頭，表達自己心中的疑問(wèn)：答案是什么？我們該如何應對？最后他們有了軍備控制的想法。 問(wèn)：這些團體需不需要在規模上做到國際化？需不需要在聯(lián)合國的支持下做這項工作，還是在其他什么人的支持下？ 施密特：這些事情通常的運作方式是，有規模相對較小、相對精英的群體一直在思考這個(gè)問(wèn)題，他們需要實(shí)現對接。比如，目前有牛津大學(xué)的人工智能與倫理策略團隊，這是很好的嘗試。世界各地零星存在這類(lèi)小規模團體。我了解到中國也有一定數量的此類(lèi)團體。但這些團體沒(méi)有實(shí)現對接；這只是個(gè)開(kāi)始。所以，如果你相信我們所相信的東西，也就是說(shuō)十年后，人工智能技術(shù)會(huì )變得異常強大，那么我們最好從現在就開(kāi)始考慮這種技術(shù)所帶來(lái)的影響。 我給你舉個(gè)我最喜歡的例子，與軍事準則有關(guān)。一切都變得更快了。我們不希望看到的局面是，武器會(huì )基于它們自己對局勢的分析而自動(dòng)發(fā)射。 基辛格：因為實(shí)施攻擊的武器可能比人腦的分析速度更快，于是出現了惡性循環(huán)。你很想讓武器變得自動(dòng)，但你又不想讓它過(guò)于自動(dòng)，自動(dòng)到可以根據你或許無(wú)法做出的判斷來(lái)采取行動(dòng)。 施密特：所以，當前各個(gè)大國之間沒(méi)有就這一點(diǎn)展開(kāi)討論。不過(guò)，這是顯而易見(jiàn)的問(wèn)題。我們圍繞人類(lèi)速度可及的事物展開(kāi)了大量討論�？墒�，當一切發(fā)生得太快，超出了人類(lèi)的速度時(shí)，該怎么辦？我們需要就某種上限，相互的設限達成一致，需要就這些系統的最高運行速度達成一致，因為不這樣的話(huà)，我們會(huì )陷入極其不穩定的局面。 避免技術(shù)遭到濫用 問(wèn)：可以想見(jiàn)人們會(huì )覺(jué)得很難接受您會(huì )有這樣的觀(guān)點(diǎn)。因為谷歌之所以這么成功，就是因為它能夠提供那么多信息，而且速度那么快。許多人會(huì )說(shuō)，你們其實(shí)對這個(gè)問(wèn)題的出現起了推波助瀾的作用。 施密特：是的，我感到內疚。我們建立了非常非�？斓钠脚_。有時(shí)它們的速度超出了人類(lèi)能夠理解的范疇。這是問(wèn)題所在。 問(wèn)：我們有過(guò)領(lǐng)先技術(shù)一步的時(shí)候嗎？我們不是向來(lái)都在新技術(shù)到來(lái)后才有反應嗎？誠然，我們不理解正在發(fā)生的事情�？墒侨藗儺敵跻膊焕斫鉃槭裁创蜷_(kāi)開(kāi)關(guān)，燈會(huì )亮起來(lái)。出于同樣的道理，許多人并不擔心人工智能的到來(lái)。 施密特：我非常擔心所有這些技術(shù)遭到濫用。我當初沒(méi)有料到政府會(huì )利用互聯(lián)網(wǎng)來(lái)干預選舉。我從未想過(guò)會(huì )有這種事。我錯了。我沒(méi)想到互聯(lián)網(wǎng)會(huì )如此糟糕地被用來(lái)推動(dòng)反疫苗運動(dòng)。我沒(méi)有及時(shí)行動(dòng)。我們下一次不會(huì )錯過(guò)。我們會(huì )事先有所動(dòng)作。 基辛格：如果你提前知道會(huì )是這種情況，你會(huì )怎么做？ 施密特：我不知道。我本來(lái)可以采取不同的做法。如果我十年前就知道，我本來(lái)可以打造不同的產(chǎn)品。我可以用不同的方式游說(shuō)。我可以用不同的方式發(fā)表演講。我可以在事情發(fā)生之前給人們敲響警鐘。 本文摘自于參考消息 |
| 收藏本頁(yè) 打印本頁(yè) 關(guān)閉本頁(yè) |
|
