回顧過去，我們可以看到歷史上各個時期涌現(xiàn)出的眾多超越時代的新公司、新產(chǎn)品、新思維和新模式。盡管絕大多數(shù)創(chuàng)新產(chǎn)品最終都失敗了，但先行者們致力于要解決所在時代各種問題和困難的精神，卻影響著下一代的技術(shù)進步，并為這些問題的最終解決鋪平了道路。

到了今天，我們比以往任何時期都更依賴于技術(shù)。而且，隨著這種趨勢的繼續(xù)加劇，我們未來使用的技術(shù)會比現(xiàn)在更多。

然而，隨著對技術(shù)依賴性的增加，與之相關(guān)的突破點會同時增加，而與之相關(guān)的問題也會隨之出現(xiàn)。

此外，現(xiàn)代技術(shù)總是比相關(guān)的監(jiān)管政策或法律要早幾年出現(xiàn)，并且新技術(shù)會以迅雷不及掩耳之勢在社會蔓延開來。新技術(shù)成長與政策監(jiān)管的時間差會導(dǎo)致很多意想不到的事情發(fā)生，當(dāng)我們的創(chuàng)新不再失敗時會發(fā)生什么？或者如果一次出現(xiàn)太多失敗時，又會發(fā)生什么？

1．奇點與失控的技術(shù)

技術(shù)是把雙刃劍。即使隨著我們自動化管理自身行為的能力提高，例如物聯(lián)網(wǎng)、人工智能和大數(shù)據(jù)等新技術(shù)讓我們把很多模糊的事情變得數(shù)據(jù)化、精準(zhǔn)化、可預(yù)測，但這些技術(shù)背后也可能潛伏著很多的錯誤和風(fēng)險。并且，新技術(shù)應(yīng)用的程度越深、越廣，各種錯誤發(fā)生的潛在可能性也就越大。

近日，著名未來學(xué)家托馬斯·弗雷（Thomas Frey）對人類技術(shù)發(fā)展可能引起的災(zāi)難，也就是“技術(shù)啟示”或“技術(shù)末世”（techno－apocalypse）進行了預(yù)判和分析，并提出了有價值的警示和反思。

目前，大多數(shù)關(guān)于技術(shù)啟示的理論傾向于基于某種形式的奇點。技術(shù)奇點是一個根據(jù)技術(shù)發(fā)展史總結(jié)出的觀點，認(rèn)為未來將要發(fā)生一件不可避免的事件：技術(shù)發(fā)展將會在很短的時間內(nèi)發(fā)生極大的接近于無限的進步。

一般設(shè)想技術(shù)奇點由超越現(xiàn)今人類并且可以自我進化的機器智能或者其它形式的超級智能的出現(xiàn)所引發(fā)。因此，最終技術(shù)的發(fā)展會完全超乎全人類的理解能力，并將導(dǎo)致人類社會出現(xiàn)不可想象的變化。

20世紀(jì)50年代，計算機科學(xué)家和物理學(xué)家約翰·馮·諾伊曼首次提出了“奇點”的概念。進入到21世紀(jì)，美國哲學(xué)家雷·庫茨維爾的著作《奇點臨近》再一次把這一概念推到聚光燈下。與此同時，更多世界級科學(xué)家和企業(yè)家都關(guān)注奇點，并表達了自己的觀點。

包括斯蒂芬·霍金、比爾·蓋茨和埃隆·馬斯克在內(nèi)的一些行業(yè)領(lǐng)先者都對人類未來發(fā)出了警告，認(rèn)為我們需要警惕超越人類智慧的超級智能會擺脫人類控制并摧毀人類。

現(xiàn)代社會注重“進步”這一概念，即通過增益和減少的平衡尺度來扭轉(zhuǎn)有害的方向，控制著事件向我們認(rèn)為“正確”的方向發(fā)展。

對于所有的技術(shù)進步，我們首先會聚焦在積極、正面的方向進行審視，但這種技術(shù)“進步”方式有時可能會有所幫助，但也可能掩蓋某些隱藏的缺點，最終可能會出現(xiàn)“好心辦壞事”的局面。

我們現(xiàn)在已經(jīng)擁有強大的能力去感知和監(jiān)測變化，諸如降低全球大流感、生態(tài)崩潰、核戰(zhàn)爭、小行星撞擊和氣候變化等風(fēng)險。但在托馬斯·弗雷看來，人類面臨的最大風(fēng)險是不正常的人類行為，而這種行為越來越受到技術(shù)的影響。隨著安靜的心靈受到貪婪的侵蝕，我們冒著惡化的風(fēng)險進入到一個生存主義社會。在這個社會中，我們最需要提防的是信任的缺失。

2．未來技術(shù)啟示的五種場景

托馬斯·弗雷預(yù)測了未來需要預(yù)防的五個技術(shù)啟示場景，這些場景可以讓更多人了解技術(shù)失控造成的危害。

極端隱私失敗

激進的透明度倡導(dǎo)者向人們宣傳構(gòu)建在數(shù)字化模型世界中的幸福生活，并認(rèn)為如果我們都知道每個人的所有數(shù)據(jù)，我們將創(chuàng)造出一個更加安全的社會。但是，事實并非如此。

當(dāng)我們了解鄰居的一切時，這意味著我們也知道他們的信用卡號碼、銀行帳號和密碼。當(dāng)這種情況發(fā)生時，我們很快就會失去“擁有東西”的能力，而所有權(quán)是現(xiàn)代世界所依據(jù)的基本權(quán)利。

因此，當(dāng)劍橋數(shù)據(jù)公司的分析人員使用Facebook賬戶瀏覽人們的個人電腦時，不僅發(fā)現(xiàn)了犯罪數(shù)據(jù)，而且還發(fā)現(xiàn)了可竊取的資產(chǎn)和可再分配的個人財富形式。

對于那些試圖創(chuàng)造一個新的世界秩序的人來說，很容易想象到通過這種后門方法來重寫“人類的所有權(quán)代碼”，而這勢必將導(dǎo)致一個非�；靵y和功能失調(diào)的世界。