前天我們發(fā)布了關(guān)于OpenAI宮斗大戲的事件經(jīng)過，雖然事件以Sam重歸CEO告一段落，但是董事會為何突然罷免Sam依然是一片疑團(tuán)。

不過就在昨天，路透社援引兩位知情人士的話透露，在 OpenAI 罷免阿爾特曼之前，曾有多名研究人員向董事會發(fā)出了一封信，警告稱其人工智能領(lǐng)域的一項技術(shù)取得了突破，而它被發(fā)現(xiàn)可能會威脅到人類。消息人士稱，這封以前未報道的信件和人工智能算法是董事會罷免 Altman 的一個關(guān)鍵線索，也是董事會對 Altman 的諸多不滿的因素之一。

路透社還提到，OpenAI 在發(fā)給員工的內(nèi)部信息中承認(rèn)了一個名為 Q * 的項目，并在 Altman 被開除之前致信董事會。OpenAI 的一位發(fā)言人表示，上述內(nèi)部信息是由長期擔(dān)任高管的 Mira Murati（OpenAI 前 CTO，在混亂之初曾被任命為臨時 CEO）發(fā)布的，目的是提醒員工注意某些媒體報道，但不評論其準(zhǔn)確性。

Q * 的發(fā)音為 Q-Star，網(wǎng)絡(luò)上一些人士認(rèn)為，OpenAI可能已經(jīng)在AGI的研發(fā)升級上又有了一次重大突破或者發(fā)現(xiàn)。

Q-Star是否真的有那么神奇，目前還沒有更多信息可以判斷，有一些短視頻博主通過Copilot來判斷，ChatGPT隱藏的能力越來越可怕，自主意識越來越強(qiáng)。據(jù) The Information 報道，神秘模型 Q-Star 是由 OpenAI 的兩位頂級研究人員 ——Jakub Pachocki 和 Szymon Sidor—— 基于 OpenAI 首席科學(xué)家 Ilya Sutskever 的研究成果構(gòu)建的。在 Altman 被開除后，二人也成了首批辭職的高級員工之一。

而這似乎也可以說明為何Sam會沒有任何征兆地被罷免而無法向外說明具體原因。

另外這也從側(cè)面解釋了為何首席科學(xué)家IIya會投票罷免老戰(zhàn)友Sam，基于他了解AGI突破帶來的影響，以及一直以來他對外表達(dá)的對AGI安全的擔(dān)憂。

其實(shí)IIya是ChatGPT之父或許更加貼切，他是最早卷積網(wǎng)絡(luò)算法的三個作者之一，谷歌Deepmind的核心成員，也是AlphaGo的作者之一。

IIya

作為一個低調(diào)的科學(xué)家，如果不是因?yàn)檫@次宮斗，恐怕很多人還不認(rèn)識他。

從他不多的公開發(fā)言的視頻來看，他很早就在思考通用人工智能AGI到底能給人類帶來什么。

一方面他對人工智能不斷突破后的發(fā)展速度毫不懷疑，另外一方面，他對通用人工智能的風(fēng)險又有著深深的擔(dān)憂。

他的理由是，通用人工智能技術(shù)的發(fā)展和自然生物的發(fā)展有著一樣的趨勢。他認(rèn)為，AGI可能會像一種新生物一樣發(fā)展。

如果不在底層編程上加以控制，AGI的發(fā)展就如同生物的進(jìn)化一樣，會朝著將自己的生存放在首位的方向發(fā)展。

他認(rèn)為，通用人工智能如果不加以管控，未來它看人類就像人類看其他動物一樣，通用人工智能并不會憎恨人類，但是它可以為了自己而無視人類。

他打了一個比方，人類可以愛動物，但并不會因?yàn)閻蹌游锒�在修建高速的時候咨詢一下動物的意見。

這就好像三體里黑暗森林一樣，當(dāng)其他星球的生命暴露自己時，你肯定會優(yōu)先考慮自己的安全。

IIya認(rèn)為，如果通用人工智能被利用作為武器，或者被用來實(shí)施犯罪，那對人類來說是災(zāi)難。

整體來說，他對人工智能的發(fā)展是充滿信心的，但是他對人類的命運(yùn)似乎又有一些悲觀，他希望屆時AGI能對人類好一點(diǎn)。這種既想探索前沿又對新技術(shù)充滿警惕的想法值得稱贊，但也解釋了他一開始罷免Sam，后續(xù)又歡迎Sam回歸的糾結(jié)。

作為一個頂尖科學(xué)家，他一定想真的看看到底AGI能發(fā)展到什么程度，但又害怕OpenAI面臨當(dāng)年奧本海默一樣的情況。

所以，在今年 7 月，他組建了一個「超級對齊」團(tuán)隊，致力于讓強(qiáng)大的 AI 系統(tǒng)遵循人類的意愿，而不是傷害人類。

但不管如何，人類已經(jīng)打開了潘多拉魔盒，即便一部分人提出了擔(dān)憂并行動了起來，但利益的驅(qū)動還是可能讓人類像當(dāng)年的原子彈軍備競賽一樣不斷挖掘AGI的能力。

而我們對待這種可能會有自主意識但又十分強(qiáng)大的新技術(shù)有著非常糾結(jié)的心態(tài)，怕它不來，但是又怕它亂來。未來到底會如何，我們只能希望OpenAI及其投資人能否真的在底層邏輯上控制好AGI了。

       原文標(biāo)題 : 神秘的Q-Star項目，人工智能再次突破引發(fā)恐慌？