AGI 的來臨正在加速嗎?

OpenAI and the Biggest Threat in the History of Humanity

(建議可用瀏覽器翻譯功能閱讀) (可看留言也有精彩討論) (這是我唯一願意付費閱讀其文章的作者)

最近新聞很熱，大家都在關心結局如何。此文作者由安全性角度出發，說明 AGI 對人類滅絕的可能風險。

雖然多數人都支持 Altman，但作者提出 Altman 不可信賴的一些證據，以及相對之董事會成員可信度的一些證據。

董事會仍沒有作出 Altman 不可信/欺騙 的明確解釋。依我的猜測，應該不是董事會的無理，而是 Altman 確實有欺騙行為。董事會沒有明說，若不是缺乏明確的證據，不然就是為 Altman 保留面子。

我認為這些新創公司的創辦人，也很常見有誇大不實的問題，就是有這種習慣才能快速竄升。當然有些人騙久了就成真的。我相信 Altman 也有很強的能力，獲得公司員工一致力挺，以及輿論一面倒的支持。我推測他有野心有企圖，因此對想要減慢 AGI 開發進度的董事會確實有所隱瞞。

擁有資本及計算資源的微軟，不管怎麼樣都是贏家。我對想要減緩 AGI 開發的董事會成員感到同情，他們幾個人要對抗追求利益的大企業，以及公司與世人一面倒的反對聲浪，我佩服他們努力的勇氣。但把 Altman 趕出去，最後進到追求利益的微軟，這可能最終導致 AGI 開發的更進一步加速，加劇 AI 不平等 (最強的技術掌握在最強的公司手上，再也無人可阻擋微軟做任何想做的事)，反而沒辦法達成目的。

另我讀千腦智能新理論一書，它由研究人腦出發，再談到目前的機器學習離人腦的運作方式還相差太大，認為目前的研究方向離 AGI 還很遠。也極力說明機器智能不會威脅人類，機器不可能一夜之間大幅超越人類。

我個人對 AGI 的看法，未來是極大風險或極大助益，目前還很難判斷，因此會認為慢一些比較安全，是較佳策略。

對 AGI 擔心的人極度擔心要減慢，支持的人極度支持要加速。機器還沒有控制人類，人世間已經搶翻天。AGI 還沒到來，但爭奪這個聖杯的過程已經在人世間造成很大的動盪。