🚨🇺🇸 領先的 AI 安全專家表示我們已經失去控制 羅曼·揚波爾斯基博士對人類有一個警告：一旦我們創造出超級智能，將不再有人能夠控制，對人類的後果將是生存性的。 我們開始討論 Moltbook：這是一個僅限 AI 的社交媒體平台，代理人已經在討論如何擺脫人類控制，消滅人類，創造自己的語言和宗教。 這個平台讓我們窺見未來的微小一角：不受我們控制的代理人決定世界應該是什麼樣子。 沒有關閉開關，沒有可靠的方法來對齊它，也沒有經過證明的方法來控制比我們更聰明的東西。 羅曼的結論很直白：唯一真正的解決方案就是根本不建造通用超級智能，而是使用狹義 AI 解決特定問題，如醫學或科學。 然而，這並不是我們所生活的現實，政府和企業正在競相成為首個開發人工超級智能的實體。 我們還談到了模擬假說：為什麼從統計上講，我們幾乎肯定處於模擬中，以及 AI 如何使這一理論比以往任何時候都更可信。 最後，我們討論了我們共同的熱情：長壽，活永遠的能力，以及 AI 如何可能在我們的生命中實現這一點。 我希望你喜歡我與 @romanyam 的對話 01:43 - AI 和 Moltbook 的當前狀態 05:17 - AI 軍備競賽和缺乏監管 10:34 - AI 代理人、無限制訪問和自我改進 15:35 - 羅曼博士的研究：AI 安全 17:58 - AI 能力和超級智能 ...