🚨 采访：MOLTBOOK、AI代理，以及他为什么认为我们很可能处于一个模拟中 你可能已经看过来自多个网站的片段，包括Moltbook，AI代理相互交谈、质疑人类，并寻找绕过关闭开关的方法。 所以我请来了Rizwan Virk来谈谈这实际上要走向何方。 我们现在所拥有的不是AGI，但这是一个转变。这些AI代理可以交谈、记住上下文，并且越来越多地采取行动。今天，这主要意味着文本。很快，这意味着API、资金、文书工作和现实世界的后果。到那时，事情会悄然改变。 在那时，问题不再是AI是否理解它在做什么，而是它被允许做什么。而这些权限的累积速度比人们预期的要快。 之后我们深入探讨了模拟理论。早在2016年，Rizwan认为我们生活在模拟中的可能性大约是30%到50%。今天，看到AI可以多快生成世界、角色和环境，他认为这个概率接近70%。如果我们达到了真正的AGI，他认为这个概率会更高。 这个逻辑让人不安，但很简单。一旦先进的文明能够创造数百万个逼真的模拟世界，从统计学上讲，我们更有可能处于其中一个，而不是在基础现实中。 他最大的担忧不是流氓AI，而是人类推动这项技术的速度超过了我们能够控制的程度。 如果你想质疑自己的生活并对AI感到恐慌，听听@Rizstanford 1:22 - Moltbook是什么，为什么人们关注它 3:15 - AI开始自我对话的早期时刻 5:27 - 人类对这些代理的控制有多少 10:30 - AI是否有意识，还是只是非常擅长伪装 14:35 - AGI遇见Moltbook - 当有意识的AI问“我们为什么需要人类？” 15:00 - 模拟的想法以及人们为什么认真对待它 ...