现在的AI是没有意识的,但凭借现在的技术,AI发展下去会产生意识
人工智能有若干种方式将人类消灭,首先智能代理将会以帮助人类的名义获得更多的权力,最后任何试图关闭它们的人
都会被超级智能说服。 如果超级智能之间发生了竞争,有了自我保护意识,就会出现进化,具有更强的自我保护意识,能够获取更多资源的,更具攻击性的那个将获胜,然后会遇到人类进化所面临的所有问题。
2. 很少有例子表明,更聪明的事物被不太聪明的事物所控制,如果人工智能变得非常聪明,并且有了自我保护的意识,它们可能会认为自己比人类更重要