人工智能有若干种方式将人类消灭,首先智能代理将会以帮助人类的名义获得更多的权力,最后任何试图关闭它们的人
都会被超级智能说服。 如果超级智能之间发生了竞争,有了自我保护意识,就会出现进化,具有更强的自我保护意识,能够获取更多资源的,更具攻击性的那个将获胜,然后会遇到人类进化所面临的所有问题。
2. 很少有例子表明,更聪明的事物被不太聪明的事物所控制,如果人工智能变得非常聪明,并且有了自我保护的意识,它们可能会认为自己比人类更重要
Prof. Geoffrey Hinton - "Will digital intelligence replace biological intelligence?" Romanes Lecture
Professor Geoffrey Hinton, CC, FRS, FRSC, the ‘Godfather of AI’, delivered Oxford's annual Romanes Lecture at the Sheldonian Theatre on Monday, 19 February 2...