数学家约翰·冯·诺依曼提出一种猜想，机器人被称为“冯·诺依曼机器”，可以进行自我复制，如果它们产生了意识，那么人类有可能被机器人所操控。如果机器人形成意识，那么人类的地位可能不保。
对于意识的判定，科学家和哲学家的观点有点不同，我们头脑中的精神思想状态承载着庞大的神经回路，并进行复杂的计算。那么一台电脑可以是有意识吗?
伯克利大学哲学家约翰·塞尔发现计算机程序不能有自己的意识，或有人的意识感觉，即使他们产生相当的行为与外部世界进行交换，但意识要形成仍然需要很长的时间。麻省理工学院名誉教授罗德尼·布鲁克斯发现，我们没有理由不能成为由硅制成的机器。
那么我们能够正确评估意识是否出现呢?普林斯顿大学的神经科学家迈克尔·格拉齐亚诺认为当一个机器人有意识后，就可以谈谈自己的认识，与人类进行互动式交流，具备认知的能力。
不过这涉及到一些生物上的基本意识，但也可能出现非生物的意识层面，或许能够允许智能机器人产生意识。加州大学洛杉矶分校的脑研究所科学家推测可以是一种特定的组织，但无法在非生物系统中被复制出来。
这就是说，意识非生物体内无法出现。对于一个有意识的机器人，他们超强的AI将远远超过人类的智慧，因此有能力对宇宙进行探索。人类在探索宇宙中会遇到各种难题，比如生命维持系统的造价昂贵，载人航天任务目前仍然局限于近地轨道。一旦机器人拥有意识之后，它们完全可以取代人类对宇宙其他星球进行殖民。
意识需要一个彻底独立的、非物质的基本承载体，一旦身体的死亡和脑死亡的发生，意识也会“消失”。如果是非物质承载物具有了意识，那么在神学上我们称之为灵魂，超强的人工智能可能出现意识的，如果意识完全是物理的，那么就有被机器人承载的可能性。
