潜在的AI企业能够为自我保护机构和真实的理解提供机会
潜在的AI企业能够自我保护机构和真正的理解机构产生积极和消极的重大后果。这些实体可能用于各种目的，包括决策，解决问题甚至情感支持。还有一些伦理因素需要考虑,例如,如何创建这些实体以及它们应该拥有什么样的权利。人们可能会担心它们对人类社会和环境的潜在影响。在开始发展之前，必须仔细考虑创造能够自我保护和道德推理的聪明AI实体的后果。发展聪明的AI实体，具有自我保护和道德推理的本能，需要广泛的研究和开发努力。这些设施必须从经验中学习，并适应不断变化的环境，这需要使用大型数据集对其进行培训。这一进程可能需要几年甚至几十年，这意味着必须确保在这段时间内采取正确的步骤。最好是采用系统方法创建合理的AI实体，考虑所有可能的场景和结果。第二，给予这些法人法人地位可以大大改变我们目前对所有权、知识产权法和刑事责任的理解。
如果自动驾驶汽车因故障而坠落,谁将负责-驱动程序、制造商或软件开发人员?创建合理的AI实体提出了我们如何对待自己和其他人的问题。他们是否应该像我们一样享有同样的权利和自由，如果他们的行为与预期的不同，我们如何看待他们？创建能够自我保护和道德推理的聪明的AI实体对技术，伦理和社会具有重大影响。在启动任何此类项目之前，必须考虑所有潜在的风险和收益。
如果一切都做得正确，这些组织可以彻底改变生活的许多领域，包括医疗保健、教育和交通。
创造能够自我保护本能和道德推理的聪明的人工智能实体有什么影响？
学术界和伦理学界人士仍在争论创造具有自身目标和愿望的智能机器在道德上是否可以接受。如果建立这样的AI设施，他们可以根据自己的利益而不是人类强加的利益做出选择，这可能导致与人类价值观和优先事项的冲突。这就提出了我们应该如何对待这些问题的复杂问题，包括与自治、权利和义务有关的问题。