机器人不得伤害人类,或坐视人类受到伤害;
机器人必须服从人类命令,除非命令与第一法则发生冲突;
在不违背第一或第二法则之下,机器人可以保护自己。
首先,Alfonseca 预计强人工智能的关键时刻还很遥远,他说道:「至少还有两个世纪。」
其次,人们所说的通用人工智能,或强人工智能在理论上是否可行,其实也是未知数。「这是指能像人类一样能够处理多个领域任务的机器。」
最后,Alfonseca 说道:「我们还没有证明超级人工智能永远无法控制,我只是说它们不能被永远控制。」
Auto Byte
专注未来出行及智能汽车科技
微信扫一扫获取更多资讯
Science AI
关注人工智能与其他前沿技术、基础学科的交叉研究与融合发展
微信扫一扫获取更多资讯
计算的能力是有极限的,但因此,人类无法控制超级人工智能。
机器人不得伤害人类,或坐视人类受到伤害;
机器人必须服从人类命令,除非命令与第一法则发生冲突;
在不违背第一或第二法则之下,机器人可以保护自己。
首先,Alfonseca 预计强人工智能的关键时刻还很遥远,他说道:「至少还有两个世纪。」
其次,人们所说的通用人工智能,或强人工智能在理论上是否可行,其实也是未知数。「这是指能像人类一样能够处理多个领域任务的机器。」
最后,Alfonseca 说道:「我们还没有证明超级人工智能永远无法控制,我只是说它们不能被永远控制。」
在学术研究领域,人工智能通常指能够感知周围环境并采取行动以实现最优的可能结果的智能体(intelligent agent)
强人工智能或通用人工智能(Strong AI或者 Artificial General Intelligence)是具备与人类同等智慧、或超越人类的人工智能,能表现正常人类所具有的所有智能行为。强人工智能是人工智能研究的主要目标之一,同时也是科幻小说和未来学家所讨论的主要议题。相对的,弱人工智能(applied AI,narrow AI,weak AI)只处理特定的问题。弱人工智能不需要具有人类完整的认知能力,甚至是完全不具有人类所拥有的感官认知能力,只要设计得看起来像有智慧就可以了。由于过去的智能程式多是弱人工智能,发现这个具有领域的局限性,人们一度觉得强人工智能是不可能的。而强人工智能也指通用人工智能(artificial general intelligence,AGI),或具备执行一般智慧行为的能力。强人工智能通常把人工智能和意识、感性、知识和自觉等人类的特征互相连结。
通用人工智能(AGI)是具有一般人类智慧,可以执行人类能够执行的任何智力任务的机器智能。通用人工智能是一些人工智能研究的主要目标,也是科幻小说和未来研究中的共同话题。一些研究人员将通用人工智能称为强AI(strong AI)或者完全AI(full AI),或称机器具有执行通用智能行为(general intelligent action)的能力。与弱AI(weak AI)相比,强AI可以尝试执行全方位的人类认知能力。