(资料图)

【CNMO新闻】此前,马斯克曾大胆放话称,AI能导致人类文明毁灭。此言乍一听确实有一些夸张成分,但是其隐含的警示意味仍然应该引起重视。近日,CNMO了解到,曾担任OpenAI安全研究员保罗·克里斯蒂亚诺发出警告,提醒人们人工智能可能最终会导致人类终结。

人工智能

保罗·克里斯蒂亚诺在一个播客节目中说道:“我认为人工智能取代人类的可能性大约为10-20%,我们需要非常严肃地对待这个问题。”他认为,AI消灭人类的最可能方式是将日常生活中部署的所有AI联合起来,而不是突然消灭人类。人类的终结不是一场突如其来的事件,而是人工智能逐渐地崛起,其通过AI控制自动驾驶汽车、无人机等科技领域逐渐毁灭人类。不要觉得这是危言耸听,当AI超越人类智商阈值时,这一切皆有可能。

人工智能

此外,CNMO了解到,保罗·克里斯蒂亚诺的新非营利组织Alignment Research Center致力于人工智能对齐的概念,即让机器的动机与人类的动机保持一致。该概念早在2018年就被广泛定义,并被认为对于防止人工智能毁灭人类的可能性至关重要。虽然OpenAI声称,旨在使人工智能与人类价值观保持一致,并遵循人类意图,但这仍需要进行更多的研究和开发,以确保安全地开发人工智能。

值得一提的是,此前,被称为人工智能先驱、人工智能教父的杰弗里·辛顿在接受采访时表示,AI对人类的威胁可能要比天灾造成的影响更为广泛。

推荐内容