生成式AI发展在过去几年突飞猛进,越来越多令人惊叹的成果展现在世人眼前,这不仅展示了技术的强大潜力,也引发了关于AGI(人工通用智能)与ASI(人工超级智能)是否可能实现的讨论与深刻忧虑。
AGI:指具备类似人类智能的人工智能,能够在多种不同领域中执行任务,而不仅限于特定的应用。
ASI:指超越人类所有智能层次的人工智能,不仅在特定领域具有卓越的能力,还能全面性在每个方面超越人类。
OpenAI执行长SamAltman今年9月曾撰文预测,再过几千个日子,ASI就会问世,ASI将超越AGI,处理智能任务的能力会远比人类强大。
Grimes:对ASI感到害怕
而加拿大知名女歌手Grimes21日有感而发地发推表示,当她观察Janus等AI项目的成果后,她认为AGI(人工通用智能)已经在某种程度上实现,并称自己对ASI(人工超级智能)有点害怕:至少是按照我的描述方式来看,我不知道,我显然不是技术专家,只是一个缺乏基本知识的人,大家不应该太认真看待我的话,但这就是我的感受。其他人也有同感吗?我其实不害怕AGI,但对于ASI(人工超级智能)有一点害怕,这两者似乎是完全不同的里程碑,不过,至少可以说,我相信我曾感受到智能意识的存在,但再强调一次,作为缺乏基本知识的人,我可能过度拟人化了AI。
V神有同感、盼勿打造超级智能生命
对此,以太坊共同创办人VitalikButerin回应,他对AGI的定义是:AGI是足够强大的人工智能,如果某天所有人类突然消失,且该AI被上传到机器人躯壳中,它将能够独立延续文明。
VitalikButerin坦言,这是个非常难以衡量的定义,但他认为,这正是很多人脑海中「我们习惯的AI」和「AGI」之间潜在的直观差异,也就是从一个不断依赖人类输入的工具,转变成一个自给自足的生命形式:ASI则完全是另一回事,我对ASI的定义是,当人类在循环中不再对生产力产生价值的时候(就像在棋类游戏中,我们其实是在过去十年才达到这一点)。
VitalikButerin最后表示,ASI让我感到害怕,他所定义的AGI也让她害怕,因为它带来明显的失控风险,因此,他支持将工作集中在为人类打造智能增强工具,而不是建构超级智能生命形式。