科学与伦理“大碰撞”

尹传红

谁扼人工智能善恶手

英国数学家欧文·约翰·古德大概是清晰阐述人工智能未来图景的第一人，他于1965年指出：我们把超智能機器定义为具备超越所有聪慧人类智能活动的机器。一旦机器设计成为一项智能活动，那么，超智能机器就能设计出更好的机器。毫无疑问，肯定会出现诸如“智能爆发”这样的局面，人类智能会被远远地甩在后面。因此，第一台超智能机器将是人类制造的最后一台机器，如果这台机器不是足够听话并告诉我们要怎样才能控制它的话。

当然，人们对人工智能的未来所抱持的态度，并不都是忧心忡忡。美国未来学家约翰·黑文斯就提议，我们要以好奇心、笑声与欢乐去迎接未来，而不是恐惧、忧郁和害怕。前不久，李开复在为青年作家郝景芳的科幻小说集《人心彼岸》所作的推荐序中表示，他反对任何关于人工智能终将毁灭人类的说法。

李开复认为，在未来数十年，人工智能还不能独立进行“类人”的常识性推理、跨领域的理解、充满创造性和策划性的工作，它们也不会拥有自我意识、情感及人类的欲望。也有不少学者指出，人工智能距离拥有自我意志、能够对自身进行设计改造，进而奴役或征服人类，尚有天地之遥。

然而，不管怎么说，当我们能够制造的东西可以摧毁我们的世界和人类自身时，进步就过了头。就算能够预测到那些“邪恶”力量可能带来的影响，人类有能力对之实施监管并规避可怕的后果吗？……