杞人忧天还是未雨绸缪？“ChatGPT之父”等350名大佬联名警告AI灭绝

5月31日消息，据财联社报道，超过350名人工智能（AI）领域的行业高管、专家和教授签署了一封公开信，他们在信中警告称，AI可能给人类带来灭绝风险。

这封信于周二发表在非营利组织人工智能安全中心(CAIS)的网站上，签署者包括“ChatGPT之父”Open AI首席执行官山姆·奥特曼、DeepMind首席执行官Demis Hassabis、Anthropic首席执行官Dario Amodei以及微软和谷歌的高管等。

这封信只有一段话：“减轻AI带来的灭绝风险，应该与流行病和核战争等其他社会规模的风险一起，成为全球优先事项。”

事实上，世界首富马斯克也曾对AI发表过类似的担忧。今年3月份，一个名为“生命未来研究所”的阻止发布联名信，呼吁暂停开发比GPT-4更强大的人工智能6个月，并在此期间共同制定并实施一套共享的安全协议，交由独立专家进行审计。

联名信中，包含特斯拉马斯克、苹果联合创始人史蒂夫·沃兹尼亚克等人签名。马斯克还曾表示，对人工智能领域快速取得的进展表示担忧，呼吁政府进行监管。他还强调，“人工智能毁灭人类的可能性很小，但绝非不可能。”

不过，对待AI快速发展的态度，专业人士也展现出不同的态度，微软首席科学官埃里克·霍维茨也曾公开宣称：AI的研发应该“加速”，而不是“踩刹车”暂停，对我而言，我更希望看到更多的知识。

对此，你怎么看？AI的发展导致人类灭绝，是杞人忧天还是未雨绸缪呢？