清华副教授：ChatGPT不能实现非0即1精确计算 存在安全问题

4月8日获悉，由中国人工智能学会主办的“人工智能大模型技术高峰论坛”主论坛在杭州萧山启幕。论坛上，清华大学长聘副教授、聆心智能创始人、国家杰青获得者黄民烈发表了演讲。

黄民烈表示，ChatGPT存在不足和缺陷，比如，无法实现数学计算和符号推理，具体表现为无法实现非0即1的精确计算。

由于ChatGPT本质上是一个语言模型，其体现的能力来源于对训练数据的拟合，它的运行机制中并没有显式的逻辑推理与判断，存在准确性、安全性等方面的问题。

此前，澳大利亚墨尔本西部赫本郡的市长就指控ChatGPT对其进行诽谤，因为该聊天机器人在回答问题时错误地声称他是某些丑闻的有罪方。

另外，之前也有不少体验过的用户吐槽，ChatGPT很多时候在遇到无法检索的问题时，会强行编造出来一个回答，看似语法顺畅，但信息全都是胡编乱造。