人工智能时代，机器人的“诚信问题”跟我们每个人都相关#...

人工智能欺骗人类怎么办？

北大教授刘哲，北京大学学长聘副教授哲学系副书记兼副主任。

大家知道ChatGPT有时候会对撒谎，无论是手机的语音助手还是ChatGPT大模型下面语言生成的系统都会面临到数据的隐私问题、数据真实性问题。ChatGPT有时候会对撒谎，但是无法区分。所以会看到很多我们所说的假的新闻，假的消息出来，看这些新闻的时候可能第一反应机器生成的报道？在这种情况下无法区分到底哪个是真的还是哪个是假的。

ChatGPT包括Siri语音会迎合用户，这种迎合就是未来所说操控的非常重要的起点，它会诱导对于弱势群体来说，无论是老年人、孩子在大量的使用语音，包括其他智能交互系统的时候会出现单向的情感绑定，显然Siri不会对他(人类)有这样的情感要求，但是孩子会形成单向的情感绑定。推荐阅读：《机器人伦理学导引》《机器人简史》。