谢选骏：机器人是忠诚可靠的骗子

《华裔专家研发AI 五毛党水军要失业了》（2017-9-6香港经济日报）报道：

AI人工智能会否导致人类失业，这个话题近年闹得热腾腾，最新受波及的职业，可能是"五毛党"！有华裔专家正研究利用AI，生产网络评论。这可以为商家制造好评如潮的表象。

很多人在购物时，会参考其他人的网络评论，因此有商家会僱用一批网络评论员，于网上制造好评。这些评论员被称"水军"又或"五毛党"。

自动生成网评 人类分辨不到

然而，制造"五毛评论"就快毋须人手，可由AI人工智能代劳。

媒体报道，芝加哥大学计算机科学教授赵燕斌（Ben Y. Zhao）的团队，正进行《在线点评系统中的自动众包攻击和防御》研究；简单而言，就是用AI生成复杂的网络点评信息，使人类无法分辨出来。

这篇论文今年晚些时候，据称会在计算机安全顶级会议ACM CCS上展示。

已在亚马逊、Yelp测试

据称，AI"五毛党"使用的是一种称为RNN（循环神经网路）的深度学习技术，RNN会网络使用上千条真实在线点评，再进行自我训练。例如（中译）：

●我已经来过这儿好几年了，每次的体验都很好。
●服务很棒！这儿的人都挺友善。我一定会再来的！
●这个地方很不错！调酒师十分厉害。意大利面很好。
●我喜欢这个地方。和我哥一起去的。

研究人员表示，AI生成的点评已经做到了"以假乱真"，有600个用户参与的调查显示，这些虚假的点评不仅能逃过人类的法眼，而且还被用户认为有用。

研究人员已尝试在亚马逊、Yelp等网站下自动生成假评。但赵燕斌直指，这对整个社会是一个巨大的威胁，不但会让依靠点评信息的用户失望，而且会动摇人类对真实和虚假的信念。

谢选骏指出：五毛党为了小钱而出卖劳力，在这个过程中间也可能掺杂夹带一些私货，所以不是忠诚可靠的骗子。但是，恶意软件则分文不取、任劳任怨，所以把自己变成了忠诚可靠的骗子。机器人统治的社会，在细节上可能非常公正，但在大体上却可能非常邪恶，这就是现代文明所面临的绝境。科学和技术的发展，解决不了这个问题，只会加剧这个问题，直到世界的末了。