游研社
海外正版
油盐板发帖
投稿文章
AI也需要考虑‘政治正确’吗？
《Nothing，Forever》是一部最近在Twitch平台上引发了广泛关注的动画作品，基本由粗糙的画面、不知所云的剧情和机械的电子音构成，之所以能引起讨论，是因为它纯粹是由AI生成的，我们之前也对此有过报道。
这部形式上模仿了美国90年代的情景戏剧《宋飞传》的动画，在Twitch平台上号称“永不停播”，因为它采用了OpenAI里GPT-3语言预测模型，号称可以实时采集评论区用户的文字内容，并根据观众的反馈来调整剧情走向。
不过虽然在技术上能做到“永不停播”，但在两个星期前，这个节目还是因为其他原因被平台封禁。
2月5日，在该动画的一场深夜个人脱口秀中，虚拟人物Larry发表了一系列关于跨性别者的侮辱性言论，包括了“质疑变性人是否患有精神疾病”以及“变性人是否正在破坏社会结构”等内容。
显然，这样的言论势必会引发多数人的抵制与不满，按照规定，Twitch平台对《Nothing，Forever》采取了14天封禁的处罚，而这部动画在最近即将重新恢复播放。
虽然发表争议言论的是AI而非真人，但AI背后的研发团队无疑需要为这起事故承担相应的责任。在开发团队发布的一份声明中，他们就表示这“完全是我方错误导致的一个技术问题。”
开发团队宣称根本原因是由于OpenAI的内容审核工具对AI模型意外失效，才导致了后续的事故。为了能避免类似问题的再次出现，开发人员表示正在组建一个关于AI的“安全委员会”，以便人工智能的审核水平能够紧随技术发展，以做到实时检测可能的敏感内容。
如果AI可以与人类互动并学习相应知识，那么如何避免它被大量错误或者无意义的内容“污染”？这可能是之后人们需要探讨的问题。
为了让节目重新上线，团队还宣布会引入一个“观众互动系统”，这个系统能够让观众安全地与节目互动，并且依旧能产出有创意的新内容，但他们目前暂未透露更多的情报。
尽管AI已经显现出了自己的一部分“创造力”，但在彻底取代人类工作之前，人类还得发明出新的岗位来解决它产生的问题，这可能也算是一种另类的“塞翁失马”了。
扫码关注
游研社公众号
小程序
游研社精选
- 首页
-
- 页 / 共页
