当前位置:行业 > 正文
预防网暴,抖音:国内首家上线“评论发文警示”等功能
2022-02-26 07:16:58 来源: IT之家

IT之家 2 月 26 日消息,抖音官方本周发布公告宣布多举措预防网暴,首家上线“评论发文警示”等功能。

公告显示,抖音全面升级平台预防网暴能力,为用户提供了 8 项功能,全方位管理评论和私信。其中,针对不当私信,新上线“风险提醒”和“负向内容过滤”等功能;针对已发送的不当评论,即将上线国内首个“发文警示”功能,进行拦截。

数据显示,抖音每天产生 8 亿条评论,其中,被投诉、举报并最终处理的不当评论中,“谩骂,人身攻击”占比 32.79%。

IT之家了解到,针对评论,抖音即将上线国内首个“发文警示”功能。该功能下,若系统模型判定已经发送的评论存在问题,则会推送弹窗提醒,建议发送者重新编辑,去除不当言论。如果发送者坚持发送,则该条评论不会在评论区出现。近期,该功能已开启小范围测试。

此前,抖音已上线“评论权限分层管理”“关键词屏蔽”“评论精选”三项功能。在“评论权限分层管理”下,用户可通过“权限设置-高级设置-谁可以评论”设置评论权限,根据自身需求从“所有人”“仅粉丝”“仅互关朋友”“仅自己”四个选项中,自主选取谁可以对自己发布的内容进行评论。

私信方面,抖音新增“用户风险提醒”和“负向内容过滤”两大功能。在“用户风险提醒”功能下,当系统模型识别发现,用户刚接收的陌生人私信存在风险时,会对用户推送弹窗,提示其“是否认识该用户”。如果用户选择“不认识”,系统会再次弹窗,提示用户可进行“拉黑、举报、移除粉丝”等操作。目前,该功能日均会对 25 万次会话发出风险提示。

在“负向内容过滤”功能下,当模型判定用户收到的私信消息为“谩骂或骚扰”,该消息会被直接放入“陌生人盒子 — 垃圾信息”中。此外,抖音还推出了“心情暖宝宝”助手,可以根据用户内容情绪倾向,通过消息对话的交互方式,缓解用户负向情绪。

标签:

责任编辑: jkl2