抖音2024年网络黑产治理盘点：封禁600万黑产账号，升级AI技术打击欺诈

感谢IT之家网友席闯发布往事线索！

IT之家1月13日报道，抖音今日发布了2024年互联网黑色产业治理盘点。一年来，平台持续打击互联网非法产业链。通过升级AI大模型技术、迭代风控策略、优化举报机制等一系列措施，强化对非法网络产品的识别和管理能力，禁止欺诈、流氓、非法转流等行为。相关违法账户超过600万个，涉嫌违法犯罪线索已向相关部门提供。 IT之家附上官方介绍如下：

01、提前拦截欺诈信息，多渠道提醒用户谨防上当受骗。

2024年，假冒领导、假冒亲友、假冒官方客服将是最受关注的诈骗类型，尤其是假冒抖音客服的诈骗类型。他们采用多种方式拨打电话、发送短信、即时通讯软件拨号等方式与受害者直接沟通。逐步联系并引导对方共享屏幕或下载第三方APP、获取用户银行卡账户信息、诱导用户转账等。

订单欺诈、购物欺诈也是平台2024年重点打击的欺诈类型。诈骗分子利用招聘、兼职、发财等借口，或者冒充单身交友资料，诱导用户下载第三方软件实施诈骗；另一种类型的诈骗链接出售音乐会的内部门票，并赠送《小马宝莉》卡片。 、低价转让游戏皮肤等噱头，针对目标用户前往第三方平台进行交易诈骗。

平台基于黑品作弊链接，在评论、建群、拉人等多个场景拦截黑品触达受害者。其推出反欺诈客服“验证助手”，并根据黑品特点每月迭代反欺诈策略。通过网站内外多种渠道发送200多条防诈骗提醒，平均每天保护潜在受害者200万次。 2024年，警方根据抖音提供的线索，打掉诈骗团伙69个，抓获犯罪嫌疑人451名。

02.精准识别网络流氓，重点打击四大类

售卖喷子服务、恶意控制评论、造假流量、恶意举报是抖音一年来重点打击的四类喷子行为。黑品在网站上销售刷点赞、招募喷子等违法服务，或有组织、有目的地批量发布评论误导用户，采用作弊手段伪造虚假流量、炒作人气，甚至利用平台举报规则牟取暴利，属于恶意举报导致他人账户受到影响。

2024年，抖音将构建刷户和买家用户模型，精准识别风险账户，实施异常操作拦截，堵住流氓欺诈渠道；它将通过大模型技术提高识别能力，并对机器账户和欺骗用户进行不同的处理。一年来，抖音平均每天拦截违法信息6200万次，累计封禁账号110万个，并向相关部门举报涉嫌违法行为线索。一年来，警方根据抖音提供的线索，抓获涉海军违法犯罪嫌疑人90名。

03.升级视频关键帧识别能力，阻断非法外链转发风险

除了欺诈和流氓之外，非法产品集中的另一个方向是非法外部链接。黑色组织利用作弊手段绕过平台风控策略，在多个渠道插入二维码、联系方式、图片、网址等，引导用户点击跳转第三方违法违规网站。这些第三方网站大多主要提供色情、赌博等非法服务。

为了应对黑产新手段，抖音风控团队在预先识别的基础上，新增了自动黑样本库。人工智能技术可自动识别违规行为、分类并处理；结合黑产行为模式，升级视频拦截关键帧模型能力，可立即定位黑产演员植入视频中的非法页面；新增弹幕场景模型，有效运行该场景的非法拦截策略。 2024年，抖音封禁非法账号超过120万个。同时，警方根据抖音提供的线索，打掉8个非法分流团伙，抓获犯罪嫌疑人40名。

广告声明：文章中包含的外部跳转链接（包括但不限于超链接、二维码、密码等）用于传达更多信息，节省选择时间。结果仅供参考。所有 IT House 文章均包含此声明。