拒绝有害信息，他们用上高科技

记者昨天从市公安局网络安全总队获悉，近期，上海警方对涉嫌进行色情表演、聚众赌博，以及安全管理秩序混乱、安全管理措施不落实等三类网络直播平台进行整治。整治行动中，警方依法永久封禁账号100万余个、关停违规直播间1000余个。45万主播在此轮整治中落实了实名认证。

无论是弹幕网站还是直播间，其核心都是社交功能。有人的地方就有江湖，就会有“撕”，有低俗和骗粉。为此，警方昨天找来各大直播网站的管理者，而他们要打击的第一个问题是“黄”。

与小贩街头兜售的小黄碟不同，直播间里的色情是碎片化的，一些主播抛出敏感用语或动作，一秒钟时间已绰绰有余。在这种情形下，鉴黄师要怎样及时发现和遏制色情信息的传播？

据哔哩哔哩弹幕网(俗称“B站”)介绍，他们的直播团队研发了针对二次元文化特色的“鉴黄模型”。这套模型召唤了一位“老司机”——深度学习算法中的AlexNet卷积神经网络。

关于AlexNet，文科生不需要知道得太细。你只需要知道，卷积神经网络的经典模型LeNet早在1998年就诞生了，却沉寂了多年，直到2012年AlexNet模型在当年的图像分类竞赛中夺魁，其识别图片的相关错误率指标比上一年的冠军下降了10个百分点，而且远远超过当年的第二名。简单地说，AlexNet是具有历史意义的一个模型。它把关于图像识别的深度学习技术应用重新带回到人们的视野中。

B站相关负责人说，以往商业网站采取“每2-4分钟的截图审核”“关键帧监察”“第三方图片识别”等技术模式，从截图到完成人工响应，时间超过4分钟。而应用AlexNet的“鉴黄模型”每秒处理300张截图；嫌疑图片从读图、图片传输、计算、返回结果，全程平均响应时间约2.2秒；10-15秒内，后台人工审核便可完成对嫌疑图片的二次判断。另外，有了它的帮助，监管方能在其他用户没有正常进入直播间前，就切断或锁定直播间，避免有害信息的传播。