引言:随着数字经济蓬勃发展,以及疫情加速的线上娱乐迅猛攀升,各种数字产品形态的风潮迭起,兴趣社交、娱乐直播、电商带货、互动游戏等行业孕育无数机会的同时,也暗藏潜伏的危险,是“风口”,也是“风险口”。受利益的诱惑与驱使,涉黄、涉政、暴恐、低俗等违法违禁信息,以各种形式泛滥于网络,让各大平台应用防不胜防,不断被迫充当着间接“作恶工具”,随之而来的是约谈、整顿、下架甚至关停。环信作为国内领先的即时通讯服务平台,如何保障企业的消息内容安全、合规,如何帮助企业规避内容风险,在安全的环境下专注自身业务发展也是环信一直以来的使命!


11.JPG



Why 互联网不是法外之地





强大的网络安全产业实力是保障我国网络空间安全的根本和基石。近年来,习近平总书记多次就网络安全产业作出重要指示:“互联网不是法外之地”!随之而来国家开展多次“净网”集中行动,专项整治网上有害信息和不良内容,工信部和网信办同时重拳出击。据不完全统计,2021年6月至8月间,执法监管部门共查办涉网络行政和刑事案件822起,处置低俗有害信息40余万条,取缔关闭网站4800余个,处置违法违规账号800余万个。



22.png


 
 工信部:组织对多种类型应用软件及平台开展专项检查,已集中通报6批侵害用户权益行为的APP,下架处理逾期未整改的APP超250款;进一步启动开展互联网行业专项整治行动,聚焦扰乱市场秩序、侵害用户权益、威胁数据安全、违反资源和资质管理规定等四方面8类问题,推动行业规范健康有序发展。
 
网信办:加强网络生态治理,深入开展整治网上历史虚无主义、整治未成年人网络环境、整治网上文娱及热点排行乱象等“清朗”系列专项行动,进一步出台十项举措整治“饭圈”乱象,累计清理有害信息15万余条,处置违规账号4000余个,关闭问题群组1300余个。

What 产品、场景和解决方案






在内容监管日趋严重、行政监管愈发严格的大环境之下,令各大平台应用忧心忡忡的不再只有“流量”,还有“合规”和“内容安全”。平台必须承担起主体责任,“大步快跑”的同时,加强正向引导严防内容风险。过去,在内容审核方面,互联网“老大哥”们往往通过增加审核人员规模来解决问题,动辄上万人的内容审核团队,让其他一众中小厂商望而却步,而随着互联网内容愈发繁杂且海量,信息传播形态更加多样化,音视频等新的媒介形式兴起,传统的人工审核已经无法再从容应对内容安全危机。
 
正是在这样的行业背景之下,环信推出内容审核服务,聚焦在“内容安全”领域,结合人工智能技术打造全栈式智能内容识别产品,致力于帮助社交、直播、电商、游戏等行业的开发者,精准识别即时通讯场景中的文本、图片、语音等各类违规内容,为开发者提供高效、准确、全面的内容审核过滤服务。让无论是“大厂”还是“小厂”,都有机会在集成通信云平台能力的同时,享受到内容识别技术所带来的“安全感”,从而没有后顾之忧地在市场上开疆拓土。
 
内容安全(Content security)是网络信息安全的一个重要分支,其目的为识别、阻断不良信息传播,例如滥发电子消息(Spamming)、色情内容、犯罪内容、恐怖主义内容、政治敏感内容等。涉及技术包括自然语言处理、计算机视觉等,涉及内容包括文字、图片、音频、视频等。环信内容审核产品1.0以IM即时通讯场景作为切入点,主打消息场景下各类信息的内容审核安全,打造IM即时通讯场景下内容安全的一站式解决方案。环信内容审核产品无缝对接即时通讯IM 四大类消息类型,零集成开发成本,开通服务即可为消息传播提供“安保措施”;文本类型和图片类型更是采取实时审核,有效降低审核延迟,提供即时的IM聊天体验。
环信内容审核服务详情:
https://www.easemob.com/product/im/antispam




33.png
 
1、支持4大内容类型、5大必备基础审核内容场景:

具备文本、图片、音频、视频全类型的审核能力,基于业界先进的深度学习网络技术及线上海量真实样本,有效识别通讯场景中涉政、色情、违禁、暴恐、广告导流等违规内容,并支持结合客户自身场景进行精准防控。
 
2、有效解决各类型内容识别中的审核难点:

文本审核支持变体识别,使违规无处遁形,解决业内只能事后配置变体规则的被动情况
音频审核支持转译文本识别和声纹特征识别,实时监测音频舆情趋势,动态追踪违规态势
图片审核支持全方位识别数百种涉政暴恐图片、数十种色情图片、各式各样的变体广告图片等违规内容,极大降低平台监管风险。
视频审核支持对视频内容中画面、声音、文字进行全方位综合检测,提高平台内容治理质量和效率,提升用户体验。
 
3、支持个性化设置审核策略,提供功能强大的审核管理后台:

审核规则灵活设置:支持按单聊、群聊、聊天室维度细分消息,满足业务不同消息场景下设置不同审核规则的需求;
审核模型灵活调整:支持定制调整模型审核标准,结合客户自身场景进行精准防控,轻松适配不同行业客户的审核标准;
自定义消息处置策略:针对消息审核结果,支持客户设置消息下发或拦截的策略,保障消息处置结果满足业务需求。
 
4、提供多行业适用的审核解决方案:

社交平台
精准识别单聊、群聊中文本消息、图片消息、音频消息、视频消息中的涉政、色情、辱骂、暴恐、违禁、广告导流诈骗等风险内容,净化应用内聊天环境,有效降低用户流失风险
直播聊天室
精准识别直播聊天室、弹幕中的涉政、涉黄、暴恐、广告导流等风险内容,降低违规内容传播风险,保障大型直播活动安全推广
游戏互动
精准识别游戏公屏聊天中涉政、涉黄、暴恐、广告导流等风险内容,精准识别微信号、手机号等垃圾广告内容,降低平台用户流失风险
 

How good 环信的优势与价值





 
1、后台一键开通,0集成开发成本,更低延迟的消息审核体验:

环信内容审核直接无缝对接IM消息发送环节,同一数据中心调用审核,实现更低延迟的审核服务体验,高效帮助客户解决传统方案中消息审核环节的痛点。
相对于客户自行回调消息至应用服务器后再自行审核处理方案,一是能有效节省网络传输环节并避免网络波动造成延迟大的风险,从全链路上大大降低加入审核环节对消息发生产生的延迟影响;二是帮助客户节省大量的服务器处理成本、以及开发和维护的人力成本,环信内容审核无需客户集成、0开发成本,开通服务即可使用;
相对于客户应用客户端先自行审核再发送消息方案,一是客户端网络环境无法保证从而延迟风险更大,环信审核服务采取同一数据中心调用方式,有效避免审核环节的网络延迟风险;二是客户端调用存在被攻击的安全风险,一旦被攻击审核环节则形同虚设,环信内容审核采用服务器送审安全有保障;三是客户端送审开发逻辑复杂,会产生开发和维护成本,环信内容审核无需客户集成、0开发成本,开通服务即可使用,省时省力省心。
 
2、智能AI技术为内容安全保驾护航,极大降低监管风险

复杂模型体系,违规识别高准确:基于先进的人工智能技术,构建复杂模型体系,避免单一模型的误杀和漏杀,违规识别高准确;
违规态势实时追踪,实现产品快速迭代升级:实时监测音频舆情趋势,动态追踪违规态势,产品防御升级;
多种违规内容全面识别,极大降低监管风险:深入不同行业审核场景,提供高效、精细、全面的个性化内容审核方案。
 
3、高质量服务,支持客户结合自身场景进行精准防控:

首次开通服务提供7天免费试用期,帮助客户充分测试并了解内容审核产品效果;更有专业技术服务人员7*24小时支持客户根据业务个性化需求调整审核模型的效果,保障消息审核结果100%满足企业业务需求。