XX财富金融集团

新闻中心

快速通道FAST TRACK

利来w66app/NEWS

互联网不是法外之地环信内容审核为APP保驾护航

2022-06-07 02:26

  直播、电商带货、互动游戏等行业孕育无数机会的同时,也暗藏潜伏的危险,是“风口”,也是“风险口”。受利益的诱惑与驱使,涉黄、涉政、暴恐、低俗等应用防不胜防,不断被迫充当着间接“作恶工具”,随之而来的是约谈、整顿、下架甚至关停。环信作为国内领先的即时通讯服务,如何保障企业的消息内容安全、合规,如何帮助企业规避内容风险,在安全的环境下专注自身业务发展也是环信一直以来的使命!

  强大的网络安全产业实力是保障我国网络空间安全的根本和基石。“互联网不是法外之地”!随之而来国家开展多次“净网”集中行动,专项整治网上有害信息和不良内容,工信部和网信办同时重拳出击。据不完全统计,2021年6月至8月间,执法监管部门共查办涉网络行政和刑事案件822起,处置低俗有害信息40余万条,取缔关闭网站4800余个,处置违法违规账号800余万个。

  工信部:组织对多种类型应用软件及平台开展专项检查,已集中通报6批侵害用户权益行为的APP,下架处理逾期未整改的APP超250款;进一步启动开展互联网行业专项整治行动,聚焦扰乱市场秩序、侵害用户权益、威胁数据安全、违反资源和资质管理规定等四方面8类问题,推动行业规范健康有序发展。

  网信办:加强网络生态治理,深入开展整治网上历史虚无主义、整治未成年人网络环境、整治网上文娱及热点排行乱象等“清朗”系列专项行动,进一步出台十项举措整治“饭圈”乱象,累计清理有害信息15万余条,处置违规账号4000余个,关闭问题群组1300余个。

  在内容监管日趋严重、行政监管愈发严格的大环境之下,令各大平台应用忧心忡忡的不再只有“流量”,还有“合规”和“内容安全”。平台必须承担起主体责任,“大步快跑”的同时,加强正向引导严防内容风险。过去,在内容审核方面,互联网“老大哥”们往往通过增加审核人员规模来解决问题,动辄上万人的内容审核团队,让其他一众中小厂商望而却步,而随着互联网内容愈发繁杂且海量,信息传播形态更加多样化,音视频等新的媒介形式兴起,传统的人工审核已经无法再从容应对内容安全危机。

  正是在这样的行业背景之下,环信推出内容审核服务,聚焦在“内容安全”领域,结合人工智能技术打造全栈式智能内容识别产品,致力于帮助社交、直播、电商、游戏等行业的开发者,精准识别即时通讯场景中的文本、图片、语音等各类违规内容,为开发者提供高效、准确、全面的内容审核过滤服务。让无论是“大厂”还是“小厂”,都有机会在集成通信云平台能力的同时,享受到内容识别技术所带来的“安全感”,从而没有后顾之忧地在市场上开疆拓土。

  内容安全(Content security)是网络信息安全的一个重要分支,其目的为识别、阻断不良信息传播,例如滥发电子消息(Spamming)、色情内容、犯罪内容、内容、政治敏感内容等。涉及技术包括自然语言处理、计算机视觉等,涉及内容包括文字、图片、音频、视频等。环信内容审核产品1.0以IM即时通讯场景作为切入点,主打消息场景下各类信息的内容审核安全,打造IM即时通讯场景下内容安全的一站式解决方案。环信内容审核产品无缝对接即时通讯IM 四大类消息类型,零集成开发成本,开通服务即可为消息传播提供“安保措施”;文本类型和图片类型更是采取实时审核,有效降低审核延迟,提供即时的IM聊天体验。

  具备文本、图片、音频、视频全类型的审核能力,基于业界先进的深度学习网络技术及线上海量真实样本,有效识别通讯场景中涉政、色情、违禁、暴恐、广告导流等违规内容,并支持结合客户自身场景进行精准防控。

  文本审核支持变体识别,使违规无处遁形,解决业内只能事后配置变体规则的被动情况

  音频审核支持转译文本识别和声纹特征识别,实时监测音频舆情趋势,动态追踪违规态势

  图片审核支持全方位识别数百种涉政暴恐图片、数十种色情图片、各式各样的变体广告图片等违规内容,极大降低平台监管风险。

  视频审核支持对视频内容中画面、声音、文字进行全方位综合检测,提高平台内容治理质量和效率,提升用户体验。

  审核规则灵活设置:支持按单聊、群聊、聊天室维度细分消息,满足业务不同消息场景下设置不同审核规则的需求;

  审核模型灵活调整:支持定制调整模型审核标准,结合客户自身场景进行精准防控,轻松适配不同行业客户的审核标准;

  自定义消息处置策略:针对消息审核结果,支持客户设置消息下发或拦截的策略,保障消息处置结果满足业务需求。

  精准识别单聊、群聊中文本消息、图片消息、音频消息、视频消息中的涉政、色情、辱骂、暴恐、违禁、广告导流诈骗等风险内容,净化应用内聊天环境,有效降低用户流失风险

  精准识别直播聊天室、弹幕中的涉政、涉黄、暴恐、广告导流等风险内容,降低违规内容传播风险,保障大型直播活动安全推广

  精准识别游戏公屏聊天中涉政、涉黄、暴恐、广告导流等风险内容,精准识别微信号、手机号等垃圾广告内容,降低平台用户流失风险

  环信内容审核直接无缝对接IM消息发送环节,同一数据中心调用审核,实现更低延迟的审核服务体验,高效帮助客户解决传统方案中消息审核环节的痛点。

  相对于客户自行回调消息至应用服务器后再自行审核处理方案,一是能有效节省网络传输环节并避免网络波动造成延迟大的风险,从全链路上大大降低加入审核环节对消息发生产生的延迟影响;二是帮助客户节省大量的服务器处理成本、以及开发和维护的人力成本,环信内容审核无需客户集成、0开发成本,开通服务即可使用;

  相对于客户应用客户端先自行审核再发送消息方案,一是客户端网络环境无法保证从而延迟风险更大,环信审核服务采取同一数据中心调用方式,有效避免审核环节的网络延迟风险;二是客户端调用存在被攻击的安全风险,一旦被攻击审核环节则形同虚设,环信内容审核采用服务器送审安全有保障;三是客户端送审开发逻辑复杂,会产生开发和维护成本,环信内容审核无需客户集成、0开发成本,开通服务即可使用,省时省力省心。

  复杂模型体系,违规识别高准确:基于先进的人工智能技术,构建复杂模型体系,避免单一模型的误杀和漏杀,违规识别高准确;

  违规态势实时追踪,实现产品快速迭代升级:实时监测音频舆情趋势,动态追踪违规态势,产品防御升级;

  多种违规内容全面识别,极大降低监管风险:深入不同行业审核场景,提供高效、精细、全面的个性化内容审核方案。

  首次开通服务提供7天免费试用期,帮助客户充分测试并了解内容审核产品效果;更有专业技术服务人员7*24小时支持客户根据业务个性化需求调整审核模型的效果,保障消息审核结果100%满足企业业务需求。

  引言:随着数字经济蓬勃发展,以及疫情加速的线上娱乐迅猛攀升,各种数字产品形态的风潮迭起,兴趣社交...

  上半年,随着vivo X Fold和华为Mate Xs2的推出,折叠屏成了手机市场上的一大亮点,目前除了苹果,几...

  数字经济时代,数据已经成为企业数字化运营的高能燃料,也是必不可缺的重要资产。数字化大势所趋下,...

  近年来,在我国持续提速产业信息化、数字化技术发展的宏观背景影响下,传统医疗行业依托国家政策扶持与...

  这里是我们的新栏目【听见,2022】&华为伙伴暨开发者大会2022特辑第1期。面向未来的人,才是能不断穿越...

  如常的上海正在归来。6月1日开始,上海进入全面恢复正常生产生活秩序阶段。这座城市正在以超常规的力度...

  在疫情逐渐常态化的时代,各行各业生存竞争压力只增不减,企业的竞争已经开始从模式竞争逐渐过渡到经营...

  小鸡X3半导体散热拉伸手柄,是盖世小鸡研发团队历经一年,为提升广大游戏玩家游戏体验而研发的电竞级游...

  工业机器人的诞生对汽车制造行业有着飞跃突破性的改变,数据分析70%的工业机器人服务于汽车智能制造领域...

  因你而生未你而来看似简简单单的八个字,背后却蕴含着不止一代人的努力,它时刻提醒我们,要为唯一的家园...

  引言:随着数字经济蓬勃发展,以及疫情加速的线上娱乐迅猛攀升,各种数字产品形态的风潮迭起,兴趣社交...