一大早，朋友就告诉了一个不好的消息：最近，&#;他网站被！网信办约谈了，需要至少关，停一周，原因就是网站存在不良内容。

　　、事实上，在最近几个月里，内容安全问题似乎已经成为了整个互联网行业的普遍现象。。5月27日，好奇心；日报网站和App自2019年5月28日零时起停止更新3个月，读者评论和其他互动都将暂停；5月30日，B！站、！虎牙、斗鱼等直播平！台相继发布了系统技术升级通知，弹幕功。能将受影响。

　　仅仅。只是在5月份，就有B站、起点文学、晋江文学网、钉钉、社区发布暂，停更新或直接被查处惩罚。在如今的；互联网行业，使用；国内的服务器&#;并作出！产品备案审核，哪怕你只是一个小平台，只要存在不良内容，那么你就有被约谈的可能。

　　在不断！营造风清气正的互联网环境的过程中，是否配有内容安全、以及内容安全风控能力怎样，开始真正影响到一家、互，联网&#;企业的发展甚至命运。。

　　；正常。来说，以往出现内容安全问题的企业大多数是头部知名企业，但伴随着互联网&#;行业的成熟，情况已经不一样了。从目前的市场；态势来看，&#;不仅是朋友的小网站被约谈，从监管频率、监管力度、监管范围来看，整个互联网行！业已经彻底告别简单粗暴的发展阶段，不管一&#;个企业的融资金额、用户数据、营收数据有多好看，一旦触碰到法律法规，纵然是几亿甚至几十亿价值的产品，一样只能跟市场告别。

　　随着近两年营造风清气正互联网环境的决心，正把诸多在上个阶段无序&#;发展的互联网公司弄得始料不及。

　　大小产品均被大范围；监管内容安全已成为互联网行！业最大的隐雷

　　不止是5月；迎来了互联网产品内容安全问；题爆。发季，在最近这几个月，你会发现包括雪球、今日头条、知识星球、简书在内的诸多知名APP，全部都曝出了内容安全事件，被暂停更新、甚至下架等。

　　、其中，近期最轰动的就是晋江文学网被查处、；起点中文网多个频道要求整改的消息。作为一家成立于2003年的老牌女性网络文学网站，晋江文；学已经衍，生出大量知名&#;的影视IP，，其中就包括了《花千骨》、《魔道祖！师》、《镇魂》、《、知否？知否？应是绿肥红瘦》、《香蜜沉沉烬如霜》、《芈月传》、《微微一笑很倾城》、《美人心计》、《战长沙》、《何以笙箫默》、《泡沫之夏》等火热作品。

　　在IP泛娱乐市场越来越大的情况下，拥有大、量IP的晋江文学，本、来可以迎来更迅猛发展，但因为在&#;内容安全管理，方面存在漏洞，导致晋江文学有部分！内容涉嫌传播淫&#;秽色情信息行为被北京。扫黄打非部门查处，大大影响了晋江文学的发展。

　　同时，。哪怕是最大的网文平台起点中文网，，也因内容安全。问题让业务、受到影响。、起点&#;中文网问题突出的“都市”频道“异术超能”栏目、“女生网”频道“N次元”栏目暂停更；新7天，很多火热的网文作品也受此影响不能更新甚至被封禁，；大量跪求读者们不要下架他们作品。

　　这一切，归根结底还是网文平台在内容安全管理存在缺陷。包括晋江文学、；起点中文在内的诸多互联网平台，他们在激烈的市场竞争都没有倒下，没想到竟然会在内容安全问题上“折戟”，这值得所有互联、网。从！业者警惕。

　　同时，从去年下半年开始，包括阿里云在内的诸多域名/主机服务商，对内。容审核的要。求也越来越高，网站备案的难度显著；提升。在备案资料方面，以前阿里云的企业备案只需要营业执照和法人身份、证就行，但去年下半年开始阿里云的企业认证需要企业手持身份证和营，业执照一起拍照，这让一个网站备案的时间也越&#;来越长。

　　很。多企业、千辛万苦完成阿里云网站备、案之后，结果！又强制要求阿里云备案的域名就必须使用阿里云的服；务器，否则在系统检测出来之后将面&#;临停止服务器访问甚至取消备案的后果。但如果使用阿里云服务器，你就会发现阿里云服务器端的垃圾内容过滤机制开始，影响到网站运营，系统总是时不时地就停止了一些网页访问，要求修改内容才能继续开启服，务器提供服务。

　　这些举措看似的阿里&#;云的审核趋、严，本&#;质却是整个中国互联网环境在更加正能量的发展过程中，网络基础服务平台需要配合监管部门必、须去做好的一！些信息工作。

　　与此同时，不止是中国对内容安全监管趋；严。国外也&#;对；内容安全开始加强监管。新西兰总理Jacin。daArdern之前表示，科技公司应被视为“出版商，而非只是邮递员”，而澳大利亚总理ScottMorrison也曾表示：&#;“把互联网当作一个无人管理的！空间是、不、可接受的。”

　　法律层面，国外也开始不断立法。澳大利亚今年通！过一项新法律，严控在社交媒体上传播暴力内容，如果社交，媒体平台没有快速删除平台上暴力恐怖内容，公司高管可能被判入狱3年，而社交；媒体平台也将面临高达其年营业额；10%的罚款。而在同。一个时间段，欧盟也通过草案：如&#;果无法在一小时内删除恐怖主义内容，企业将面临最高达全球营业额4%的罚款。

　　内容安；全问题也发生在其他，国家。比如抖音国&#;际版TikTok?在印度。非常火热，但前段时间也因为内容问题遭受封禁。同时，著名游戏平台Steam也被印尼政府封禁过，印尼甚&#;至还要求过Googl、e、Facebook对一些违规内容进行下线删除。

　　从这来看，不论是国内还！是国外，内容安全已成互联网企业标配风控项，而且基本涵盖所有的互联网行业。

　　不管你是！不是内容产品，哪怕你是一个服务型产品，但、你产品里、有评论和展示内容，你就一样有可能会遭遇内容爆；雷的风险。这样一来，内容安全就必须是标配。

　　在这个具备一定门槛的市场中，！创业不仅要考虑用户、资金、资源从哪里来。，还必须重视监管层面的问题，真正地承担、起主体责任，才、能守住一家互联网公司的生命线。

　　如何排除内容安全这颗雷；？思维、技术、策略；都需要突破

　　怎么办。？生活再残酷，也还得继续。

　　尽管互联网行业不再是可以简单粗暴获得流量然后变现的时代，对于内容和服务的要求。也&#;越来越高，但这某种意义上也是一个大浪淘沙的过程，是真正将劣质。的信息驱除出去的一；个过程，这也是，互联网创业者必经的一个过程。

　　那么，面对这样所有互联网企业、都不得不去重视的生命线，大家又应该怎么办？我认为，最核心是其实就；是要从思维、&#;技术、策略三个层面进行再升级、再突破。

　　（1；）对于内容安；全，认为很多人需要从思维上进行突；破。其实在很多，年前，就有。很多互联网企业在做跟内容安全相关的事情，其中最简单粗暴的方式就是关键词文字过滤。

　　尤其是、对于媒体和社区来说，建立一个违规关键词数据、库，然后用文字一对一地进行判断识别，然后对带有违禁词的内容进行屏蔽；，这是一个哪怕到现在还还在沿用的一种内容安全管理方式。

　　在过去，很多企业也许&#;在内容安全管理方面就做了这么一件事情，然后也安稳度过了很多时间，这！让很多人认为内容安&#;全其实就是做关键词屏蔽，导致有一些企业对于；内容安全不够重视&#;。

　　事实上，大家要从思维上。重新认识内容安全。过去很多公司觉得。从监管部；门或者其他渠道拿到了一些关键词列表加入到数据库中&#;进行屏蔽，内容安全就搞定了，这导致很多企业一度都不舍得再升级技术和招聘内容审核人员。

　　事实上，时代已经发生了变化。这是一个富媒、体时代，图片、视频、，音频的内容安全远比文本处理要复杂！，早已进入到了人工智能不断迭代+人工审核补充的时代。从最近这两、年的多起；内；容安全事故之后，以百度、腾讯、阿里、今日头条为首的诸多公司都纷纷加大了内容审。核人员和技术的投入力度。

　　从这个角度来看，尤其是在行业处于中上地位！的企业，格外要重视从思维上进行升级。

　　有些互联网企业在内容安全上出问题，跟他们此前的思维落后有些关系。只有首先从；思维上对内容安全重视、对内容安全给予！持续的；投入，才。能真正从管理执行方面解决内容安全问题。

　　（2）那么。，策略方面大家应该如何做&#;呢？巨头和中小公司的策略显然不一样，并且内容安全管理和整体的运。营策略。也已经关联，非常紧密，如何做好新时代的内容安全管理，还得结合实际情况来看。

　　对、于有一定、数据，规模和数据沉。淀的大企业来说，如果本身技术实力还可以，那么人工+自建体系+内容安全服务商三重方式去做，是最稳妥的。&#;如果拥有；政策法规解读能力再加上得当的运营策略制订，以及能持续不断地投入算（物）&#;力、人力，也可以采用人工+自建体系。

　　但对于大多数本身数据和公司规模都不大的中小&#;企业来说，由于数据沉淀不及巨，头，且很难及时、正确地解读政策法规，那么自建体系这个部分或许就只。能换成寻找靠谱的内容安全服务商。

　　为什么这么说呢？一方面，自、建体系如果没有强&#;大数据做沉淀，其整个体系的训！练模型也很难；达到预期效果，导致投入了还是会出现内容安全问题；另外一方面，自建内容安全体系成本并不小，如果不&#;能持续的重金投入，最后，也可能达不到自用的，预期。

　　那么，第三方内容安全服务商应该如何选择？市场主要也！就是两类服务商，一类是专门一直，做技术！类服务商的企业，他们跟上了这个时代的技术步伐，能够提供一些技术！解决方案，另一类就是不仅拥有技术实力，还拥有大量数据沉淀和自身也有，内容安全需求的大公司，这一类公司的内容安全服务从效果、价格、以及服务及时性、业务场景的覆盖等维度来看，综合；效益最好。

　　比较典，型的是网易易盾，它拥有21年专。业内容安全防护经验及。大数据积累，其次也服务了小米、花椒、VIVO、OPPO、网易、网易、云音乐等多款用户过亿的产品。根据它的官网显示，易盾的；第三代内容安全服务提供鉴黄、涉政、、暴恐、&#;广告等数十大类上千小、类的有害内容智能识、别过滤服务，智能识别精准率超过99.8%。最近，网易易盾还推出了内容安全月活动，能够通过历史数据专项策略布控、快速清洗、全面检测，及时帮助！中小企业降低内容安全隐患。

　　这种服务，其实本质是源自于网易内部自身使用的技术解决方案和数据模型。网络上有公开资料显示，网易易。盾是如今已达20+“高龄”！的网易安全部在2016年，将其自身、的技术沉淀和实，践云化并对外提供&#;服务的结果。

　　如果说能够获得；一个大公司自身使用的内容安全、解决方案，那么这样的体系确实在实用性方面会更强、。不过，选择服务商也好，自建体系也罢，不容忽；视的就是一定。要在技术上有所突破。

　　（3）技术方面。，其实最大的挑战在于数据训练模！型和音频、！澳门三期内必开三肖视频处理的技术突破——如何高效、准确地处理不良内容，这非常考验技术体系的实力。

　　比如在短视频和直播这两年用户，激增后，很多主流平台都因不良内容被监管部门处罚，音频和视频如何有效处理不良。内容一度成为一个难点、。业内是如何；解&#;决的。？网易易盾饶晓艳此；前就在接受雷锋网采访的时候有简单、分享过相关做法。

　　首先，他们结合政策；法规和舆情分析。团队的策略、20多年的数据和技术沉淀，配合关键特征提取和识别训练强化机！器的训、练能力，让内容安全系统能够利用人工智能技术实现视频和音频的有害信息识别与筛眩

　　后来，他们还会根据新事物、新。特征不断迭代内容安全技术。比如短视频中的呻吟声或者娇喘声，以及ASMR场景下的违规。音&#;频&#;。、这是用传！统手段无法识别的，网易易盾进行了技术迭代，使用。了声纹检测技术，并在内容安全类目上新增了娇喘呻吟类。

　　从这个案例去看，不管是自建体系还是，找服务商，最核心的一定是技术迭代速度要快、，要及时跟进违法违规团队的操作手段进行识别；和处理，才有可能。真正符合当前的监管要求。

　　总体而言，内容、安全是如今所有互联网公司都需要迈过去的一个门槛，只、要在思维上有所！突破，不管采用怎样的策略去。完善这块的漏洞，在持续研究或者选择前沿有效技术去解决问；题、之后，内容安全的排！雷工作自然也差不多完成了。

　　监管更严的趋势&#;不可逆不重视内容安全的公司注定被淘汰

　　1月份“扫黄打非”部门开展学习；类APP专项整治工，作；

　　3月全、国“扫黄打非”办公室在全国范围内开展“净网2019”、“护苗201！9”、“秋风201；9”等专项行动，持续净化社会文化环境；

　　4月份，全国“扫黄打非”办公室又。组织开展网上低俗信息专项整治活动。

　　一系&#;列的监管动作，让大量的互联网产品进入自查自纠或；监管部门强制要求整改状态，这已经凸显出监，管部门要打造风清！气正的互联网环境的决心是足够坚定的。

　　在未来的中国、甚&#;至国际的互联网环境中，对内容强监，管的趋势，是&#;不可逆的，因为守住，公序良俗和道德底线，创造青少年健康成长的互联网环境是所与人的共识。&#;尽管这样的趋势会淘汰掉一大批互联网企业，但互联！网终归就是一个充满了竞争】的商业生态。

　　监管部门从规矩上&#;为用户们提供一个良好、健康、正能。量的环境，只有真正可以承担起主体责任的公司，才有可能在这样；一个新时代更好的，生存下去。现在互；联网行业一切都和内容有关，在监管！更严的情况下；，。如果还不重视内容安全，也许这样的企业也只剩下被淘汰了。

　　据第一财经报道，美国国会众议院、司法部和联邦贸易委员会（FTC）在当地时间、周一分别宣、布，将展开对几家大科技公司的反垄断和商业行为调查。！受此影响，5大科技公司Face！b！ook、苹果、亚马逊、奈飞和谷歌母公司Alphabe，t股价齐声下跌，市值一天蒸发了约1700亿美元&#;。

　　报！道称，；美国国会和监管部门联手发起调查，意味着特朗普政&#;府向调查科技巨头公司的反竞争行为迈出了重要；和实际的&#;第一步。

　　据了解，，华盛顿邮报报道，美国众议&#;院中的民主党人计划审查这些科技巨头，以确定它们是否已&#;经庞大到足以抑制竞争、损害消费者权益的程度，这。标志着美国科技行业正面临着来自国会、白宫以及202&#;0年总统候选人在内、前所未有。规模的反垄&#;断调查威胁。

　　美国众议院最高竞争委员会主席、众议员戴维·西克莱恩&#;(DavidCicilline)宣布了这项调查，预计；其将产生深远影响。他表示，这项调查不会针对某；一家特定的科技公司，而是聚焦于人们普遍认为的“，互联网已经崩溃”现象。他同时指出科技巨头存在的、问题，比如谷歌和Facebook，谷歌&#;因搜索服务置于竞争对手之上而在欧洲面临制裁，Faceb；ook靠抄袭和收购竞争对手，以确保其在社交网络领域的持续主导地位。

　　值得一提的是，，上个月美国联邦最高法院裁定。，消费者对苹果提起的诉讼可以向前继续推进，消费者认为苹果公司！利用其iOS的市场支配地位，向他们。收取更多购买A；pp！的费用。这意味着未来消。费者也能够以！同样的方式来起诉其它平台巨头，比如亚马逊、Facebook和谷歌，从而打破平台借助生态系统的垄断而产生的盈利模式。