“内容为王”的趋势导致直播、短视频等UGC平台爆炸式增长，健康和谐的内容生态成为直播行业生存发展的关键。
10月10日，虎牙公司、腾讯云、腾讯安全联合宣布成立联合安全实验室。双方将整合腾讯在云服务器计算能力、内容风险识别、反欺诈、威胁情报等方面的技术能力，与虎牙公司在内容风险控制、安全攻击、直播业务场景等方面的实战积累，围绕AI安全应用、黑制作攻击、安全攻防、数据标注、人工审计等领域开展技术交流和业务合作。共同构建AI智能审计平台和安全攻防机制，拓展AI安全能力应用，在虎牙直播平台上打造全方位安全攻防和更精准的内容审计体系，为网络直播内容健康生态建设提供参考样本和前沿解决方案。虎牙公司高级副总裁汤米、虎牙公司内容风险控制副总裁张二胡、腾讯云副总裁魏伟、腾讯证券副总裁李伟等领导嘉宾出席实验室挂牌仪式。
(虎牙公司联手腾讯云和腾讯安全建立联合安全实验室)
“强大的计算人工智能审计安全攻击和防御”有助于实时内容的生态优化
在疫情的催化下，线上业务按下了‘快进键’发展，直播平台的流量价值也在日益上升，这也在一定程度上让黑灰制作看到了更大的‘商机’。随着直播业务内容生态系统的深入发展，如何有效防范黑灰制作带来的内容风险和威胁，已经成为直播行业健康可持续发展的重要基石。正如腾讯安全副总裁李伟所说：“随着包括生活服务、游戏、视频、直播等在内的泛互联网产业利益的不断扩大。对于非常重视用户体验的跨域企业来说，内容安全能力已经成为用户粘性的关键。'
结合多年在直播行业内容生态建设的经验，虎亚公司高级副总裁汤米认为，该平台将在不断突破自身安全技术能力的基础上，通过与底层计算能力强、安全技术成熟的厂商合作，不断优化审核标准和体系，成为优化直播行业内容生态的有效途径。基于这一思路，腾讯云、腾讯安全、虎牙公司整合了虎牙在云和多个圈子全方位发展的短、中、长期安全需求，开拓各自优势、能力和资源，在AI安全应用、黑产攻击、安全攻防、数据标注、人工审计等领域开展创新研究。
一方面，作为国内领先的直播平台之一，虎亚公司将秉承对非法内容和欺诈事件“零容忍”的态度，依托团队坚持内容审查和内控合规一线的多维度内容管理体系，结合自主研发的“AI智能识别、人工审查、在线志愿者”三位一体模式，积极协助公安机关侦破疫情欺诈、票据欺诈、冒名顶替客服欺诈、游戏设备交易欺诈等各种黑灰色制作案件。为平台安全和内容风险控制系统升级提供实践证据和场景演示。
另一方面，腾讯将依托腾讯云星海SA2云服务器和腾讯安全“AI大数据”的底层计算能力，依托20年来积累的业务安全运营能力和黑灰制作对抗经验，全面开放内容风险管控安全技术，不断优化合作场景的内容识别能力，为H创造更安全的内容制作环境
在文本、图片、音频、视频等内容不断涌现的富媒体时代，内容风险控制能力已经成为内容平台的核心竞争力。《网络信息内容生态治理规定》实施以来，虎牙公司努力完善内容风险管控技术，加强主播标准教育，完善平台自查处罚，为净化网络直播环境和良性内容生态建设做出贡献。在风险控制技术层面，虎牙公司自主开发了业务风险识别系统，从音、图、文三个维度发现、预警、处置非法信息，可以实现“方言”普通话的准确翻译，实现图片内容的全面识别，在毫秒级拦截恶意文本内容。在人工内容审核层面，虎牙公司的内容审核团队始终保持7*24小时在线，通过审核、审核、质检和机器审核相结合，实现优化运行。同时，虎牙公司17年来组织平台用户组建“虎牙志愿者”团队，共同推动平台生态健康发展。目前团队规模已超过10万人，线索总反馈数百万条，有效率50%以上，进一步提高了平台的审核效率。该创新项目还获得了中国表演行业协会颁发的“2018中国网络广播行业创新奖”。
腾讯云首台自主研发的星海服务器在性能、能效、安全特性、可靠性等方面不断优化。结合虎牙云业务的具体场景。同时充分配合腾讯云虚拟化等优势软件技术，为直播业务的内容审核提供强大的计算支持。据了解，星海服务器在其最新的罗马平台下采用了腾讯云和AMD深度定制的CPU，实现了业界最佳的单核性能和最佳的单核TCO。经测试，基于星海的云服务实例综合性能提升了35%以上，其中视频处理速度提升了40%，图形转码评分提升了35%，Web服务页面QPS提升高达152%。
根据各大内容社区的合规性和风险识别需求，腾讯安全以AI算法为核心，以海量互联网数据为基础，腾讯安全天宇内容风险控制系统不仅可以通过库、模型、账户等多维度识别内容风险，还可以通过在线培训平台主动挖掘业务数据，通过攻防演练大大提高模型的优化效率。其中非法视觉内容的识别能力是腾讯优图实验室通过海量数据训练获得的AI识别能力，通过特征提取、标签预测和细粒度识别，能够准确识别色情、暴力等内容。目前，腾讯安全天宇已经开通了音视频、文字、图片的全程风险管控环节。
(腾讯安全天宇内容安全框架示意图)
配备腾讯云和微信小程序，腾讯安全天宇内容风险管控系统服务5万多家开发商，行业渗透率达到90%，审核效率提高20多倍，不同规模企业成本降低20%-80%，业务健康度达到99.89%，数万客户内容安全得到守护。
未来随着VR、AR、5G等新技术的落地。内容生态建设将面临更加复杂多样的场景。腾讯云、腾讯安全、虎牙公司将继续深化合作，向直播行业合作伙伴输出内容生态建设的攻防经验和AI算法模型能力，努力为直播行业和内容社区建设新的内容生态提供更多的实践成果和借鉴。