01
学习机现不当内容
近日，有家长在自家孩子的科大讯飞学习机中的一篇名为《蔺相如》的文章里，发现了一些诋毁伟人、扭曲历史的内容，引发较大舆论。
很多网友认为像科大讯飞这样的知名品牌学习机中不应该出现这种低级的错误，尤其学习机的使用者大部分是正处于价值观形成阶段的未成年人，错误的引导很容易使他们的成长偏离轨道。而更多的人则是表达出了自己对中小学阶段各类电子教辅产品内容安全的担忧。
对此，科大讯飞方面第一时间作出了响应，科大讯飞董事长刘庆峰回应称，该文章为第三方APP上载内容，科大讯飞已在发现后第一时间永久性下架该文章，并对负责保障内容安全的合作伙伴作出处罚处理，同时内部已经将用于大模型上的内容审核机制放在了学习机上，力求使学习机的内容审核更加严格。
02
内容审核迫在眉睫
一体两面，近年来内容平台与媒介空前繁荣，随之也带来了各类内容安全问题，典型的就是性化未成年人、侮辱英烈、历史虚无、造谣辱骂、过度娱乐化、三俗等背离主流价值观的不良内容，加之AI生成内容批量入场，AIGC与UGC内容带来的安全风险交织共振，加剧了人们的担忧。
当前国际政治与军事领域的认知空间争夺战已进入白热化，网络虚拟空间成为认知域作战的主战场，而掌控意识塑造权与制信息权成为认知域作战的关键，同时伴随着各行业内容安全事件的不断发生，无论是出于国家安全还是公共安全角度，中央网信办、国家公安部等相关部委与各级监管部门都充分重视内容安全问题，陆续发布了不少法律、行政法规和部门规章。
教育无小事，内容审核无小事。社会公众对教育行业的内容安全事件向来零容忍，随着全社会数字化转型步伐加快，任何行业也都无法回避内容安全监管问题，而每一次公共性的内容安全事件的发生，都在催促我们加快提高内容安全意识，促进技术与产品的全面普及与深度应用。
03
瑞森守护内容安全
瑞森网安成立于2019年，现有内容安全产品和“安全+”两大业务板块，面向社会提供以AI识别能力为核心的森清朗广告卫士、网站哨兵、公文助手、融媒体内容智能分析系统等内容安全细分领域创新产品，同时以“安全+应用场景”创新应用新生态，业务范围覆盖政府单位、金融、医疗、教育、能源、交通、军工等诸多领域。
针对前述内容安全事件下的应用场景，瑞森网安提供内容识别引擎开放API，该接口支持文字、图片、视频的AI审核，利用AI+大数据等技术，精准识别涉黄、涉暴恐、涉不良文字等违规内容并自动告警。此外可对审核内容进行数据分析，以第三方插件模式贴合业务场景、降低业务改造成本并实现内容安全标准合规。此方案适用于各内容平台开发商、系统集成商和个人开发者。
作为内容安全引领者和安全赋能数字发展践行者，瑞森网安始终保持对内容审核事业的紧迫感、危机感与责任感，密切关注市场需求与痛点。未来瑞森网安将以更饱满的热情投入到内容安全产品与解决方案的技术精进与细分研发中，始终以优质产品及服务护航各行各业数字化发展，致力守护内容世界安全。
事件、图片源于网络，如有侵权，联系删除。
