普通公司的敏感词审核度制，从三个方面来划分：敏感词的程度、审查策略、人工审查策略。大公司还会将用户类别、所在地区进行划分。
一、依据敏感词程度分成违禁词、高危敏感词、中低危敏感词。
违禁词依据限制还可划细分为“禁止发布”和“禁止搜索”，或二者皆有。
文章或留言踩中一些高危敏感词，如涉政涉爆信息，直接进到删除状态(或私密状态)，然后人工审核；若是踩中低危敏感词，会进入默认通过的状态，然后审核员会用先审后放或是先放后审两种策略对待。
先审后放，“先审”即人工审查前，内容在通过人工审查前无法被查看。
先放后审，与先审后放模式相反，内容在经过人工审查前的默认状态为可见。
二、审查策略有三种：1、机审；2、人工审核；3、用户举报 。
机审+用户举报：在普通小公司小平台上很适用。在《敏感词过滤方案那些事》中，我阐述了小平台对敏感词过滤要求很低的原因，这里不再重复了。
三、人工审查策略
对帖子内容进行审查，具体操作主要有删帖、私密、禁言、封号等。
删帖： 是指删除论坛、平台上的帖子。如不少论坛向少数热心于论坛建设的志愿者赋予了一部分网络管理的权限（版主），其中包括可以根据一定的价值判断标准（例如版规）。删除违规内容的权限。
私密： 指被“私私密”的内容仅作者自己可见，是社交网络最常用的“删帖”方式。相对于删除处理，私密更难被用户察觉，但对平台上的其他用户，该内容等同于被删除。
禁言： 或称暂时封号，禁言后用户会被限制使用发言功能，也可能同时不能修改用户名、头像、简介等，待解封后恢复。
封号: 当用户账号被封，将无法进行登录，同时该账号所产生的所有内容会被一并清除。
四、将用户分成四类，分别是一般用户、敏感用户、绿色用户、被禁用户。
敏感用户又会分为普通敏感用户和VIP敏感用户。少数敏感用户会被手动划入VIP敏感组。该用户组为影响力较大的经常讨论公共议题，或发布第一手消息的VIP用户，本身能为平台带来巨大流量。平台需要对其发布的所有内容进行全量审核，还将其划给高级编辑进行审查。
五、地区划分国内与国外、或更细：
有一个术语叫“海外私密”，指内容海外用户仍然可见，实际为仅对中国用户私密。
后记：
ToolGood.Words（开源项目）：https://github.com/toolgood/ToolGood.Words
Go版本的文本匹配会更新，C++版本的也要提上日程。
标签：审查,度制,私密,人工,用户,敏感,内容,审核 来源： https://www.cnblogs.com/toolgood/p/15213549.html
本站声明： 1. iCode9 技术分享网（下文简称本站）提供的所有内容，仅供技术学习、探讨和分享； 2. 关于本站的所有留言、评论、转载及引用，纯属内容发起人的个人观点，与本站观点和立场无关； 3. 关于本站的所有言论和文字，纯属内容发起人的个人观点，与本站观点和立场无关； 4. 本站文章均是网友提供，不完全保证技术分享内容的完整性、准确性、时效性、风险性和版权归属；如您发现该文章侵犯了您的权益，可联系我们第一时间进行删除； 5. 本站为非盈利性的个人网站，所有内容不会用来进行牟利，也不会利用任何形式的广告来间接获益，纯粹是为了广大技术爱好者提供技术内容和技术思想的分享性交流网站。