根据3月27日抖音安全中心发布的公告，抖音对于数字人、虚拟人视频和直播内容的使用做出了一系列的规定和限制，以应对AI技术在内容创作中的不当利用。以下是根据公告内容整理的详细规定和限制：
- 显著标识AI生成内容：发布者应对人工智能生成内容进行显著标识，帮助其他用户区分虚拟与现实，尤其是易混淆场景。
- 责任追究：发布者需对人工智能生成内容产生的相应后果负责，无论内容是如何生成的。
- 实名认证和注册：虚拟人需在平台进行注册，虚拟人技术使用者需实名认证。
- 禁止侵权内容：禁止利用生成式人工智能技术创作、发布侵权内容，包括但不限于肖像权、知识产权等。一经发现，平台将严格处罚。
- 禁止违背科学常识的内容：禁止利用生成式人工智能技术创作、发布违背科学常识、弄虚作假、造谣传谣的内容。一经发现，平台将严格处罚。
- 治理违规行为：抖音将对违规使用AI生成虚拟人物的行为进行严厉处置，包括但不限于下架违规视频、取消投稿和营利权限、抹除账号粉丝、封禁账号等。
- 打击犯罪行为：针对利用AI生成虚拟人物用于犯罪的行为，抖音将报警打击，并已掌握部分黑产团伙的线索。
- 用户监督和举报：抖音号召广大用户共同监督，如发现不当使用人工智能生成内容的情况，可以在站内举报或发送详情至举报邮箱：feedback@douyin.com，平台将在第一时间核实处理。
这些规定和限制旨在确保AI技术在抖音平台上的合理、合法使用，防止技术滥用带来的负面影响，保护用户权益和维护平台内容生态的健康。通过这些措施，抖音希望能够促进AI技术的健康发展，同时保障用户和创作者的合法权益。
附原文：
今天，抖音安全中心发布《抖音关于不当利用AI生成虚拟人物的治理公告》，近期，抖音站内仍有不当使用AI技术生成虚拟人物发布内容的账号，平台进行了严厉处置。
↓↓↓
去年，抖音发布《关于人工智能生成内容的平台规范暨行业倡议》，明确平台不鼓励利用AI生成虚拟人物进行低质创作，将严格处罚违规使用AI生成虚拟人物发布违背科学常识、弄虚作假、造谣传谣的内容。
近期平台发现，站内仍有不当使用AI技术生成虚拟人物发布内容的账号，平台进行了严厉处置。
其中典型行为包括：
1、生成境外虚假人设，消费爱国心理、博取关注。用虚假外国人的形象，以想嫁给中国、想到中国生活、评价社会事件等言论博取眼球。
2、生成俊男美女虚假形象，骗取互动，交友导流。直接称用户为“你”“娘”“妈妈”“老公”等，发布情感诱导、唱情歌、为你谋福利等表达虚假情感的内容，将用户导流至私人聊天工具，甚至进行诈骗。
3、生成精英人士虚假人设，发布心灵鸡汤、财商、伪国学、厚黑学、伪成功学等不良内容，低质吸粉，甚至引流到站外以卖课、入群等方式获利。
针对违规使用AI生成虚拟人物的行为，平台会对违规视频下架，对违规账号进行取消其投稿和营利权限、抹除账号粉丝、封禁账号等处置，并利用模型、技术识别能力等手段，进行长期系统的识别发现和处置。同时，平台已掌握部分黑产团伙不当使用AI生成虚拟人物用于犯罪的线索，将报警打击。
人工智能技术的快速发展，丰富了互联网内容生态，但也带来技术滥用的挑战。平台重申，创作者、主播、用户、商家、广告主等平台生态参与者，在抖音应用生成式人工智能技术时，须遵循以下规范：
1、发布者应对人工智能生成内容进行显著标识，帮助其他用户区分虚拟与现实，特别是易混淆场景。
2、发布者需对人工智能生成内容产生的相应后果负责，无论内容是如何生成的。
3、虚拟人需在平台进行注册，虚拟人技术使用者需实名认证。
4、禁止利用生成式人工智能技术创作、发布侵权内容，包括但不限于肖像权、知识产权等。一经发现，平台将严格处罚。
5、禁止利用生成式人工智能技术创作、发布违背科学常识、弄虚作假、造谣传谣的内容。一经发现，平台将严格处罚。
治理违规内容是抖音的长期工作，平台号召广大用户共同监督，如发现不当使用人工智能生成内容的情况，可以在站内举报或发送详情至举报邮箱：feedback@douyin.com，平台将在第一时间核实处理。
抖音安全中心
2024年3月27日
免费文章，允许转载！转载时请注明来源：【小钉教科】(xdjk.cn)
支持原创、保护作者权益、激发创作动力。
