谷歌旗下影音平台YouTube宣布将采取适当做法,以负责任态度推动AI创新,未来会透过新增标签等方式,提醒观众哪些是AI生成影片;如果AI生成内容违反“社群规范”,将被下架。
YouTube发文指出,人工智慧(AI)强大且新颖的叙事形式,也可能被用于产出误导观众的内容,尤其是在观众不知道影片经过变造或合成的情况下。
为了解决这个问题,YouTube会在未来几个月内推出更新,让观众在看到这类内容时能被提醒。
YouTube将提供新选项,要求创作者在上传内容时,指出相关内容是否经过变造、合成或使用AI工具生成。
若创作者持续选择不揭露这项资讯,YouTube可能会加以处置,包括移除内容、YouTube合作伙伴计划资格遭停权。 如果内容可能经过变造或合成,YouTube会以两种方式告知观众,包括在说明面板中新增标签,标示部分内容经过数位修改或生成;至于涉及敏感议题等特定内容类型,会在影片播放器中加上更显眼的标签。
对于某些合成内容,加上标签可能还是无法减轻带来伤害的风险,因此不管是否有加上标签,只要违反“社群规范”的内容都会从YouTube下架,例如意图使观众受到惊吓或反感的写实暴力合成影片,就可能被移除。
YouTube表示,持续收到来自社群的意见回馈,观众、创作者和艺人都曾对于新兴科技可能带来的影响表示疑虑,尤其当自己的脸孔或声音在未经同意的情况下遭到数位生成,或是当自己的观点遭到扭曲。
在未来几个月内,若YouTube影片由AI产生、经过合成或修改,且包含脸孔、声音可辨识个人身份的模拟内容,使用者就能根据隐私权申诉程序要求移除。