我们不能让人工智能助长“邪教视频”的野蛮扩散

▲ 被AI“魔改”的经典IP引人关注。照片/照片 IC 随着人工智能技术的普及，“邪教视频”是否卷土重来？ “有些内容甚至对成年人来说都是冒犯的，更不用说三岁孩子了。”据《法律日报》报道，来自广东的梁某发现，他3岁女儿观看的视频中，出现了四肢被肢解、人物从高处坠落等血腥场面，甚至还有有人“挖出眼球吃掉”的恐怖场面。这些经过AI修改的动画本质上是在不改变原始内容的情况下进行修改的“邪教视频”。 IP通常以儿童熟悉的角色为特色，充满暴力冲突和肮脏的爱情阴谋，特别针对未成年人。一些“邪教视频”已经商业化，在电商平台上销量强劲。近年来，有关部门在相关工作中取得了显著成效。关闭非法账号、下架非法应用、处罚传播有害信息的平台、打压“邪教视频”等“精神垃圾”等治理任务。然而，随着人工智能技术的大规模应用，制作“邪典视频”的成本已显着降低。生成式人工智能可以让制作者根据角色原型快速生成所需的图像，而无需掌握许多基本的动画制作概念。令人担忧的是，该平台的算法正在火上浇油。此类视频速度快、强度大、认知负荷低，成为流量的“黑马”。当孩子不小心点击这些视频时，算法会构建“信息茧”，推送更多类似内容，让未成年人陷入“精准投药”的怪圈。诚然，“邪教视频”对未成年人的健康成长构成多重威胁。一是宣扬色情暴力ce，在未成年人形成价值观的时候让他们接触危险信息。一些家长注意到，人工智能生成的照片和视频中充斥着“杀人”、“烧死”等暴力词汇，以及“持刀袭击他人”等危险行为的描述。年幼的孩子无法区分虚拟生活和现实生活。他们很暴力。他们将权力视为“酷”，将危险视为“游戏”，并且倾向于模仿伤害自己和他人并产生可怕后果的行为。二是歪曲经典历史人物言行，让未成年人形成歪曲历史文化背景的认知。接触过AI修改的“海外山海经典”的孩子得出“海外山海经典是外国的，中国山海经典一点意思都没有”的结论，对传统文化的正宗经典失去了兴趣。另外，AI对法师的改造c将《红楼梦》改造为《魔战》，将《三国演义》改造为《激光战争》，颠覆了经典的核心意义，侵蚀了文化遗产的根基。 “邪教视频”造成的更严重的危害是对未成年人思想观念和价值观的“沉迷”。幼儿缺乏辨别能力，长期接触暴力图像会导致冷漠和麻木，从而对健康发育产生负面影响。而且，这类视频碎片化、刺激性大，会降低孩子的注意力，导致注意力和审美能力下降。事实上，受“邪教视频”的影响，一些孩子已经无法忍受阅读长篇图画书。书籍对他们的认知发展有着深远的影响。面对人工智能技术创作的“邪教视频”死灰复燃，相关部门应跟上人工智能技术的发展速度。技术迭代，加快完善内容监管规则，明确生成人工智能的责任范围，严格控制“邪教视频”的制作、传播及相关衍生品销售产业链。作为内容传播的重要环节，平台应摒弃“流量第一”的心态，更新算法审核机制，以“为儿童利益最大化”为核心原则，强化“青少年模式”过滤功能，积极清理现有不良内容，从源头上阻断传播渠道。家庭和学校需要筑起一道坚固的防线。家长应加强对儿童网络使用的配合和引导，合理限制短视频观看时间，鼓励更多真实优质的传统文化内容和动漫。学校还有责任教育学生识别有害行为的特征和危害帐篷并培养批判性思维和健康的媒体使用习惯。人工智能技术应该成为增长的推动者，而不是创造有害内容的帮凶。阻止“邪教视频”死灰复燃，需要全社会共同努力，不仅要堵住技术滥用的漏洞，还要用优质内容填充未成年人的网络空间，让他们在透明的网络环境中茁壮成长。撰稿/编辑：楠木（媒体人）/校对：柯锐/刘军