根据加拿大广播公司（CBC）的报道，专家们指出，人工智能技术的应用使得仇恨内容和误导信息在互联网上迅速增加，成为一个令人担忧的趋势。
例如，今年早些时候，一名极右翼阴谋论者在前推特（现称X）上分享了一段通过人工智能修改的视频，其中希特勒用英语发表了反犹太主义言论。这段视频迅速获得了超过1500万的观看次数。这只是一个案例，研究仇恨内容的机构和组织普遍认为这是一个令人担忧的现象。
加拿大反仇恨网络的记者彼得·史密斯表示：“所有研究仇恨内容或仇恨媒体的人都会发现，AI生成的仇恨内容越来越多。”
卑诗大学民主机构研究中心的副主任克里斯·特诺夫指出，白人至上主义团体等仇恨组织“一直是新互联网技术和技巧的早期采用者”。联合国咨询机构去年12月曾警告称，“深度AI技术可能会加剧反犹太主义、伊斯兰恐惧症、种族主义和仇外心理等内容的传播”。
AI生成内容的威胁
生成AI系统可以几乎即时创建图像和视频，只需一个简单的提示。史密斯表示，与个人花费数小时制作一张图像不同，AI可以通过几个按键生成数十张图像。加拿大巴奈伊·布里思组织在最近的一份报告中提到，去年反犹太主义的AI生成图像和视频数量“前所未有地增加”。报告中提到一张经过篡改的图片，描绘了一个集中营内部有游乐场，旨在嘲弄大屠杀的受害者，这种内容只有通过AI才能生成。
战争与虚假信息
特诺夫提到，在以色列和哈马斯的冲突中，深度伪造视频导致了关于事件的虚假信息的传播，错误地指责以色列军方和哈马斯官员。加拿大反伊斯兰恐惧症特别代表阿米拉·埃尔加瓦比表示，自冲突开始以来，反犹太主义和反伊斯兰恐惧症的言论都有所增加。
专家观点
专家们一致认为，AI生成的仇恨内容是一个新兴问题，但他们尚未就问题的范围达成一致。特诺夫表示，目前对于社交媒体平台上“有害或有问题的内容”这一更广泛问题的理解和应对还不够全面。
总的来说，AI技术在生成内容方面的应用正在迅速发展，这对网络仇恨内容和误导信息的传播带来了新的挑战。社会各界需要进一步探讨和采取措施，应对这一技术带来的负面影响。
