在当前数字时代，人工智能技术被广泛应用于内容生成，引发了对内容真实性的广泛关注。为此，科技巨头OpenAI和亚马逊正在采取行动，通过开发先进的工具来区分真实和虚假内容，以保护用户免受误导。
OpenAI最近推出了一种新的检测系统，专门用于识别由其DALL-E 3文本到图像生成器所产生的图像。该系统能够准确检测出约98%由DALL-E 3生成的图像，并确保不到0.5%的人造图像被错误识别。OpenAI指出，对图像进行的常见修改，如压缩、裁剪和饱和度调整，对检测工具的影响极小。然而，公司也承认，其他类型的修改可能会降低工具的性能。这项技术在区分由DALL-E 3与其他AI模型生成的图像方面还存在一些局限。
亚马逊也在积极利用人工智能技术来维护其平台的诚信度。2022年，亚马逊的AI系统在全球范围内拦截了超过2亿条疑似虚假评论。对于依赖客户评价做出购买决策的消费者和商家而言，确保评论的真实性至关重要。
此外，零售商正在利用AI技术来提升防欺诈能力，通过实时评估风险、构建欺诈模型，有效减少损失和成本，同时更好地保护消费者。人工智能的这些应用不仅能识别AI生成的图像，还能区分真实内容与虚假内容，对于保护和增强零售业的信誉和运营效率具有重大意义。
这些举措显示了OpenAI和亚马逊如何利用其技术优势来应对新时代下的挑战，确保他们的平台和服务在保持创新的同时，也能为用户提供一个安全和可信赖的环境。
