人工智能训练数据集 LAION-5B 因发现虐待儿童材料而撤销

据 cointelegraph 报道：LAION-5B是一个重要的人工智能（AI）数据集，用于训练各种广泛使用的文本到图像生成器。LAION是位于德国的大规模人工智能开放网络（Large-scale Artificial Intelligence Open Network），是一个以创建开源人工智能模型和数据集而闻名的非营利组织，这些模型和数据集是多个著名文本到图像模型的基础。 斯坦福互联网观察站网络政策中心的研究人员在 12 月 20 日发布的报告中揭露，LAION-5B 数据集中存在 3226 个涉嫌 CSAM 的实例。斯坦福网络政策中心的大数据架构师兼首席技术专家大卫-蒂尔（David Thiel）强调，许多可疑实例已被独立人士证实为 CSAM。 Thiel 指出，虽然数据集中检测到的 CSAM 实例可能不会大幅改变在其上训练的模型的结果，但它们很可能会产生一些影响。此外，由于重复出现相同的 CSAM 实例，强化了特定受害者的形象，这又增加了一层担忧。 LAION-5B 数据集于 2022 年 3 月推出，由 58.5 亿个图像-文本对组成。作为对调查结果的回应，LAION 在一份声明中确认，作为预防措施，它已删除了有争议的数据集，其中包括 LAION-5B 和 LAION-400M。该组织将在确保安全后重新发布这些数据集。