另一方面,未知的未知是指模型对其答案充满信心,但实际上是错误的样本。主动发现未知的未知的研究(例如,Attenberg 2015 和 Crawford 2019)已经帮助发现了大量的非预期机器行为。与这类发现未知的未知方法相比,生成对抗网络 (GAN) 以计算机光学错觉的形式为图像识别模型生成未知的未知,导致深度学习模型犯下人类无法感知的错误。虽然 GAN 在有意操纵的情况下会发现模型漏洞,但真实世界样本可以更好地突出模型在日常性能中的失败。这些真实世界样本是 CATS4ML 感兴趣的未知的未知 - 挑战的目的是收集人类可以可靠地解释但许多 ML 模型会自信地不同意的未经操作的样本。