判断题预训练模型的预训练过程完全不需要人类的先验知识。
判断题预训练模型在自然语言理解任务中比在自然语言生成任务中更有效。
判断题预训练模型的预训练阶段不需要考虑数据的语义结构。
判断题预训练模型在低资源语言上的表现与高资源语言相同。
判断题预训练模型在处理长序列数据时不会出现性能下降。