4. 学习范式在这一部分，论文对使用LLMs进行IE的各种学习范式进行了分类，包括有监督微调、少样本学习、零样本学习和数据增强。4.1 有监督微调（Supervised Fine-tuning）有监督微调是将预训练的LLMs进一步训练在特定的IE任务上，使用标注数据来提高模型的性能。这种方法允许模型学习到数据中的具体结构模式，并能够更好地泛化到未见过的任务。论文中提到了几种微调策略，例如结构预训练，它通过在一系列任务无关的语料库上预训练模型来增强其结构理解能力。此外，还有目标蒸馏和任务聚焦指令调整，这些方法通过训练学生模型来实现广泛的应用，如命名实体识别（NER）。4.2 少样本学习（Few-shot Learning）少样本学习是指在只有少量标注示例的情况下进行模型训练。这种方法面临的挑战包括过拟合和难以捕捉复杂关系。然而，通过增加LLMs的参数规模，它们展现出了惊人的泛化能力，即使在少样本设置中也能取得优异的性能。论文中提到了几种创新方法，如翻译增强自然语言框架（Translation between Augmented Natural Languages framework）、文本到结构生成框架（text-to-structure generation framework）和协作领域前缀调整（Collaborative Domain-Prefix Tuning），这些方法在少样本微调中取得了最先进的性能。4.3 零样本学习（Zero-shot Learning）零样本学习是指在没有特定IE任务的训练示例的情况下进行预测。这种方法的主要挑战在于使模型能够有效地泛化到未见过的任务和领域，以及对LLMs的预训练范式进行对齐。由于LLMs嵌入了大量的知识，它们在零样本场景中展现出了惊人的能力。论文中讨论了如何通过引入创新的训练提示（如指令和指南）来实现零样本跨域泛化。此外，还提到了跨类型泛化，即模型能够处理不同类型的任务，例如将事件抽取任务转化为条件生成问题。4.4 数据增强（Data Augmentation）数据增强涉及使用LLMs生成有意义的多样化数据，以增强现有数据。这种方法可以分为三种策略：数据注释、知识检索和逆向生成。数据注释策略直接使用LLMs生成标注数据，知识检索策略从LLMs中检索相关信息，而逆向生成策略则根据结构化数据生成自然文本或问题。这些策略各有优势和局限性，例如数据注释可以直接满足任务。