基于类别对抗联合学习的跨提示自动作文评分方法

      计算机研究与发展

      基于类别对抗联合学习的跨提示自动作文评分方法

      张春云1,2 赵洪焱1,2 邓纪芹1,2 崔超然1,2 董晓琳1,2 陈竹敏3

      1(山东财经大学计算机科学与技术学院 济南 250014)

      2(山东省数字媒体重点实验室 (山东财经大学) 济南 250014)

      3(山东大学计算机科学与技术学院 山东青岛 266237)

      论文简介

      本文提出了一种基于类别对抗联合学习的跨提示 AES 方法. 该方法将 AES 任务建模为结合分类和回归的联合学习框架,一方面通过学习分类和回归 2 个任务的共享特征,实现二者性能的联合提升;另一方面基于分类任务目标引入对抗训练方法,学习不同提示之间的不变特征表示。此外,针对不同目标提示之间存在较大的类别差异的问题,本文采用类别对抗网络对源提示和目标提示进行类别级的特征对齐,从而避免在提示级别上进行特征对齐可能产生的错位对齐问题。 本文将所提方法用于 ASAP 和 ASAP++数据集[17],分别对作文的整体评分和多属性的评分进行预测,实验结果表明,经与现有的 6个经典方法相比,本文方法在平方卡帕(quadratic weighted Kappa, QWK)指标上取得最好的实验效果。

      ASAP 数据集 8 个提示的作文类别分布:

      本文模型架构:

      通过CTS与CAJL模型学习得到的特征分布可视化结果:

      在ASAP数据集上超参对模型性能的影响: