transformers的TFBertForMultipleChoice。

Multiple Choice,多选,主要用来进行 RocStories任务或者SWAG任务,也就是 给出一个陈述句子和4个备选句子, 判断前者与后者中的哪一个最有逻辑的连续性, 相当于阅读理解问题.

代码

我们看init:

是一个bert和一个dropout+dense。

call中:

也基本是线性调用,只不过最后会对结果进行一个reshape,来判断每个句子作为结果的不同可能性。

本例源码(由于线性层没有进行训练,因此结果为随机结果)


0 条评论

发表回复

Avatar placeholder

您的电子邮箱地址不会被公开。 必填项已用 * 标注