Skip to content

最后获取句向量需要去掉padmask部分后取平均值 #10

Open
Open
最后获取句向量需要去掉padmask部分后取平均值#10

Description

@wangzemin63
wangzemin63
opened on Aug 9, 2022

获取bert输出的最后一个hiddenstate的每一个token的词向量相加取平均作为句向量，是不是应该先将padding部分的词向量置为0，然后再相加取平均呢？

Metadata

Metadata

Assignees

No one assigned

    Labels

    No labels
    No labels

    Projects

    No projects

    Milestone

    No milestone

    Relationships

    None yet

    Development

    No branches or pull requests

    Issue actions