回顾超长行为序列建模:SIM SIM是阿里妈妈于2020年提出的超长行为序列建模方案。是长序列建模的经典之作。基本思想就是用target对用户的长序列行为进行检索,找到top K相似行为的item,做下一步精细化的特征提取(multi-head attention)。检索方式分为hard-search和soft-search。 如公式(1),hard-search直接从长序列中筛选和target类别相同的item。soft-search采用向量近邻检索从长序列中选取top k个item。虽然soft-search评估的效果更好,但是出于serving性能考虑,在线还是采用了hard-search。两者效果相差并不大。