Google недавно опубликовал научную статью о новом алгоритме под названием SMITH, который превосходит BERT в понимании длинных запросов и документов.
В частности, новая модель способна понимать фрагменты в документах так же, как BERT понимает слова и предложения, что позволяет лучше понимать более длинные документы.
Что такое SMITH