Стратегия и дизайн модели тяжелого ранжирования — Multi-gate Mixture-of-Experts

В первом посте этой серии мы узнали о важности многоэтапной стратегии рекомендаций, особенно для компаний с большими каталогами товаров. Мы узнали, что такое поколение-кандидат, и реализовали одного из его известных представителей: модель с двумя башнями. В этом посте мы переходим к следующему этапу процесса — ранжированию. Его работа состоит в том, чтобы при наличии нескольких сотен кандидатов, выданных генератором(ами), упорядочить их должным образом (ранжировать их), так что…