The case for inference-time compute scaling in computer vision models

Abstract

Нещодавня траєкторія розвитку штучного інтелекту значною мірою була сформована законами масштабування попереднього навчання. Однак, впровадження масштабування обчислень (так званий «ланцюг думок») під час інференсу започаткувало нову еру можливостей, головним чином в обробці природної мови. Новітні архітектури, що дозволяють моделям «думати» під час тестування, дають значне підвищення продуктивності. Однак, комп'ютерний зір залишається закріпленим у попередній парадигмі. У цій статті обґрунтовується необхідність дослідження переходу моделей комп’ютерного зору до архітектур, де обчислення під час інференсу масштабуються динамічно