Google тестирует «спекулятивные каскады»: LLM могут стать быстрее и дешевле

Новый подход обещает ускорить работу больших языковых моделей без потери качества.