Жасанды интеллект және машиналық үйрету пәні бойынша зияткерлік олимпиада - 2026 өткізілуде

Пән атауы: Жасанды интеллект және машиналық үйрету
Деңгей: XII
Санаты: студент
Сынақ сұрақтары: орыс тілінде
Сұрақ үлгісі: При авторегрессионной генерации текста уже вычисленные ключи и значения self-attention сохраняются в KV-кэше. Какое асимптотическое преимущество это даёт при последовательной генерации токенов? Для каждого нового токена не требуется повторно вычислять ключи и значения предыдущих токенов, Полностью устраняется квадратичная зависимость от длины контекста при однократном обучении, Вычисление softmax заменяется линейным преобразованием, Градиенты по всем предыдущим токенам становятся равными нулю