人工智能与机器学习 - 2026 进行中

科目: 人工智能与机器学习
级别: XII
类别: 大学生
测试题目: 俄语
问题示例: При авторегрессионной генерации текста уже вычисленные ключи и значения self-attention сохраняются в KV-кэше. Какое асимптотическое преимущество это даёт при последовательной генерации токенов? Для каждого нового токена не требуется повторно вычислять ключи и значения предыдущих токенов, Полностью устраняется квадратичная зависимость от длины контекста при однократном обучении, Вычисление softmax заменяется линейным преобразованием, Градиенты по всем предыдущим токенам становятся равными нулю