关于 pre-fill 和 decode 阶段输入长度的疑问

[SeibertronSS]

最近学习 LMDeploy-v0.5.1 的代码时有一个疑问，由于 LlamaBatch::InternalThreadEntry 中 FT_CHECK(step_length_ == 1); 限制了 LlamaBatch::Forward 方法中的 iter 一定为 0，那么下面的代码

    if (iter == 0) {  // The first iter may have pre-fill tokens
        for (int i = 0; i < active_size; ++i) {
            const auto& seq = *state_->sequences[i];
            // const int   missing    = state_->h_context_length[i] - seq.cache_len;
            FT_CHECK(seq.input_length >= 1);
            h_input_length_buf_[i] = seq.input_length;
            input_d_ptrs[i]        = state_->output_ids + i * session_len_ + seq.cache_len;
            if (seq.input_length > 1 && pf_offset < 0) {
                pf_offset = i;
            }
        }
        if (pf_offset < 0) {
            pf_offset = active_size;
        }
    }
    else {
        for (int i = 0; i < active_size; ++i) {
            h_input_length_buf_[i] = 1;
            input_d_ptrs[i]        = state_->output_ids + i * session_len_ + state_->h_context_length[i] - 1;
        }
        pf_offset = active_size;
    }

只能够进入 if (iter == 0) 的分支，h_input_length_buf_[i] = 1; 这句是执行不到的，想请问下，是否在其他地方将 decode 阶段的请求的 h_input_length_buf_[i] 置为了 1？