Transformer推理性能优化技术很重要的一个就是K V cache，能否通俗分析，可以结合代码?

这样,对于重复的query,value可以直接从缓存中获取,无需重新计算,可以极大提升推理速度。K-V缓存是一个非常简单但高效的优化技术,用于Transformer模型中的Attention机制,能够带来很大的效率提升。