📁 子文件夹 (6)
📁 D:\ChatRTX\TensorRT-LLM\TensorRT-LLM-0.7.0\cpp\tensorrt_llm\kernels\contextFusedMultiHeadAttention 421 · 328.3 MB
📁 D:\ChatRTX\TensorRT-LLM\TensorRT-LLM-0.7.0\cpp\tensorrt_llm\kernels\cutlass_kernels 33 · 141.1 KB
📁 D:\ChatRTX\TensorRT-LLM\TensorRT-LLM-0.7.0\cpp\tensorrt_llm\kernels\decoderMaskedMultiheadAttention 53 · 2.2 MB
📁 D:\ChatRTX\TensorRT-LLM\TensorRT-LLM-0.7.0\cpp\tensorrt_llm\kernels\mixtureOfExperts 2 · 57.7 KB
📁 D:\ChatRTX\TensorRT-LLM\TensorRT-LLM-0.7.0\cpp\tensorrt_llm\kernels\onlineSoftmaxBeamsearchKernels 6 · 29.6 KB
📁 D:\ChatRTX\TensorRT-LLM\TensorRT-LLM-0.7.0\cpp\tensorrt_llm\kernels\weightOnlyBatchedGemv 14 · 57.4 KB
📄 文件(仅名称 / 大小 / 日期 / 分类,不显示内容)
| 文件名 | 大小 | 修改时间 | 分类 |
|---|---|---|---|
| decoderMaskedMultiheadAttentionUtils.h | 104.5 KB | 2023-12-19 23:38 | 🗂️ 其他 |
| unfusedAttentionKernels.cu | 74.5 KB | 2023-12-19 23:38 | 🗂️ 其他 |
| beamSearchTopkKernels.cu | 37.4 KB | 2023-12-19 23:38 | 🗂️ 其他 |
| decodingKernels.cu | 27.2 KB | 2023-12-19 23:38 | 🗂️ 其他 |
| unfusedAttentionKernels_2.cu | 18.8 KB | 2023-12-19 23:38 | 🗂️ 其他 |
| samplingTopPKernels.cu | 16.8 KB | 2023-12-19 23:38 | 🗂️ 其他 |
| customAllReduceKernels.cu | 16.5 KB | 2023-12-19 23:38 | 🗂️ 其他 |
| samplingTopKKernels.cu | 16.2 KB | 2023-12-19 23:38 | 🗂️ 其他 |
| samplingPenaltyKernels.cu | 13.9 KB | 2023-12-19 23:38 | 🗂️ 其他 |
| beamSearchPenaltyKernels.cu | 11.3 KB | 2023-12-19 23:38 | 🗂️ 其他 |
| layernormKernels.cu | 10.2 KB | 2023-12-19 23:38 | 🗂️ 其他 |
| decoderMaskedMultiheadAttention.h | 10.1 KB | 2023-12-19 23:38 | 🗂️ 其他 |
| gptKernels.cu | 9.8 KB | 2023-12-19 23:38 | 🗂️ 其他 |
| groupGemm.cu | 9.1 KB | 2023-12-19 23:38 | 🗂️ 其他 |
| rmsnormKernels.cu | 8.2 KB | 2023-12-19 23:38 | 🗂️ 其他 |
| banRepeatNgram.cu | 7.9 KB | 2023-12-19 23:38 | 🗂️ 其他 |
| decodingKernels.h | 6.9 KB | 2023-12-19 23:38 | 🗂️ 其他 |
| kvCacheUtils.h | 6.8 KB | 2023-12-19 23:38 | 🗂️ 其他 |
| unfusedAttentionKernels.h | 6.7 KB | 2023-12-19 23:38 | 🗂️ 其他 |
| decodingCommon.h | 5.9 KB | 2023-12-19 23:38 | 🗂️ 其他 |
| samplingTopPKernels.h | 5.9 KB | 2023-12-19 23:38 | 🗂️ 其他 |
| samplingTopKKernels.h | 5.6 KB | 2023-12-19 23:38 | 🗂️ 其他 |
| decoderMaskedMultiheadAttention.cu | 5.5 KB | 2023-12-19 23:38 | 🗂️ 其他 |
| stopCriteriaKernels.cu | 5.3 KB | 2023-12-19 23:38 | 🗂️ 其他 |
| quantization.cu | 5.2 KB | 2023-12-19 23:38 | 🗂️ 其他 |
| banBadWords.cu | 5.0 KB | 2023-12-19 23:38 | 🗂️ 其他 |
| decodingCommon.cu | 4.8 KB | 2023-12-19 23:38 | 🗂️ 其他 |
| preQuantScaleKernel.cu | 4.1 KB | 2023-12-19 23:38 | 🗂️ 其他 |
| onlineSoftmaxBeamsearchKernels.cu | 4.0 KB | 2023-12-19 23:38 | 🗂️ 其他 |
| samplingPenaltyKernels.h | 3.9 KB | 2023-12-19 23:38 | 🗂️ 其他 |
| beamSearchTopkKernels.h | 3.6 KB | 2023-12-19 23:38 | 🗂️ 其他 |
| lookupKernels.cu | 3.3 KB | 2023-12-19 23:38 | 🗂️ 其他 |
| stopCriteriaKernels.h | 3.0 KB | 2023-12-19 23:38 | 🗂️ 其他 |
| gptKernels.h | 3.0 KB | 2023-12-19 23:38 | 🗂️ 其他 |
| customAllReduceKernels.h | 2.7 KB | 2023-12-19 23:38 | 🗂️ 其他 |
| beamSearchPenaltyKernels.h | 1.4 KB | 2023-12-19 23:38 | 🗂️ 其他 |
| onlineSoftmaxBeamsearchKernels.h | 1.3 KB | 2023-12-19 23:38 | 🗂️ 其他 |
| penaltyTypes.h | 1.2 KB | 2023-12-19 23:38 | 🗂️ 其他 |
| multiHeadAttentionCommon.h | 1.2 KB | 2023-12-19 23:38 | 🗂️ 其他 |
| layernormKernels.h | 1.2 KB | 2023-12-19 23:38 | 🗂️ 其他 |
| preQuantScaleKernel.h | 1.1 KB | 2023-12-19 23:38 | 🗂️ 其他 |
| banRepeatNgram.h | 1.1 KB | 2023-12-19 23:38 | 🗂️ 其他 |
| CMakeLists.txt | 1.1 KB | 2023-12-19 23:38 | 📚 文档 |
| rmsnormKernels.h | 1.1 KB | 2023-12-19 23:38 | 🗂️ 其他 |
| groupGemm.h | 1.1 KB | 2023-12-19 23:38 | 🗂️ 其他 |
| quantization.h | 1.1 KB | 2023-12-19 23:38 | 🗂️ 其他 |
| banBadWords.h | 1.1 KB | 2023-12-19 23:38 | 🗂️ 其他 |
| lookupKernels.h | 1.0 KB | 2023-12-19 23:38 | 🗂️ 其他 |
(仅显示前 300 条,请继续进入子文件夹缩小范围)