Torch-TensorRT是pytorch官方对tensorrt的支持，将tensorrt推理加速功能直接集成进了pytorch。但是官方只提供linux预编译二进制，而缺乏对Windows编译支持，如果按照官方指引，不出意外将会得到一堆编译错误，本文记录一下几点技巧
1. 安装TensorRT,CUDA,CUDNN
本步骤略过，在Nvidia官网安装好之后添加到PATH即可
2. 指定TORCH_DIR
下载大于2.0版本的libtorch
在cmake-gui中指向下载的libtorch目录，注意必须为libtorch/share/cmake/Torch
修改mkl链接库
如果你没有安装mkl，可以直接使用conda install mkl安装，无需去intel官网注册下载，但要注意随后在Visual Studio中更改mkl链接库的名字。需要更改的有torch_trt、torchtrt_plugin、torchtrt_runtime、torchtrtc这几个解决方案，给mkl_*.lib加上_dll后缀即可。
官方的Bug
官方的cmake其实留了一个bug，那就是core/lowering/passes忘了编译unpack_scaled_dot_product_attention.cpp，会导致后面找不到函数的reference。我已经修复了这个问题并给官方提交了PR，相信不久会合入master.