3400G+A320，看网上说只能运行在x8。
我理解的是PCIe只是数据交换，而推理的话不是权重加载到显存并不释放吗。
那是不是说就只有在加载权重的时候慢一点，后续的推理输入和输出交换的慢一点，推理速度并不会受影响？
对于炼丹来说，是不是性能损失不会很大？