【百科】GPU的使用

什么时候会用到GPU？

1. 数据或模型移动到　GPU设备上。

2. 调用支持GPU加速到计算库或框架。

GPU的使用场景？

1. 深度学习训练或推理

2. 　GPU加速的向量运算/图神经网络（GNN）

3. 本地运行LLM/Embedding模型

体现方式？

1. 显式调用：

.to("cuda")

.cuda()

device=0

with tf.device('/GPU:0')

2. 隐式调用：

有些库（如 TensorFlow、cuDF、FAISS-GPU、XGBoost GPU 版）如果检测到 GPU，会自动用 GPU，不需要额外写代码，但运行时会在日志中显示：

3. 模型调用时触发：如果你用 API（如 OpenAI API、Claude API），即使它们内部用 GPU，你本地也看不到 GPU 代码，因为算力发生在云端。