广泛使用的开源深度学习框架,由PyTorch基金会维护其生态
AI开发平台 pytorch.org
PyTorch 是什么
PyTorch 是开源的深度学习框架,最初由 Meta(原 Facebook)开发,现在由 Linux 基金会旗下的 PyTorch 基金会治理(2022 年 9 月起)。它以张量为基本数据类型,用 Autograd 自动求导,可以用 GPU 加速训练,是目前最流行的深度学习框架之一。ChatGPT、特斯拉 Autopilot、Hugging Face Transformers 等系统都基于 PyTorch。
能做什么
- 搭建和训练神经网络:用几行代码定义模型、训练和推理
- GPU 加速:通过 CUDA 等后端用显卡加速计算,并支持并行训练
- 动态计算图:代码按 Python 的方式执行,调试直观
- 编译加速:2023 年 3 月发布的 PyTorch 2.0 加入 TorchDynamo 编译器,官方称可让代码最高提速两倍
- 生态丰富:PyTorch 基金会还托管了 vLLM、DeepSpeed、Ray、ExecuTorch、Safetensors 等项目
价格
开源免费。
适合谁
- 做深度学习研究的学生和研究人员
- 训练、微调大模型的 AI 工程师
- 想入门神经网络的开发者
使用前要知道
- 安装时要选对和自己显卡、CUDA 版本匹配的包,官网首页有安装命令生成器。
- PyTorch 偏底层,只想调用现成模型的话,Hugging Face Transformers 等上层库更省事。
同类工具
可以对比 TensorFlow、JAX、Keras;国内可以看百度飞桨(PaddlePaddle)。