PyTorch常用的包有哪些,作用是什么?
PyTorch本身是一个基于Python的科学计算库,特点是可以在GPU上运算。
1、torch:
张量的有关运算。如创建、索引、连接、转置、加减乘除、切片等。
2、torch.nn:
包含搭建神经网络层的模块(Modules)和一系列loss函数。如全连接、卷积、BN批处理、dropout、CrossEntryLoss、MSELoss等。
3、torch.nn.functional:
常用的激活函数relu、leaky_relu、sigmoid等。
4、torch.autograd:
提供Tensor所有操作的自动求导方法。
5、torch.optim:
各种参数优化方法,例如SGD、AdaGrad、Adam、RMSProp等
6、torch.utils.data:
用于加载数据。
7、torchvision包
torchvision是PyTorch中专门用来处理图像的库,这个包中常用的几个模块:
torchvision.datasets:是用来进行数据加载的
torchvision.models:为我们提供了已经训练好的模型,让我们可以加载之后,直接使用。包括AlexNet、VGG、ResNet
torchvision.transforms:为我们提供了一般的图像转换操作类。
torchvision.utils:将给定的Tensor保存成image文件。
8、from PIL import Image
我们一般在pytorch中处理的图像无非这几种格式:
PIL:使用python自带图像处理库读取出来的图片格式
numpy:使用python-opencv库读取出来的图片格式
tensor:pytorch中训练时所采取的向量格式(当然也可以说图片)
from PIL import Image是在进行PIL与Tensor的转换,也就是图片格式的转换。
9、matplotlib
这是Pytorch的一个绘图库,是Python中最常用的可视化工具之一,可以非常方便地创建2D图表和一些基本的3D图表。
示例学习入门代码:
- import torch
- from torchvision import transforms
- from torchvision import datasets
- from torch.utils.data import DataLoader
- import torch.nn.functional as F
- import torch.optim as optim
- import matplotlib.pyplot as plt
- # prepare dataset
- batch_size = 64
- transform = transforms.Compose([transforms.ToTensor(), transforms.Normalize((0.1307,), (0.3081,))])
- train_dataset = datasets.MNIST(root='../dataset/mnist/', train=True, download=True, transform=transform)
- train_loader = DataLoader(train_dataset, shuffle=True, batch_size=batch_size)
- test_dataset = datasets.MNIST(root='../dataset/mnist/', train=False, download=True, transform=transform)
- test_loader = DataLoader(test_dataset, shuffle=False, batch_size=batch_size)
- # design model using class
- class Net(torch.nn.Module):
- def __init__(self):
- super(Net, self).__init__()
- self.conv1 = torch.nn.Conv2d(1, 10, kernel_size=5)
- self.conv2 = torch.nn.Conv2d(10, 20, kernel_size=5)
- self.pooling = torch.nn.MaxPool2d(2)
- self.fc = torch.nn.Linear(320, 10)
- def forward(self, x):
- # flatten data from (n,1,28,28) to (n, 784)
- batch_size = x.size(0)
- x = F.relu(self.pooling(self.conv1(x)))
- x = F.relu(self.pooling(self.conv2(x)))
- x = x.view(batch_size, -1) # -1 此处自动算出的是320
- # print("x.shape",x.shape)
- x = self.fc(x)
- return x
- model = Net()
- device = torch.device("cuda" if torch.cuda.is_available() else "cpu")
- model.to(device)
- # construct loss and optimizer
- criterion = torch.nn.CrossEntropyLoss()
- optimizer = optim.SGD(model.parameters(), lr=0.01, momentum=0.5)
- # training cycle forward, backward, update
- def train(epoch):
- running_loss = 0.0
- for batch_idx, data in enumerate(train_loader, 0):
- inputs, target = data
- inputs, target = inputs.to(device), target.to(device)
- optimizer.zero_grad()
- outputs = model(inputs)
- loss = criterion(outputs, target)
- loss.backward()
- optimizer.step()
- running_loss += loss.item()
- if batch_idx % 300 == 299:
- print('[%d, %5d] loss: %.3f' % (epoch + 1, batch_idx + 1, running_loss / 300))
- running_loss = 0.0
- def test():
- correct = 0
- total = 0
- with torch.no_grad():
- for data in test_loader:
- images, labels = data
- images, labels = images.to(device), labels.to(device)
- outputs = model(images)
- _, predicted = torch.max(outputs.data, dim=1)
- total += labels.size(0)
- correct += (predicted == labels).sum().item()
- print('accuracy on test set: %d %% ' % (100 * correct / total))
- return correct / total
- if __name__ == '__main__':
- epoch_list = []
- acc_list = []
- for epoch in range(10):
- train(epoch)
- acc = test()
- epoch_list.append(epoch)
- acc_list.append(acc)
- plt.plot(epoch_list, acc_list)
- plt.ylabel('accuracy')
- plt.xlabel('epoch')
- plt.show()
复制代码
|