用PyTorch预测网格坐标序列 [英] Predicting sequence of grid coordinates with PyTorch
问题描述
我有一个类似的开放问题here on Cross Validated(虽然不是以实现为重点的,我打算这个问题是这样的,所以我认为它们都是有效的)。
我正在进行一个项目,该项目使用传感器来监控人员的GPS位置。然后,坐标将被转换为简单的网格表示。我想尝试和做的是,在记录用户路线后,训练神经网络来预测下一个坐标,即以下面的例子为例,用户在一段时间内只重复两条路线,Home->A和Home->B。
我想用不同长度的序列训练RNN/LSTM,例如(14,3), (13,3), (12,3), (11,3), (10,3), (9,3), (8,3), (7,3), (6,3), (5,3), (4,3), (3,3), (2,3), (1,3)
,然后还用不同长度的序列预测,例如对于这个示例路线,如果我调用
route = [(14,3), (13,3), (12,3), (11,3), (10,3)] //pseudocode
pred = model.predict(route)
pred
应该给我(9,3)
(或者最好是更长的预测,例如((9,3), (8,3), (7,3), (6,3), (5,3), (4,3), (3,3), (2,3), (1,3)
))
如何将此类训练序列提供给下面标识的init
和forward
操作?
self.rnn = nn.RNN(input_size, hidden_dim, n_layers, batch_first=True)
out, hidden = self.rnn(x, hidden)
另外,整个路径应该是张量,还是路径内的每组坐标都是张量?
推荐答案
我对RNN不是很有经验,但我会试一试。
开始之前需要注意的几件事:
1.您的数据不是normalized。
2.您需要的输出预测(即使在标准化之后)没有限制到[-1, 1]
范围,因此您不能对输出预测执行tanh
或ReLU
激活。
我建议用一个简单的网络来解决您的问题。它有一个具有8个隐藏状态的RNN层,以及一个完全连接的层来输出预测。
class MyRnn(nn.Module):
def __init__(self, in_d=2, out_d=2, hidden_d=8, num_hidden=1):
super(MyRnn, self).__init__()
self.rnn = nn.RNN(input_size=in_d, hidden_size=hidden_d, num_layers=num_hidden)
self.fc = nn.Linear(hidden_d, out_d)
def forward(self, x, h0):
r, h = self.rnn(x, h0)
y = self.fc(r) # no activation on the output
return y, h
您可以使用您的两个序列作为训练数据,每个序列都是形状为T
x1
x2
的张量,其中T
是序列长度,每个条目是二维的(x-y)。
预测(在培训期间):
rnn = MyRnn()
pred, out_h = rnn(seq[:-1, ...], torch.zeros(1, 1, 8)) # given time t predict t+1
err = criterion(pred, seq[1:, ...]) # compare prediction to t+1
模型训练完成后,您可以先演示k
步骤,然后继续预测后续步骤:
rnn.eval()
with torch.no_grad():
pred, h = rnn(s[:k,...], torch.zeros(1, 1, 8, dtype=torch.float))
# pred[-1, ...] is the predicted next step
prev = pred[-1:, ...]
for j in range(k+1, s.shape[0]):
pred, h = rnn(prev, h) # note how we keep track of the hidden state of the model. it is no longer init to zero.
prev = pred
我把所有东西都放在colab notebook中,这样您就可以玩它了。
为简单起见,我在这里忽略了数据标准化,但您可以在CoLab笔记本中找到它。
接下来是什么?
这些类型的预测容易出现误差累积。这个问题应该在训练期间解决,方法是将输入从基本真实的"干净"序列转移到实际的预测序列,这样模型将能够补偿其误差。
这篇关于用PyTorch预测网格坐标序列的文章就介绍到这了,希望我们推荐的答案对大家有所帮助,也希望大家多多支持IT屋!