我们可以使用 GCP Cloud 功能将数据从 Google 云存储发送到 SFTP 服务器吗? [英] Can we send data from Google cloud storage to SFTP server using GCP Cloud function?

查看:119
本文介绍了我们可以使用 GCP Cloud 功能将数据从 Google 云存储发送到 SFTP 服务器吗?的处理方法,对大家解决问题具有一定的参考价值,需要的朋友们下面随着小编来一起学习吧!

问题描述

我想从 Google 云存储中获取 .csv 文件并将其发送到 SFTP 服务器.我不知道,我做错了什么,但我收到了在云存储中找不到文件的错误.我的代码如下:

I want to take a .csv file from Google cloud storage and send it to SFTP server. I do not know, what I am doing wrong, but I am getting the error that file not found in the cloud storage. My code is below:

import base64
import os
import pysftp
import re
import csv
from google.cloud import storage
from google.cloud import bigquery

def hello_sftp(event, context):
    
    #defining credentials for the transfer
    myHostName = 'lmno.abcd.com'
    myUsername = 'pqr'
    myPassword = 'xyz'
    filename = 'test_file.csv'
    path = "gs://testing/"

    copy_file_on_ftp(myHostName, myUsername, myPassword, filename, path)
   
def copy_file_on_ftp(myHostName, myUsername, myPassword, filename, localpath):
    
    remotepath = '/Export/' + str(filename)
    print(' ')
    print(localpath)
    print(' ')
    cnopts = pysftp.CnOpts()
    cnopts.hostkeys = None
    
    with pysftp.Connection(
    host=myHostName, username=myUsername, password=myPassword, cnopts=cnopts
    ) as sftp:
        print("Connection successfully established . . . ")
        print("Exporting . . . ")
        print("local path and file name is : ", localpath+filename)
        sftp.put(localpath =localpath+filename, remotepath=remotepath)
    sftp.close()
    print("export to sFTP successful!")

但我收到错误

FileNotFoundError: [Errno 2] 没有这样的文件或目录:'gs://testing/test_file.csv'

FileNotFoundError: [Errno 2] No such file or directory: 'gs://testing/test_file.csv'

那里不能发送数据吗?

推荐答案

pysftp不理解gs://.

相反,使用 Google API 将文件下载到 SFTP 类文件对象,该对象代表使用 pysftp 打开的 SFTP 服务器上的目标文件:

Instead, use Google API to download the file to SFTP file-like object representing the target file on the SFTP server opened with the pysftp:

storage_client = storage.Client()

bucket = storage_client.bucket(bucket_name)
blob = bucket.blob(source_blob_name)
with sftp.open(remotepath, 'w', 32768) as f:
    blob.download_to_file(f)

这篇关于我们可以使用 GCP Cloud 功能将数据从 Google 云存储发送到 SFTP 服务器吗?的文章就介绍到这了,希望我们推荐的答案对大家有所帮助,也希望大家多多支持IT屋!

查看全文
登录 关闭
扫码关注1秒登录
发送“验证码”获取 | 15天全站免登陆