boto3相关内容

如何使用 list_objects_v2 从 S3 获取 1000 多个对象?

我在 s3 上有超过 500,000 个对象.我正在尝试获取每个对象的大小.我为此使用了以下 python 代码 import boto3桶 = '桶'前缀 = '前缀'contents = boto3.client('s3').list_objects_v2(Bucket=bucket, MaxKeys=1000, Prefix=prefix)[“内容"]对于 c 的内容:打印(c[“尺寸"] ..
发布时间:2021-12-15 19:58:07 Python

使用 Python 从 AWS S3 下载文件

我正在尝试使用以下代码将文件从 Amazon S3 存储桶下载到我的本地,但出现“无法找到凭据"的错误 下面是我写的代码: from boto3.session 导入会话导入 boto3ACCESS_KEY = 'ABC'SECRET_KEY = 'XYZ'会话 = 会话(aws_access_key_id=ACCESS_KEY,aws_secret_access_key=SECRET_K ..
发布时间:2021-12-15 19:48:57 其他开发

使用 Boto3 作为字符串打开 S3 对象

我知道使用 Boto 2 可以将 S3 对象作为字符串打开:get_contents_as_string() boto3 中是否有等效的函数? 解决方案 read 将返回字节.至少对于 Python 3,如果你想返回一个字符串,你必须使用正确的编码进行解码: 导入boto3s3 = boto3.resource('s3')obj = s3.Object(bucket, key)ob ..
发布时间:2021-12-15 19:39:00 Python

Boto3/S3:使用 copy_object 重命名对象

我正在尝试使用 python boto3 重命名 s3 存储桶中的文件,但我无法清楚地理解参数.有人可以帮我吗? 我打算将对象复制到新对象,然后删除实际对象. 我在这里发现了类似的问题,但我需要使用 boto3 的解决方案. 解决方案 我找到了另一个解决方案 s3 = boto3.resource('s3')s3.Object('my_bucket','new_file_ke ..
发布时间:2021-12-06 12:58:11 Python

如何使用 Boto3 下载 S3 存储桶的最新文件?

我能找到的其他问题是指 Boto 的旧版本.我想下载 S3 存储桶的最新文件.在 文档 中,我发现有是一个 list_object_versions() 方法,它为您提供一个布尔值 IsLatest.不幸的是,我只设法建立了一个连接并下载了一个文件.你能告诉我如何扩展我的代码以获取存储桶的最新文件吗?谢谢 导入boto3conn = boto3.client('s3',region_name=" ..
发布时间:2021-12-06 12:46:24 Python

如何使用 Boto3 分页

背景: 列出 IAM 用户的 AWS 操作默认返回最多 50 个. 阅读下面的文档(链接)我运行以下代码并通过设置“MaxItems"返​​回完整的数据集到 1000. paginator = client.get_paginator('list_users')response_iterator = paginator.paginate(分页配置={'MaxItems': 1000, ..
发布时间:2021-12-06 12:32:44 其他开发

连接到 boto3 S3 时如何指定凭据?

在 boto 上,我曾经在以这种方式连接到 S3 时指定我的凭据: 导入boto从 boto.s3.connection 导入密钥,S3ConnectionS3 = S3Connection( settings.AWS_SERVER_PUBLIC_KEY, settings.AWS_SERVER_SECRET_KEY ) 然后我可以使用 S3 来执行我的操作(在我的例子中从存储桶中删除一个对象 ..
发布时间:2021-12-06 12:26:35 Python

我可以匿名使用 boto3 吗?

使用 boto,我可以通过传递 anon= 关键字参数,无需凭据即可连接到公共 S3 存储桶. s3 = boto.connect_s3(anon=True) 这可以用 boto3 实现吗? 解决方案 是的.您的凭据用于对您发出的所有请求进行签名,因此您需要做的是将客户端配置为根本不执行签名步骤.你可以这样做: 导入boto3从 botocore 进口 UNSIGNED从 botoc ..
发布时间:2021-12-06 12:16:46 Python

使用 boto3 连接 CloudFront 时如何选择 AWS 配置文件

我正在使用 Boto 3 python 库,并想连接到 AWS CloudFront.我需要指定正确的 AWS Profile (AWS Credentials),但是查看官方文档,我看不到指定它的方法. 我正在使用以下代码初始化客户端:client = boto3.client('cloudfront') 然而,这会导致它使用默认配置文件进行连接.我找不到可以指定要使用的配置文件的方 ..
发布时间:2021-12-06 12:14:41 Python

如何使用来自 s3 的预训练模型来预测一些数据?

我已经使用 sagemaker 训练了一个语义分割模型,输出已保存到 s3 存储桶中.我想从 s3 加载这个模型来预测 sagemaker 中的一些图像. 我知道如何预测我是否在训练后让笔记本实例继续运行,因为它只是一个简单的部署,但如果我想使用旧模型并没有真正的帮助. 我已经查看了这些来源,并且能够自己想出一些东西,但它不起作用,因此我在这里: https://course.f ..
发布时间:2021-11-27 10:51:46 Python

将 Dataframe 保存到 csv 直接到 s3 Python

我有一个想要上传到新 CSV 文件的 Pandas DataFrame.问题是我不想在将文件传输到 s3 之前将其保存在本地.有没有像 to_csv 这样的方法可以直接将数据帧写入 s3?我正在使用 boto3. 这是我目前所拥有的: 导入boto3s3 = boto3.client('s3', aws_access_key_id='key', aws_secret_access_key='s ..
发布时间:2021-11-27 10:50:32 Python

从 boto3 检索 S3 存储桶中的子文件夹名称

使用 boto3,我可以访问我的 AWS S3 存储桶: s3 = boto3.resource('s3')存储桶 = s3.Bucket('我的存储桶名称') 现在,存储桶包含文件夹first-level,该文件夹本身包含多个以时间戳命名的子文件夹,例如1456753904534.我需要知道我正在做的另一项工作的这些子文件夹的名称,我想知道是否可以让 boto3 为我检索这些. 所以我 ..
发布时间:2021-11-27 10:48:19 Python