amazon-s3相关内容

如何从 S3 读取拼花数据以触发数据帧 Python?

我是 Spark 的新手,我找不到这个...我有很多镶木地板文件上传到 s3 位置: s3://a-dps/d-l/sco/alpha/20160930/parquet/ 这个文件夹的总大小是20+ Gb,.如何将其分块并将其读入数据帧如何将所有这些文件加载​​到数据框中? 分配给 Spark 集群的内存为 6 GB. from pyspark import SparkContext ..
发布时间:2021-12-15 20:32:21 Python

Amazon S3 上的自定义标头

是否可以在 Amazon S3 上使用任意命名的自定义标头? 例如,我使用指向 Amazon S3 作为源服务器的 CDN,为了在 CDN 上启用高级功能,我需要使用自定义标头 x-something-something... 我认为使用 x-amz-meta-(something) 可以做到这一点,但是更通用的东西比如 x-(something)-(something)没有 amz? ..
发布时间:2021-12-15 20:32:13 其他开发

collectstatic 在 S3 中错误地创建了多个 CSS 文件

我已将文件上传到 S3,使用我的 Wagtail/django 应用程序(静态和上传)工作正常.现在我正在尝试使用 ManifestStaticFilesStorage 来启用缓存破坏.应用程序正确生成了 url,并且文件正在使用哈希复制到 S3. 但是每次我运行 collectstatic 时,一些文件都会被复制两次到 S3 - 每个都有不同的哈希值.到目前为止,所有 CSS 文件都存在此 ..
发布时间:2021-12-15 20:31:50 其他开发

适用于所有存储桶的 Amazon S3 缓存控制

我使用 Amazon S3 和 CloudFront.我有静态图片,用户下载图片(每小时 + 100 张图片). 我需要为所有存储桶设置 Cache-Control http 标头. 我在谷歌搜索,但找不到任何说明,如何执行此操作. 是的,我知道文件属性中的 MetaData,但我需要所有存储桶的 MetaData(+ 未来的新文件). 如果在亚马逊控制台无法做到,有没有开 ..
发布时间:2021-12-15 20:31:08 其他开发

亚马逊 s3 生成链接的最长过期时间是多少?

我尝试将到期日期设置为 2100 年,但它说它无效.或者是否有可能以某种方式使其永久化? 解决方案 对于使用 S3 Signature Version 2 签名的 URL,时间限制似乎是 2038 年 Unix epoch 的结束,但对于 Signature Version 4,限制是7 天,因为 V4 中的签名密钥本身最长有效期为 7 天. 如果您不熟悉 V2 和 V4 之间的区别 ..
发布时间:2021-12-15 20:30:57 Java开发

使用 HTTP POST 上传 AWS S3 浏览器提供无效签名

我正在开发一个网站,用户应该能够将视频文件上传到 AWS.为了避免不必要的流量,我希望用户直接上传到 AWS(而不是通过 API 服务器).为了不在 JavaScript 中公开我的密钥,我试图在 API 中生成一个签名.但是,当我尝试上传时,它确实告诉我签名不匹配. 对于签名生成,我一直在使用 http://docs.aws.amazon.com/AmazonS3/latest/API/s ..
发布时间:2021-12-15 20:30:43 C#/.NET

如何指定与目录不匹配的对象过期前缀?

我有一个带有 img、mov 和 tmp 目录的 S3 存储桶.我希望添加到 tmp 的所有内容在超过三天后自动删除.所以我在我的存储桶上设置了对象过期规则,如下所示:> 前缀:“tmp/" 有效期:3 问题是,虽然 tmp 中的文件被按计划删除,tmp 本身也匹配这个前缀(不考虑尾部斜杠)并且每三天被删除一次. 是否有任何前缀可以匹配 tmp 的内容,但不匹配 tmp 本身?像“ ..
发布时间:2021-12-15 20:30:06 其他开发

在同一个 Cloudformation Stack 中连接 Athena 和 S3

从文档中,AWS::Athena::NamedQuery,不清楚如何将 Athena 附加到同一堆栈中指定的 S3 存储桶. 如果我不得不从 example,我想你可以写一个模板, 资源:我的S3Bucket:类型:AWS::S3::Bucket... 其他参数 ...AthenaNamedQuery:类型:AWS::Athena::NamedQuery特性:数据库:“db_name"名称 ..

AWS java SDK 手动设置签名版本

我正在尝试访问位于 AWS S3 之上的 blob 存储服务.它支持 AWS SDK 及其签名版本 2. 我正在使用代码来访问这个服务. 是否可以手动设置 AWS SDK 发出的请求的签名版本? 根据本页 AWS 当前支持两种签名版本:签名版本 2 和签名版本 4,本节将介绍它们.大多数服务支持版本 4,如果服务支持版本 4,我们强烈建议您使用该版本. 我找不到如何手动将签名 ..
发布时间:2021-12-15 20:29:42 其他开发

使用 Api 网关、Lambda 函数将图像上传到 S3 存储桶

我正在尝试从邮递员上传图像(base64),当我点击无服务器 API 时,我可以看到,在 S3 存储桶中添加了一些东西,但没有添加图像,我正在使用 nodejs Lambda 函数,我试过了许多解决方案,但没有奏效.请告诉我我错在哪里: const AWS = require('aws-sdk');const s3 = 新的 AWS.S3();const moment = require('mo ..
发布时间:2021-12-15 20:29:16 其他开发

如何更改 Amazon S3 上的 MIME?

我正在尝试更改存储在 Amazon S3 上的 mp4 视频文件的 MIME. 当您右键单击然后元数据下拉列表时,我尝试在属性列表下进行搜索.但是那里没有选择. 你怎么做? 解决方案 问题似乎是在 S3 中更改 MIME. 更具体地说,您需要登录 Amazon S3 控制台 就在您需要更改(或选择它们)的文件上 点击属性 点击元数据 突出显示“值"类别中的文本 ..
发布时间:2021-12-15 20:29:01 其他开发

将 S3 文件拆分为 1000 行的小文件

我在 S3 上有一个大约 3 亿行的文本文件.我希望将此文件拆分为每个 1,000 行的较小文件(最后一个文件包含其余部分),然后我想将其放入 S3 上的另一个文件夹或存储桶中. 到目前为止,我一直在使用 linux 命令在本地驱动器上运行它: split -l 1000 文件 将原始文件拆分为 1,000 行的较小文件.但是,对于这样的较大文件,下载然后从本地驱动器重新上传到 S3 似 ..
发布时间:2021-12-15 20:28:46 Python

com.amazonaws.services.s3.model.AmazonS3Exception: Forbidden (Service: Amazon S3; Status Code: 403; Error Code: 403 Forbidden; Request ID: XXXXXXXX)

几天前,当我尝试将文件推送到我的 S3Bucket 时,我收到了此异常.Ealier 似乎一切正常,我确信我这边没有代码更改. com.amazonaws.services.s3.model.AmazonS3Exception:禁止(服务:Amazon S3;状态代码:403;错误代码:403 Forbidden;请求 ID:XXXXXXXXXXXX),S3 扩展请求 ID:XXXXXXXXXX ..
发布时间:2021-12-15 20:28:28 Java开发