gcp相关内容

使用 Apache Airflow 将文件从一个 Google Cloud Storage Bucket 复制到另一个

问题:我想将文件从 Google Cloud Storage Bucket 中的文件夹(例如 Bucket1 中的 Folder1)复制到另一个 Bucket(例如 Bucket2).我找不到任何用于 Google Cloud Storage 复制文件的 Airflow Operator. 解决方案 我刚刚在2小时前上传的contrib中发现了一个新的算子:https://github.c ..

使用服务帐户的 YouTube 报告 API

按照 Google 的文档,您应该能够通过使用服务帐户在无需用户身份验证的情况下使用 YouTube Reporting API. 目前我有一个非常简单的示例,它应该给我一个可用工作列表,但可能是空的.但我得到了 403 权限被拒绝. 请求: $client = new \Google_Client();$client->setAuthConfig('service-account- ..
发布时间:2022-01-19 12:13:45 PHP

创建 gpu 谷歌实例时出错

我曾尝试在 Google Cloud Platform 中创建 GPU 实例,但每次尝试创建实例时,它都会显示“您已达到 0 GPU NVIDIA K80 的限制". 我正在尝试在 us-east1-c/us-west1-b 中创建一个具有 4 个 vCPU、8-15 GB 内存、1 个 GPU 的实例. 请帮助解决以下问题. 解决方案 按照指定的顺序执行所有步骤,否则在配额页 ..
发布时间:2021-12-20 19:16:06 其他开发

应用 pyspark ALS 的“recommendProductsForUsers"时出现 StackOverflow 错误;(尽管可用集群> 300GB Ram)

寻求专业知识来指导我解决以下问题. 背景: 我正在尝试使用受 这个例子 作为部署基础架构,我使用 Google Cloud Dataproc 集群. 我的代码中的基石是记录了“recommendProductsForUsers"功能here 返回模型中所有用户的前 X 个产品 我遇到的问题 ALS.Train 脚本在 GCP 上运行流畅且扩展性良好(轻松超过 100 万 ..

Kafka 分区和偏移量消失了

我的 Kafka 客户端在启用了自动缩放的 GCP App Engine Flex 环境中运行(GCP 将实例数保持在至少两个,并且由于 CPU 使用率低,它主要是 2 个).在这 2 个虚拟机中运行的消费者组几个月来一直在消费来自 20 个分区中各种主题的消息,最近我注意到旧主题中的分区缩小到仅 1 (!),并且该消费者组的偏移量被重置为 0.主题-[partition] 目录也从 kafka- ..
发布时间:2021-11-12 03:00:52 其他开发

Google GPU Beta是否可以免费试用?

我正在使用300美元的Google免费试用版.最近尝试根据此启动GPU实例. 我已经配置了正确的区域.但是消息是"已超过配额'NVIDIA_K80_GPUS'.限制:0.0 ".这是否意味着GPU无法免费试用?还是gcp有点错误. 解决方案 默认情况下,每一个配额为零.如果他需要增加GPU,则需要请求额外的配额.仅当我们升级帐户后,此表格才可用.在增加配额表格中,"请注意,在免费试用 ..
发布时间:2021-05-12 19:43:58 其他开发

Kafka分区和偏移量消失了

我的Kafka客户端在启用了自动缩放的GCP App Engine Flex环境中运行(由于CPU使用率较低,GCP会将实例计数至少保留为2,并且大多数情况下为2).在2个虚拟机上运行的使用者组使用了来自20个分区中各种主题的消息已有几个月了,最近我注意到,较旧主题中的分区缩小为1(!),该使用者组的偏移量重置为0.[partition]目录也从kafka-logs目录中消失了.奇怪的是,最近创建 ..
发布时间:2021-04-08 19:01:31 其他开发

在Cloud SQL中运行Knex迁移

我正在使用Google App Engine和Cloud SQL运行应用程序. 我已经成功设置了本地和产品环境以及它们各自的数据库.刚才,我已经设法使用Knex迁移CLI在本地环境中设置了一些迁移,并且一切在本地都可以正常工作. 在执行gcloud app deploy之后(或之前)如何运行这些迁移(和种子!)?无论如何,我看不到要从Cloud Shell中访问我的项目文件. 我 ..
发布时间:2021-02-15 19:06:57 其他开发

两列上的BigQuery DeDuplication作为唯一键

我们虔诚地使用BigQuery,并且有两个基本上由不同过程并行更新的表.我有一个问题,我们没有表的唯一标识符,目标是在可能的情况下将两个表合并为零重复.唯一标识符是将两列组合在一起. 我尝试了各种基于MySQL的查询,但似乎没有一个在BigQuery中起作用.因此,我在这里发布一些帮助. :) 步骤1.将“干净"表复制到新的合并表中. 步骤2.查询“脏"(旧)表并插入所有缺少的条 ..
发布时间:2020-11-18 21:17:06 其他开发

如何在不使用GAE的情况下创建复合索引?

我正在使用Go SDK开发Google Cloud Datastore,并遇到GQL查询错误-“您的Datastore没有此查询所需的综合索引(开发人员提供)."我知道我需要创建复合索引.但是根据 Google数据存储区文档,它假定该应用程序已作为GAE启动并运行,而在我的情况下,我们在GKE和Go SDK上运行它以与数据存储区配合使用. 所以我的问题是,是否仅需要一个GAE实例来创建复合索 ..
发布时间:2020-11-16 23:43:10 其他开发

Google Cloud Stackdriver Monitor计算引擎磁盘使用率

自最近以来,我已经启动了Google计算引擎实例。 我探索了Google Cloud堆栈驱动程序来监控CPU使用率等。 我已将Stackdriver代理安装到Compute Engine实例之一上进行测试。我曾尝试在仪表板上创建新图表,并尝试了各种指标。 但是我找不到任何可以显示磁盘使用情况的指标 是的,有Stackdriver agent支持的插件列表,用于抽取自定义指标 ..
发布时间:2020-10-02 23:47:08 其他开发

应用pyspark ALS的"recommendProductsForUsers"时出现StackOverflow错误(尽管有超过300GB Ram的群集可用)

正在寻找专业知识来指导我解决以下问题. 背景: 我正在尝试从此 例子 作为部署基础架构,我使用Google Cloud Dataproc集群. 我的代码中的 Cornerstone是记录为 发生问题 ALS.Train脚本运行平稳,并且可以在GCP上很好地扩展(轻松地拥有100万以上的客户). 但是,应用预测:即使用功能块"PredictAll"或"recommend ..

Google Cloud Dataprep可以监控GCS路径中是否有新文件吗?

Google Cloud Dataprep看起来很棒,我们已经使用它手动导入了静态数据集,但是我想多次执行它,以便它可以使用上载到GCS路径的新文件.我可以看到您可以为Dataprep设置时间表,但是在导入设置中的任何地方都看不到它将如何处理新文件. 这可能吗?似乎很明显的需求-希望我错过了明显的东西. 解决方案 您可以通过在数据集期间单击文件夹左侧的+图标来将GCS路径添加为数据集 ..
发布时间:2020-06-16 19:24:33 其他开发

使用Apache Airflow将文件从一个Google Cloud Storage Bucket复制到另一个文件

问题:我想将文件从Google Cloud Storage Bucket中的一个文件夹(例如Bucket1中的Folder1)复制到另一个Bucket(例如Bucket2)。我找不到用于Google Cloud Storage的任何Airflow操作员来复制文件。 解决方案 我刚刚在contrib中找到了一个新操作员2小时前: https://github.com名为 GoogleClou ..