google-bigquery相关内容

错误“非重复字段已被设置”。从Datastore加载到BigQuery时

[编辑20160426:这个错误似乎已经解决了!] [编辑20160219:再次更新这个问题,以反映不同的错误信息。另请参阅我提交的错误报告。] p> 我们有一个数据存储表,其中包含类别类别 Category ,这是一个自定义类。当我们尝试将此表加载到BigQuery时(从数据存储备份中)出现问题。结果表应该包含(简化): pre $ category.subfield1 ,c ..

如何为Google App Engine上的BigQuery设置截止日期

我有一个Google App Engine程序,用于调用BigQuery查询数据。 查询通常需要3 - 4.5秒,并且很好,但有时会花费五秒钟以上此错误: $ b DeadlineExceededError:API调用urlfetch.Fetch()花了很长时间回应并被取消。 这篇文章显示截止日期和不同类型的截止日期错误。 有没有方法将BigQuery作业的截止日期设置为 ..
发布时间:2018-05-03 19:34:47 其他开发

将文件上传到Google云端存储:500后端错误

我们正在尝试将文件上传到Google Cloud Storage,然后再将它们转移到BigQuery中,但在上传某些内容时,我们经常面临'500内部服务器错误'或'410 Gone'(原始邮件)。 我们正在使用官方的SDK,并增加了指数退避的重试,但错误总是在这里。你有任何建议吗? 以下是我们如何上传(scala): val credential = new GoogleCre ..

如何创建可访问单个数据集的Google BigQuery服务帐户?

我有尝试过使用服务帐户,但是这给了充分的数据集来访问特定的BigQuery数据集。访问所有数据集。还尝试从不同的应用程序创建服务帐户,并将与证书一起生成的电子邮件地址添加到BigQuery>某些数据集>共享数据集>可以查看,但是这总是导致403“访问未配置”错误。 我使用服务器到文档中描述的服务器流程: 从apiclient.discovery导入httplib2 从oauth2 ..
发布时间:2018-05-03 19:13:26 Python

BigQuery中奇怪的错误

我试图直接从Web控制台执行查询 https://bigquery.cloud.google.com 执行一次查询并获得结果另一次我在相同查询中得到错误: 错误:TABLE_QUERY表达式不能查询BigQuery表。 我也尝试过使用不同的查询选项“使用缓存结果”,“交互式”和“批处理”行为相同。 / p> 为什么会发生? 解决方案 TABLE_QUERY过滤器仅用于查询 ..
发布时间:2018-05-03 19:02:16 其他开发

根据行内容指定动态生成的表名

我想设置从gcs桶中的文件中读取数据流管道,然后写入bigquery表。注意,应该根据从gcs文件中读取的行的内容来决定要写入的表。 我的问题是,这可能吗?如果是的话,有人可以给我任何提示,告诉我如何做到这一点吗? 另外,阅读必须完成的gcs文件是动态的。我使用的是对象更改通知服务,无论何时将任何文件添加/删除到存储桶中,都会调用我的appengine注册端点,并添加/删除文件详细信息 ..

使用Java将数据从Google Cloud Storage加载到BigQuery

我想将数据从Google Cloud Storage上传到BigQuery,但我找不到任何描述如何执行此操作的Java示例代码。有人请给我一些提示,告诉我如何做到这一点? 我真正想做的是将数据从Google App Engine表格传输到BigQuery(并在每日同步基础),以便我可以做一些分析。我在Google App Engine中使用Google Cloud Storage Servi ..

使用google.cloud时没有名为云的模块导入bigquery

我已经构建了一个应用引擎应用程序来使用谷歌应用程序引擎启动器将数据加载到bigquery表中,但是当我在本地主机或云上运行它时,我使用google.cloud导入了bigquery错误消息日志文件。我已经安装了谷歌云客户端库,但它仍然给我同样的错误。请在下面看到我使用的代码 --- main.py文件包含 import argparse 导入时间 从google.cloud导入uu ..
发布时间:2018-05-03 18:22:44 其他开发

Google Bigtable vs BigQuery用于存储大量事件

我们希望将我们的不可变事件存储在(最好)托管服务中。 一个事件的平均大小小于1 Kb,我们每秒钟处理1-5个事件。存储这些事件的主要原因是能够在我们创建可能对这些事件感兴趣的未来服务时重播它们(可能使用表扫描)。由于我们在Google Cloud,因此我们显然将Google的服务视为首选。 我怀疑 Bigtable 会非常适合这一点,但根据价格计算器,它将花费我们超过1400美元每月(这对我 ..

Google App Engine:在数据存储上使用Big Query?

有一个GAE数据存储种类,其中有数十万个物体。想做几个涉及的查询(涉及计数查询)。大型查询似乎是适合做这件事的上帝。 目前有一种简单的方法可以使用Big Query查询实时AppEngine Datastore吗? Mapper API 类的示例CSV步骤: 导入重新导入 导入时间 导入日期时间 导入urllib 导入httplib2 从google.appengine.ext导 ..
发布时间:2018-05-03 18:16:35 其他开发

获取错误:redirect_uri_mismatch请求中的重定向URI:http:// localhost:8080 / oauth2callback与注册的重定向URI不匹配

请求中的重定向URI:http :// localhost:8080 / oauth2callback与注册的重定向URI不匹配 在google API控制台中,我有注册我的重定向url 重定向URI:http:// localhost:8080 / 而在client_secrets.json中,我也使用了相同的重定向url 我正在关注本教程 ht ..
发布时间:2018-05-03 18:12:18 Python

根据Google BigQuery中的查询结果创建一个表格

我们通过Python API使用 Google BigQuery 。我如何从查询结果中创建一个表(新的或覆盖旧的表)?我查阅了查询文档,但我没有觉得它有用。 我们要模拟: “SELEC ... INTO ...”from ANSI SQL。 解决方案 您可以通过在查询中指定目标表来执行此操作。您需要使用 Jobs.insert API而不是 Jobs.query 调用,并且您应 ..
发布时间:2018-05-03 18:02:48 Python

无法从本地App Engine开发服务器访问BigQuery

这是一个与python Google AppEngine应用程序和Google BigQuery之间的服务器到服务器授权有关的问题,但可能与其他云服务有关。 $ b tldr;是否有可能让App Engine本地开发服务器使用远程BigQuery服务进行身份验证?更好的是,有一个本地的BigQuery吗? 据我所知,AppAssertionCredentials目前不在本地开发服务器上工作 ..

Google BigQuery将uris重定向到UNC路径

我正在创建使用Google BigQuery的Web应用程序,该应用程序也将获得访问和刷新令牌。 我的web应用程序将托管在intranet中,可以在 http:// mywebapp / 为了访问它,需要客户端ID,因此我去了console.developers.google.com并尝试创建“Web应用程序的客户端ID”。我必须在这里输入两项 JAVASCRIPT ORIGINS ..

大查询执行查询之前的等待时间是多少?

每次我在解释选项卡中的Google BigQuery中执行查询时,我都会看到它们涉及平均等待时间。是否有可能知道等待时间的百分比或秒数? 解决方案 由于BigQuery是一项托管服务,因此很多客户都在使用它。它具有基于billingTier的内部日程安排系统(这里解释 https://cloud.google。 com / bigquery / pricing#high-compute ) ..
发布时间:2018-05-03 15:09:17 其他开发

NativeApplicationClient和OAuth2Authenticator未解析

我正在编写一个控制台应用程序来从BigQuery下载数据。 .NET库再一次是模糊和混乱的。 在此问题中,两名Google员工已发布一个响应,并且这两个响应都没有在我的机器上运行,因为他们还没有清楚地说明他们正在使用的引用。我再次粘贴代码并进行详细说明:使用DotNetOpenAuth.OAuth2; 使用Google.Apis.Authentication.OAuth2; 使用Goo ..