google-bigquery相关内容

是否可以在 BigQuery 中恢复被覆盖的数据

是否可以在 BigQuery 中恢复被 WRITE_TRUNCATE 覆盖的表中的数据? 解决方案 是的.您可以使用 Table Decorators 恢复数据 - 特别是 Snapshot Decorator 您应该在覆盖表之前确定 ,然后使用您选择的目标表运行以下查询 SELECT * FROM YourTable@ 请注意:这将花费您查询该表 从技术上讲,您可 ..
发布时间:2021-12-30 23:26:01 其他开发

BigQuery REPEATED 字段包含

有没有办法检查 BigQuery REPEATED 字段是否包含特定值? 我正在尝试执行以下操作: SELECT CASE WHEN column1 CONTAINS ("Test Value") THEN 1 ELSE 0 END FROM testdata 当 column1 是模式为 REPEATED 的 STRING 类型字段时.我有多个相同性质的 REPEATED 列,因此必须 ..
发布时间:2021-12-30 23:25:54 其他开发

bigquery 数据集名称以数字和 TABLE_DATE_RANGE 开头

我将 bigquery 与一个名为“87891428"的数据集结合使用,该数据集包含每日表格.由于函数 TABLE_DATE_RANGE,我尝试查询日期范围: SELECT avg(foo)从 (TABLE_DATE_RANGE(87891428.a_abc_,时间戳('2014-09-30'),时间戳('2014-10-19'))) 但这会导致一个非常明确的错误信息: 错误:在第 3 ..
发布时间:2021-12-30 23:25:47 其他开发

在 BigQuery 中嵌套多个重复字段

通过导入 JSON 文件加载 GBQ 中的重复字段 通过在 BigQuery 中导入包含重复记录的 JSON 文件,您可以创建包含嵌套重复字段的表. 例如,对于架构: [{"type":"STRING", "name":"item"},{"type":"RECORD", "name":"click", "mode":"REPEATED", "fields": [{"type":"TI ..
发布时间:2021-12-30 23:25:39 其他开发

将 Google Cloud SQL 备份上传到 Bigquery

我在尝试将 Google Cloud SQL 数据库移动到 BigQuery 时遇到了问题.我已将数据库备份从 Cloud SQL 导出到 Cloud Storage,但是在尝试将其导入 BigQuery 时,出现错误:'Not found: URI' for gs://bucket-name/文件名 我正在尝试做的事情有可能吗?我希望以某种方式直接将 Cloud SQL 数据上传到 Big ..
发布时间:2021-12-30 23:25:31 其他开发

导入数据时遇到错误字符 (ASCII 0)

我正在尝试导入一些数据并收到错误“遇到错误字符(ASCII 0)" 我要导入的文件位于http://commondatastorage.googleapis.com/snksales/dimdistributor.csv 无法理解如何解决这个问题. 谢谢, 解决方案 此文件似乎已编码为 UTF-16.BigQuery 仅支持 UTF-8 和 latin1 文本编码.您可以 ..
发布时间:2021-12-30 23:25:21 其他开发

bigquery nodejs 客户端删除数据集错误

我正在使用 nodejs 客户端在 bigquery 中创建一个临时数据集.完成任务后,我想删除此数据集.我按照 bigquery 文档中的代码做的相当简单. //创建对现有数据集的引用const 数据集 = bigquery.dataset(datasetId);//删除数据集数据集.删除().then(() => {console.log(`数据集 ${dataset.id} 已删除.`); ..
发布时间:2021-12-30 23:25:13 其他开发

Google Dataflow 作业和 BigQuery 在不同区域失败

我有一个 Google Dataflow 作业失败: BigQuery 作业 ... 以错误完成:errorResult:无法在不同位置读写:来源:欧盟,目的地:美国,错误:无法在不同位置读写:来源:欧盟,目的地:美国 我开始工作--zone=europe-west1-b 这是管道中唯一可以使用 BigQuery 执行任何操作的部分: Pipeline p = Pipeline.cre ..

字符出现之间的正则表达式匹配

我有以下字符串: 3#美国哥伦比亚特区白宫#US#USDC#DC001#38.8951#-77.0364#531871#382 如您所见,字符串由 # 分隔.我的用例类似于一个简单的 SPLIT(string,"#") 操作,但正则表达式给了我更多的灵活性. 我想匹配两次出现的 # 之间的字符.例如第二次和第三次出现之间的字符应该匹配:'US' 我正在使用 Google Bigqu ..
发布时间:2021-12-30 23:24:46 其他开发

使现有的 bigquery 表聚簇

我在 bigquery 中有一个相当大的现有分区表.我想让表聚簇,至少对于新分区. 来自文档:https://cloud.google.com/bigquery/docs/creating-clustered-tables,据说我们能够在加载数据时创建一个聚簇表,我尝试使用聚簇字段加载一个新分区:job_config.clustering_fields = ["event_type"]. ..
发布时间:2021-12-30 23:24:41 其他开发

Bigquery 在单个选择中多次取消嵌套

跟进此事 -Bigquery 组合来自 2 个不同表的重复字段 @ElliottBrossard 的上述解决方案正是我正在寻找的.谢谢!我需要从上面取消嵌套字段以获取学生的聚合.比如说,有一个额外的成本字段(每门课程)例如假设上面的输出在 student_courses 表中,我需要做类似的事情, SELECTCOUNT(DISTINCT phone.number),COUNT(DISTI ..
发布时间:2021-12-30 23:24:34 其他开发

从 Python 更新 BigQuery 表属性会使表消失

主题几乎说明了一切.当我运行 BigQuery 文档中的代码来更改表属性(在这种情况下,它的到期日期)时,它似乎只是暂时删除了表.(在 BQ GUI 中也找不到.)有人知道为什么吗?谢谢. # 替换“dk";在运行之前使用您自己的姓名首字母s_table_id = 'hcwisdom.temp_tables.new_test_table'从 google.cloud 导入 bigquery客户端 ..
发布时间:2021-12-30 23:24:27 Python

Google BigQuery 相同的查询给出不同的结果

我运行了 2 个非常相似的查询.唯一的区别是一种是按字段名称分组,另一种是按字段数分组(即1,2,3). 这两个查询应该给出完全相同的结果,因为查询中没有不同的计数.然而,事实并非如此.一个查询得到 5 条记录,而另一个查询只给出 1 条记录. 我想知道是否有人可以提供帮助. 以下是作业 ID 和查询: 作业 ID 1:631095067040:job_0NLPcGFK_u ..
发布时间:2021-12-30 23:24:08 其他开发

BigQuery - 移动中值计算

我有这样的月销售额数据 公司月销售额阿迪达斯 2018-09 100阿迪达斯 2018-08 95阿迪达斯 2018-07 120阿迪达斯 2018-06 155...等等 我需要添加另一列,说明过去 12 个月的中位数(如果 12 个月不可用,则尽可能多). 在 Python 中,我想出了如何使用 for 循环来实现,但我不确定如何在 BigQuery 中实现. 谢谢! 解 ..
发布时间:2021-12-30 23:23:49 其他开发

基于 Pod 或部署的 GKE 账单明细

我需要根据 Pod 或服务或部署对单个项目中的使用情况进行细分,但控制台中的计费部分似乎没有提供如此详细的信息.是否有可能以某种方式获得这些数据?我想知道每个部署或 Pod 的网络 + 计算成本是多少.或者,如果至少可以在集群级别拥有它?BigQuery 中是否提供此细分? 解决方案 最近在 GKE 中发布了一项新功能,该功能允许在集群内收集指标,也可以将这些指标与导出的计费数据结合起来, ..

在 java bigquery API 中使用标准 SQL 查询

在使用 java bigquery API 时是否可以使用标准 SQL 查询?我正在尝试执行查询,但它抛出 com.google.api.client.googleapis.json.GoogleJsonResponseException:400 错误请求"message" : "11.3 - 11.56: 无法识别的类型 FLOAT64" 解决方案 有两种方法可以将标准 SQL 与 ..
发布时间:2021-12-30 23:23:35 Java开发

Google BigQuery 中的多级数据透视

是否可以使用 BigQuery 在一个查询中执行以下数据透视,还是需要将其分解为多个查询? 这是原始数据: 这里是数据透视表: 有没有办法在 BigQuery 中构建任意嵌套的数据透视表?还是每个级别都需要自己的 SQL 查询? 注意,在上面,对 6 个列组合(CA-M、CA-F、FR-M、FR-F、US-M、US-F),但为了一般情况,我们假设可能有数百个国家/地区,因此 ..
发布时间:2021-12-30 23:23:25 其他开发

将旧日志从 Stackdriver 导出到 Bigquery

我有可追溯到 9 月 3 日的 Stackdriver 日志,以及我在 9 月 14 日创建的接收器,将这些日志拉入 Bigquery 数据集.目前,Bigquery 中的数据仅从我创建接收器时开始.我可以将以前的日志导出到一个巨大的 .csv 然后重新上传吗?我发现这里有一个类似的问题,但没有答案. 谢谢,很抱歉我的问题没有更技术化——我是 Stackdriver 日志记录的新手! ..

使用 JQ 将 JSON blob 转换为 BQ 友好格式

坦率地说,我几乎没有使用 JSON、JQ 或 Java 方面的任何经验.我花了很多时间尝试使用 jq 命令行函数以一种可以轻松输入 Google BigQuery 的方式正确格式化测试数据块. {“total_items":848,“page_count":34,“项目": [{"landing_id": "708d9e3eb106820f98162d879198774b",“令牌":“708d ..
发布时间:2021-12-30 23:23:09 其他开发