azure-data-factory-2相关内容

使用动态值作为Azure数据工厂中表存储的表名

我有一个ADF管道,该管道使用复制数据活动将数据从Blob存储复制到表存储.该管道每天在触发器上运行一次.我在表存储数据集中提供了一个表名,设置为"Table1". 不是提供硬编码的表名值(Table1),而是可以在表存储中提供动态值作为表名,以便将管道运行的 RUN ID 用作表在表存储中命名,并将数据从Blob复制到表存储中的表? 解决方案 您可以将动态值设置为表名. 例如 ..
发布时间:2020-09-16 23:38:20 其他开发

将值转换为Azure Data Factory复制活动中Json Path Expression中的字符串

我有一个输入JSON文件,其中属性的实际值可以是数字值或字符串.我通过指定JSON路径表达式(如 )提取值 "fieldValue": "values[*].value" 在azure数据工厂复制活动中,源的“连接"选项卡. 由于JSON中的实际字段值可能类似于"X"或2.34,因此即使在架构中我将fieldValue指定为字符串,也无法将其全部解析为字符串. 有一种方法可以强 ..
发布时间:2020-09-16 23:37:15 其他开发

Azure数据工厂:对于特定属性,对于每个item()值都不存在

对于每个具有存储过程(SP)的活动,我都有一个,其中我显然是使用item()输入值的. 现在假设SP的输入值为item().a,item().b和item().c 问题:对于foreach的某些迭代,不存在预期的item().b.那么我应该如何在存储过程中处理它呢?因为在这一点上,它在执行SP时通过说: 给了我一个错误. “无法评估模板语言表达式'item().b',因为属性' ..
发布时间:2020-09-16 23:37:05 其他开发

如何将变量输出到文件?

我有一个Get metadata活动,该活动转到sftp服务器并列出文件: 是否可以在不使用功能的情况下将此列表输出到文件? 解决方案 是否有特定的原因需要将输出记录到文件中?如果仅在Azure数据工厂中调用“获取元数据"任务,则它将作为管道运行和默认日志记录的一部分进行记录.然后,您可以根据需要访问这些日志. 或者,我在获取元数据任务中使用的常见模式是 For Each 循环 ..
发布时间:2020-09-16 23:37:00 其他开发

SQL Server抱怨无效的json

我正在使用Azure数据工厂和Azure SQL数据库编写ETL工具.数据工厂捕获映射数据流的输出,并将其作为字符串插入到SQL Server表(Audit.OperationsEventLog)的StatusMessage列中. StatusMessage列为varchar(8000),用于存储格式化为有效json的数据. SELECT * FROM Audit.OperationsEve ..
发布时间:2020-09-16 23:36:44 数据库

在运行时在Data Factory管道中设置链接服务参数

如何在运行时将参数传递给Data Factory中的链接服务? 我在Azure函数链接服务定义中定义并使用了一个参数,但是不确定如何在管道操作的调用过程中设置该参数.在这种情况下,我想在触发器中设置functionAlias来设置Azure Function主机名.当前,(blob创建)触发器返回了一个异常,指出未指定functionAlias. 管道 { ..
发布时间:2020-09-16 23:34:42 其他开发

在数据工厂或即时数据处理中预复制脚本

我正在从源,API复制数据,并将其复制到Azure SQL DB.但是在其中一列中,我得到了Json对象. 无论如何,我都可以在管道中使用动态参数(通过预复制脚本或其他方式)以仅从那些json对象中获取特定标签的值,以便我只能在该列中使用该值.唯一的限制是我无法更改接收器.它必须是Azure SQL DB. 我得到的Json对象: [{"self":" https://xxxxxxxx ..
发布时间:2020-09-16 23:33:33 其他开发

Azure数据工厂活动副本:使用@pipeline().TriggerTime评估接收器表中的列

使用Data Factory V2,我试图实现从一个Azure SQL数据库到另一个Azure SQL数据库的数据复制流. 我已经将源表的所有列与接收器表进行了映射,但是在接收器表中我有一个空列,我想在其中输入管道运行时间. 有没有人知道如何在接收器表中填充此列而不在源表中显示它? 下面是我的复制管道的代码 { "name": "FLD_Item_base", "prope ..

Azure数据工厂:如何在成功完成另一个管道之后触发管道

在Azure数据工厂中,如何在其他管道成功完成之后触发管道? 详细信息: 我试图在其他管道成功完成之后触发SSIS程序包.我已经知道我可以将SSIS包另存为管道,并像其他管道一样使用触发器来运行它.但是,如何确保SSIS程序包管道仅在其他管道完成之后才启动? Azure中是否有此功能?我是否需要某种解决方法? 预先感谢〜 解决方案 您始终可以创建使用执行SSIS程序包活动 ..
发布时间:2020-09-16 23:33:14 其他开发

更改Azure Data Factory v2中的连接字符串链接服务

我正在使用Azure Data Factory V2集成来自多个本地mySql数据库的数据.是否可以仅定义一个mysql链接服务,然后在运行时修改连接字符串(服务器名称,凭据,集成运行时).我的计划是使用查找活动来读取连接字符串列表,然后使用for-each活动来遍历该列表以使用复制活动从每个数据库中提取数据. 是否有可能这样做,最好使用Azure数据工厂UI?还是我应该使用.NET SDK ..
发布时间:2020-09-16 23:31:39 其他开发

禁用Azure数据工厂管道中的活动而不将其删除

因此,我正在测试管道的每个活动,并且想禁用其中的一些活动.本质上,有一种发送电子邮件的活动,我想禁用它,因为我想查看先前活动的输出. Offcourse,我不想删除电子邮件发送活动,因为它处于生产环境中,而不是我开发的. 有什么办法可以禁用它? 解决方案 您不能禁用一个,但是您可以通过编辑器中的debug选项来执行操作.只需单击任何活动上方的红色圆圈,然后运行调试器,调试器将一 ..
发布时间:2020-09-16 23:30:16 其他开发

Azure数据流耗时几分钟触发下一个管道

Azure数据工厂在10毫秒内以Db格式传输数据,但我遇到的问题是等待下几分钟触发下一个管道,最后结果是40分钟,所有管道都在不到20毫秒的时间内传输数据.但是不知何故,它要等待几分钟才能触发下一个. 因此将数据传输到数据库需要7秒钟,但它等待了6分钟:(检查下面的图片 解决方案 本文档 请注意,您可以在总体性能计算中假设1分钟的群集作业执行设置时间,如果使用默认的Azure集成运 ..

Azure数据工厂选择属性“状态":“成功"来自先前的活动

使用Data Factory V2,我正在尝试实现从一个Azure SQL数据库到另一个Azure SQL数据库的数据复制流. 我想执行条件活动If Condition取决于管道先前执行的活动是否成功,但是在要包含在If Condition活动中的表达式中,我无法选择输出属性. 在If Condition活动之前,我有两个数据复制活动. 我在流程中添加了If Condition活 ..

在映射时使用adf管道参数作为下沉列的源

我有一个具有复制活动的ADF管道,我正在将数据从Blob存储CSV文件复制到SQL数据库,这按预期工作.我需要映射CSV文件的名称(来自管道参数)并将其保存在目标表中.我想知道是否有一种方法可以将参数映射到目标列. 解决方案 列名不能直接使用参数.但是,您可以将参数用于数据集的整个结构属性和复制活动中的columnMappings属性. 这可能有点乏味,因为您将需要自己编写整个结构数组和c ..
发布时间:2020-09-16 23:19:55 其他开发

如何为Azure数据工厂链接服务中的天蓝色表存储/blob存储动态提供连接字符串

动态更改Azure数据工厂中Tablestorage或Blob存储的连接字符串.目前,我可以看到与数据库相关的数据集的这种选择吗?如何在表或Blob存储中实现相同的目标 解决方案 在“新链接的服务" Azure表存储中,单击“高级",然后选中“指定JSON格式的动态内容" adf Copy the below JSON to make it Table Storage Paramet ..
发布时间:2020-09-16 23:18:37 其他开发

如何使用Azure数据工厂将CosmosDb文档复制到Blob存储(每个JSON文件中的每个文档)

我正在尝试使用Azure Data Factory(v2)备份Cosmos Db存储.总的来说,它已经完成了工作,但是我希望Cosmos集合中的每个文档都可以与Blobs存储中的新json文件相对应. 利用下一个复制参数,我可以将集合中的所有文档复制到azure blob存储中的1个文件中: { "name": "ForEach_mih", "type": "ForEach", "ty ..
发布时间:2020-09-16 21:55:58 其他开发

尝试在azure数据工厂V2中添加动态文件名(链接服务器)时遇到错误

我是Azure数据工厂V2和Blob存储的新手. 尝试动态地从blob存储中的复制数据中添加文件连接(链接的服务器)时,尝试通过从文件中导入架构来映射列时遇到以下错误 “无法将'容器'属性中的值转换为'System.String'类型.请确保有效负载结构和值正确.." 我尝试过: 使用静态参数并将静态参数分配给链接的连接 解决方案 请参考我的工作步骤: 1.Azur ..
发布时间:2020-09-16 21:11:46 其他开发

Datafactory V2替换"\ N"空值,带空白

当前在Azure Datafactory V2中,平面文件输出的默认null值设置为"\ N",这会导致下游进程失败,因为datafactroy创建的浮点,整数或十进制值设置为"\"的平面文件N". 在数据工厂数据集的高级功能中,我们可以将null值设置为某个字符: 我可以将其设置为什么值,以便仅允许使用空格而不是“",空格或其他会引起问题的字符? 解决方案 只需删除\ N并将 ..
发布时间:2020-09-16 02:10:17 其他开发