azure相关内容

Azure Databricks用于显示当前群集配置的python命令

我目前正在优化我们的ETL流程,并希望能够看到在处理数据时使用的现有集群配置。这样,我就可以随着时间的推移跟踪我应该使用哪些工作节点大小。 有没有一个命令可以在python中返回集群工作线程#和大小,以便我可以以数据帧的形式写入? 推荐答案 您可以通过调用Cluster Get REST API获取此信息-它将返回json,包括工作进程的数量、节点类型等。 import req ..
发布时间:2022-04-11 16:23:28 Python

使用多行选项和编码选项读取CSV

在Azure Databricks中,当我使用multiline = 'true'和encoding = 'SJIS'读取CSV文件时,似乎忽略了编码选项。 如果我使用选项Spark使用其缺省值, 但我的文件是SJIS格式。 有没有什么解决办法,有没有帮助感谢。 以下是我正在使用的代码,并且我正在使用pyspark。 df= sqlContext.read.format('csv').opt ..
发布时间:2022-04-11 15:23:59 Python

在数据库中使用PySpark在Azure DataLake中按分区覆盖策略(&A)

我在Azure环境中有一个简单的ETL进程 BLOB存储&>数据工厂&>数据创建原始数据库&>数据创建 管理>;数据仓库(主ETL)。 此项目的数据集不是很大(约100万行20列),但我希望将它们在我的DataRake中正确分区为Parquet文件。 目前,我运行一些简单的逻辑来计算每个文件应该位于我的湖中的哪个位置,而不是基于商业日历。 这些文件模糊地看起来像这样 ..
发布时间:2022-04-11 15:09:32 Python

在蔚蓝管道出现故障的情况下如何执行分支任务?

我有以下3项任务。 我想要做的是,当NPM1成功时,它将执行npm2a并跳过npm2b。 当NPM1失败时,它将跳过npm2a并执行npm2b。 如何在Azure管道中做到这一点? 请不要给我指点教程。 推荐答案 发生故障时如何在Azure管道中执行任务分支? 您可以在npm1和npm2a之间添加命令行或内联PowerShell任务以调用Logging Commands: ..
发布时间:2022-04-09 19:03:25 其他开发

Azure函数返回唯一序列号

我是新来的Azure。我想创建一个返回序列号的函数。我已经使用线程互斥锁创建了一个函数来锁定序列号。我用大约10k个并行请求测试了下面的代码。问题是我在做测试时得到了重复的序列号,互斥体不工作。我不确定如何避免重复,而是为每个请求生成流水号 Public class MySharedMutexCounter { public static long count = 0; publ ..

将Azure AD凭据集成到Kubeflow笔记本Pod

我目前正在使用AKS在Azure中设置Kubeflow环境。一切都已设置好并正常运行(用户可以使用Azure AZ凭据登录kubeflow平台,并在自己的命名空间中启动笔记本Pod)。我假设这些AD凭据嵌入在容器创建过程中的某个地方,我想知道是否有可能为其他集成了AD的服务利用这些凭据? 使用案例: 用户正在使用从Kubeflow平台启动的Jupyter笔记本电脑。用户希望访问Azur ..
发布时间:2022-04-08 16:57:42 其他开发

Azure AD-Office365API。检查连接的用户是否为没有管理员同意范围的全局管理员

我有一个多重Office365 Web应用程序,它使用OAuth/OpenIdConnect上受Azure AD保护的授权代码流(我的服务器执行对API的请求)对用户进行身份验证。 我们使用Microsoft.Owin.Security.OpenIdConnect, Version=3.0.0.0和Azure Active Directory ADAL.NET客户端,后面是Microsoft ..

ANGLE MSAL AD 401在ANGLE应用程序中未经授权,但在Postman-ASP.NET核心Web API中正常

日安, 我正在尝试使用ANGLE MSAL从ASP.NET Core Web API中提取数据,但我的ANGLE应用程序中出现错误,显示为401未经授权错误。 我尝试在浏览器的应用程序选项卡中获取access_token,并在邮递员上使用它,从技术上讲它是有效的。我只是不知道为什么它会在我的角度应用程序中抛出Unauthorized 401错误。 这是我的app.module.j ..

使用Azure AD OpenIdConnect和自定义中间件的ASP网络核心身份验证中的Cookie过期

在通过OpenIdConnect身份验证模型使用Azure AD对我的.NET核心应用程序进行身份验证时,我当前正在努力设置Cookie/auth令牌上的超时。 正在ConfigureServices方法中通过以下方式设置登录方案: services.AddAuthentication(options => options.SignInScheme = CookieAuthen ..
发布时间:2022-04-08 16:39:57 C#/.NET

如何在Azure Kubernetes服务中安装GitLab-Runner?

我正在尝试在Azure Kubernetes Service(AKS)的群集中安装GitLab Runner,但出现两个错误: Helm Tiller未出现在GitLab CI的应用程序列表中: 大多数教程都告诉您必须安装它,但今天甚至不建议安装它,正如您在此处看到的那样: 当我从此列表中安装GitLab-Runner时,我收到如下错误消息 安装GitLab Runner时出错(&Q) ..

如何使用Github操作将多容器应用程序部署到Azure?

我有一个多容器应用程序,源代码存储在Github上。本质上,活动开发只有一个部分,其他容器要么是稳定的(比如有特殊设置的nginx),要么是外部的(比如redis)。 我的问题是:如何使用Github操作部署到Azure应用服务? 对于单容器应用程序来说,这相当well-described,并且我已经能够通过一个操作将我的图像推送到Container注册表。但是,我仍然必须转到Azur ..

如何将GitHub工作流操作的artiact中的文件存档以修复此警告?

此项目中有超过10,000个文件,请考虑在上载之前创建存档以提高上载性能。 推荐答案 我在将节点应用部署到Azure应用服务时遇到此问题。 我通过添加压缩和解压缩步骤修复了该问题。 压缩步骤为 - name: Zip artifact for deployment run: zip release.zip ./* -r 解压缩步骤为 - na ..
发布时间:2022-04-07 09:10:52 其他开发

如何构建代码以将2个Web应用程序部署到同一Azure应用程序服务

我正在启动一个新项目(我们称其为MyWebProject),该项目将具有 MyWebProject:带有AspNet Core的前端应用,为带有Angular2的SPA提供服务 MyWebProjectAPI:连接到数据库并公开REST风格API的AspNet核心后端应用 它们之间没有依赖关系,因为MyWebProject仅通过http请求访问MyWebProjectAPI。所以我们 ..

如何使用Mac上的Visual Studio代码将Azure发布设置文件导入到角度项目中?

我已经用Visual Studio代码构建了一个角度应用程序,并且我被指示使用提供的.Publishsetts文件将其部署到Azure。 我试图实现这一点的努力失败了。要部署Web应用程序,我是否还需要.Publishsets文件和Azure帐户以外的其他内容? 我在网上找到的大多数教程都是针对常规的Visual Studio的。 如有任何帮助,我们不胜感激。 编辑:添加我在评论中发布的更多 ..

使用SoapUI测试Azure混合连接

我有一个Azure混合连接,它应该连接到某个本地服务并将其公开给我的应用程序服务。但是,设置在某处失败,我正在尝试缩小问题的确切范围。 作为此过程的一部分(因为它将来会对我有用),我正尝试使用SoapUI调用底层的本地服务,但最初的GET请求本应提供给我WSDL,但却给了我一个身份验证错误: GET https://my-relay.servicebus.windows.net/my- ..
发布时间:2022-04-06 19:28:49 其他开发

在Azure中的何处添加监控读取者角色

我想在Azure门户中设置一些警报,现在对“监控读取者”和“监控参与者”角色有些困惑。 假设我有两个Web应用程序,它们属于一个资源组,并且都将日志写入到一个应用程序洞察实例。现在,我想在应用程序洞察中添加一条新规则,即当出现太多错误时,具有“监控读者”角色的用户将收到一封电子邮件。 我需要在哪里授予用户X此角色?在App Insights实例上?在可能触发这些错误的资源组或每个应用程序上? ..