部署企业级ChatGPT，将AI整合进工作

引言

3月份AI应用大爆发催生了国内大量需求。

然而所有的需求都不可避免得遇到很多非技术性的问题

• 部署开源模型的成本巨大且效果成谜65B的模型推理应用最少需要130G显存而微调训练则需要额外添加8倍的资源。

• ChatGPT官方API不对中国用户开放且续费无法使用国内信用卡。强行使用存在法律隐患。

• 企业用户对安全隐私存在更高的要求。

要解决上面问题允许私有部署的云服务厂商无疑是最佳选择。

微软作为OpenAI的主要投资者之一早在2021年11月就推出了Azure OpenAI 服务支持模型的私有部署并由Azure来提供安全保证。

在定价方面Azure OpenAI和OpenAI官方一致且不限制使用中国信用卡付费。

在网络访问层面Azure的服务并没有被限制。

  ⚠注意

  1.本文仅提供技术指导不提供任何商业服务。
  2.Azure国际版是否存在其他法律风险请咨询专业法务人士。
  3.截止2023年7月24日有消息称美国政府准备限制中国公司使用美国云计算服务。到时候Azure OpenAI是否会受到影响尚未可知。

申请

声明

本文省略申请Azure国际版账号和绑定信用卡的步骤。如若尚未申请请参照此网页进行。这里将不再赘述。

再次强调提供OpenAI服务的是国际版Azure而不是国内版。

申请步骤

截止2023年7月24日Azure OpenAI服务仅开放企业用户申请需要在此处进行填表。

所有的信息请以英文如实填写。

需要特别注意的事项如下

1.目前只支持企业邮箱当前Azure对于企业邮箱的认定规则为邮箱的域名必须和第12条的Company Website域名一致。

比如如果你所在公司的网页为xxx.abc.com那么你的企业邮箱必须为yy@abc.com。

2.第22条的OpenAI service feature请只选择Text and code models这个是大语言模型。

DALL-E 2是OpenAI画图模型。一旦勾选会增加额外的审核流程。

3.第23条的Select your use case(s)需要覆盖你的AI模型的应用场景请按需选择。

 

4.提交申请后你会在10个工作日内收到核审通过的邮件。

 

而审核失败的话则会列出失败原因。

 

可选操作

通过审核后你可以再申请GPT4模型的部署权限。

部署

获得权限后我们进入Azure主页点击创建资源。

搜索OpenAI点击创建->Azure OpenAI。

 在自己的订阅下新建一个资源组区域选择离我们最近的地域名称随意定价层选标准的即可。

一直点击下一步。

作为演示我们使用默认配置有其他需求的请按照自己的需求进行定制。

点击服务名称进入详细画面。

 点击模型部署前往部署画面。

 点击管理部署进入Azure OpenAI Studio。

 点击新建部署按需选择gpt模型添加部署名按需更改默认值最后创建。

部署成功后勾选部署模型点击在操场中打开。

进入调试画面后点击查看代码。 

复制终结点和键这些信息会在我们接下来的应用实例中用到。

应用

部署

 接下来我们将演示一个实际的案例具体请点将AI整合进工作实例及代码