IT人员如何受益于生成人工智能安全吗

自然语言聊天机器人可以改变企业的好,但保持人类的循环。

  • 在Facebook上分享
  • 在Twitter上分享
  • 分享在LinkedIn
  • 在Reddit分享
  • 通过电子邮件分享
  • 印刷资源
chatbot_ChatGPT_AI_artificial intelligence_bot_assistant_shutterstock 1901618698
TippaPatt /伤风

企业IT环境充斥着所谓的一些技术,辜负了炒作,直到现在,可以说AI掉进那一类。但生成AI,风靡全球,在形式的OpenAI ChatGPT chatbot,只可能是真正的交易。

数字信息总监克里斯·贝迪ServiceNow,说去年11月释放ChatGPT“iPhone的时刻,”事件引起了公众的注意,“永远改变了一切。”他预测,生成人工智能将成为每个企业的嵌入到织物,他建议首席信息官和其他领导人现在应该开始发展生成人工智能策略。

Gartner同样热情洋溢,预测,生成人工智能将会成为“通用技术与类似于蒸汽机的产生影响,电力和互联网。“尽管生成AI仍处于起步阶段,有许多缺陷需要导航,Gartner说,“生成人工智能提供了新的和破坏性的机会增加收入,降低成本,提高生产率和更好地管理风险。在不久的将来,它将成为竞争优势和区别。”

人工智能已经存在了很长时间,但生成的人工智能机器学习更上一层楼和一个叫变压器的神经网络架构在GPT (T),于2017年首次被谷歌的研究人员。所以,这是新的。生成的人工智能系统是建立在pre-trained GPT (P)数据集(ChatGPT 45 t)和会话语言中能够对此事作出回应。生成人工智能可以产生文本、图片和视频,包括软件和网络脚本代码。

我们去正确的源和问ChatGPT本身如何使生活更容易为企业。暂停后不超过几秒钟,我们回来一个编号列表:1)故障排除和解决问题,2)文档和知识管理,3)自动化和脚本,4)培训和新员工培训,5)安全性和遵从性,6)项目管理和规划,7)保持更新技术趋势。

没有任何提示,chatbot补充说,“重要的是要注意,虽然ChatGPT可以提供有价值的指导和支持不应该仅仅依靠关键决策。人类经验和判断应该被视为与AI-generated建议。”

聊天机器人的角度来看,我们继续聪明的人类为他们承担几个关键问题生成AI:它究竟是什么?它能为企业做什么?它不能做什么?我怎么得到它?的一些潜在的缺陷是什么我需要注意的吗?

生成人工智能是什么和它是如何不同于“传统”人工智能吗?

在大多数情况下,传统的人工智能/ ML科技位于背景,寻求识别模式在大型数据集。它使预测和基于这些预测提供了建议。

生成的人工智能是完全不同的。它是一个大型的语言模型(LLM)和大量的训练数据,包括样品的人类谈话。它能够消化和总结数据,可以使用自然语言与人类交互。ChatGPT超级Siri,惊讶甚至其创造者积累一百万用户在1亿年发射后第一周和后两个月。目前每月产生18亿游客。

在一般情况下,当系统规模迅速,他们变得更加复杂,更加难以管理,更不可靠和低效率。大型语言模型,数据越多,越多的查询,交互越多,系统变得越聪明,而且开始类似于人类的智慧。

但是,至少在这个阶段,这些模型是人类智力不一样。Forrester分析师罗文柯伦说,“它们是什么做的是创建新信息,上下文理解本身。这些模型预测下一个单词序列基于前面的单词序列。重要的是不要把他们当作权威的来源,oracle或任何有头脑。”

它生成AI能为企业做什么?

在网络层,大型语言模型可以执行功能,如生成网络配置为它编写脚本自动化工具并创建网络地图,说警察McGillicuddy,研究企业管理协会副主席。

“这是很好的寻找灵感,想象力,anti-procrastination。可以使用它来开始一个任务或项目。让它给你一些东西,就像一块内容或代码。然后可以使用他或她的知识和技能,把它变成了好事,无论是政策文件或网络配置文件,”McGillicuddy说。

在软件开发中,生成人工智能可以吐出代码片段和有能力消除漏洞的代码。大型语言模型使用术语“令牌”的方式优点谈论字节。ChatGPT,一个令牌代表四个字符,约四分之三的一个字。这是很重要的,因为每个ChatGPT查询/响应极限约4000令牌,和查询措辞本身数量限制。生成人工智能系统可以写的代码在各种编程语言,但是不要让他们想出新版本的操作系统,因为当它到达极限,它停止和重置。

在战略层面,随着IT领导越来越熟悉和适应生殖AI,他们将能够滚出来整个企业让员工更有效率,简化业务流程,提高客户服务和推动数字转换。

Bedi说生成AI把大块的不同的能力,复杂的信息,总结他们对人类消费ITOps申请,安全分析和事件日志、客户支持、呼叫中心、服务台、金融、人力资源、销售和市场营销。“每个人都充斥着大量的内容;生成AI有能力提炼成有用的东西和消耗品。它可以加快公司的每个操作,”他补充道。

生成AI陷阱。

如果这一切听起来好得令人难以置信,因为它可能就是至少目前如此。一个麦肯锡的报告警告,“输出生成的人工智能模型产生可能经常听起来非常令人信服。但有时他们生成的信息是错误的。更糟糕的是,有时是有偏见的(因为它是建立在性别,种族,和无数的其他偏见互联网和社会更普遍),可以操纵,使不道德的或犯罪活动。”

Forrester的柯伦使用术语“连贯的废话”来描述这一现象。但这个词获得最牵引生成人工生态系统的“幻觉”。

未来学家伯纳德•马尔说:“幻觉在人工智能是指生成输出这听起来似是而非,但事实不正确或与给定的上下文无关。这些输出经常出现的人工智能模型的固有偏见,缺乏真实的理解,或训练数据的局限性。换句话说,人工智能系统“幻象”的信息尚未明确培训,导致不可靠的或误导的反应。”

这意味着,企业不应把生成的人工智能软件代码或网络脚本到生产,没有一个人反复检查一个方法被称为“人类的循环。“和组织应该系统捕获实例的chatbot可能与客户互动的方式可能被视为好辩的,攻击性的,或者不合适的。

爆炸的兴趣ChatGPT也引发担心数据隐私和阴影生成AI,因为它必须假定各级员工问ChatGPT问题。

“我非常担心什么数据放入ChatGPT当人们把查询,“McGillicuddy说。“我担心如何使用这些数据,存储和权利开放AI断言。”

Keatron埃文斯,主要网络安全顾问的信息安全研究所,警告说,“不要使用任何受保护的数据或个人信息时使用或尝试人工智能。例如,说你有一个保密的销售报告,想使用人工智能生成一个摘要。你上传报告,但现在您输入的数据是存储在ChatGPT的服务器上,并将使用该数据来回答查询从其他人,可能暴露你公司的机密信息。”

他补充说,黑客可以利用ChatGPT代码漏洞窃取用户信息或找到一个方法来窃取数据直接从应用程序本身。“无论如何,上传敏感数据或信息可能违反隐私法,这将导致你的公司可能面临巨额的罚款,”埃文斯指出。

另一个更模糊的问题涉及知识产权的所有权。假设一个员工上传ChatGPT专有软件代码,让它消除漏洞的代码或添加一块功能。这段代码进入ChatGPT数据库。当别人在一个不同的公司查询ChatGPT和输出包含块的原始代码?

三星最近禁止使用后由员工ChatGTP工程师”不小心泄露内部源代码上传ChatGPT,”据一位内部备忘录。

应该如何组织获取生成的人工智能。

供应商社会正在加速为企业提供生成人工智能。通常的嫌疑人带路(AWS,谷歌,微软,IBM),因为他们有足够的资源来开发这些大型语言模型。但几乎所有供应商找出一种嵌入生成人工智能平台。

IDC分析师南希Gohring说,“厂商在ITSM和ITOps已经将生成人工智能应用于各种用例,主要目的是提高工具的可用性,加快响应时间,和扩展用例。同时确保人类监督是至关重要的,特别是鉴于技术的不成熟,企业应认真考虑接受新产品来提高效率。”

领导人,一个明智的方法是与现有平台合作伙伴合作,确定供应商路线图与技术收购的企业风格。企业是否有意愿和准备(从技术、资金,或数据处理基础设施的角度来看)旋转自己的生殖AI功能?这种方法可能实现竞争优势,但它也需要时间和努力。

或者会更有意义,利用现有的技术提供者将生成人工智能嵌入到自己的平台是谁?例如,Salesforce已经发布了爱因斯坦GPT将生成AI功能到Salesforce CRM平台以及松弛的应用。

当然,类似于组织采用混合云架构,企业很可能会采取一种混合模式,既有云和on-prem部署。一个选择是建立新的生成人工智能应用程序在AWS云,使用AWS基础设施、大型语言模型和工具集。另一个是构建自定义生成人工智能功能的供应商CRM和ERP平台。

一些领先的供应商提供。

这里有一些例子的关键供应商加大他们的生殖AI功能:

微软

微软的主要投资者OpenAI及其技术合作伙伴,是嵌入ChatGPT技术在其投资组合。微软推出了微软365副驾驶员,生成人工智能集成到办公应用程序中,如词,Excel,前景,和团队。特性称为业务聊天结合用户的日历、电子邮件、聊天、文件、联系人等,成一个知识库,可以查询的自然语言。微软宣布动力学365副驾驶员,将生成AI CRM和ERP。和微软嵌入式ChatGPT功能为其“必应”(Bing)搜索引擎。

在相关的发展中,OpenAI与GitHub合作,提供一个商业产品称为GitHub副驾驶员,编码聊天机器人,能说十多个编程语言。

谷歌

谷歌宣布二重唱AI对谷歌工作区,嵌入其生殖AI(谷歌的大型语言模型称为棕榈)到谷歌生产力套件(Gmail、Google Docs,床单,幻灯片,并满足)。谷歌将生成AI功能到Chrome浏览器。称为顶点AI平台,使企业和SaaS供应商构建自己的应用程序;服务,帮助企业构建AI-powered聊天和搜索应用程序基于谷歌基础模型;和答案GitHub的副驾驶员叫二重唱,旨在帮助开发人员编写代码。

思科

思科已经建立了自己的生殖AI和最近宣布计划购买AI启动Armorblox。思科表示,它将生成AI功能嵌入在其整个投资组合,从其安全云服务和Webex协作工具。

12 第1页
第1页的2
企业网络2022的10个最强大的公司