各种类型的企业软件供应商开始向其应用程序添加生成式AI功能。Stream Financial、NFP和汤姆森路透正（谨慎地）利用这项技术。
ChatGPT、Claude、Bard以及其他基于大型语言模型（LLM）的公共生成式AI聊天机器人虽然不错，但它们是通用性的，没有很好地融入企业工作流程。员工要么需要使用一个单独的应用程序，要么公司必须花时间和精力通过应用程序编程接口来添加这些功能到他们的应用中。此外，为了有效地使用ChatGPT和其他生成式AI聊天机器人，员工必须学习如何使用提示工程（prompt engineering）。
相比之下，嵌入生成式AI承诺将新的AI功能放在员工最需要的地方——即他们现有的文字处理应用程序、电子表格、电子邮件客户端以及其他企业生产力软件中——而不需要雇主的任何工作。如果执行得当，这项新的AI功能应该对用户无缝且直观，使他们能够充分享受生成式AI的各种好处，而不必经历陡峭的学习曲线。
根据最近对北美和英国的技术决策者进行的一项调查，预测到2025年，几乎所有企业都将使用生成式AI来支持沟通，包括写作和编辑。事实上，调查中的70%的受访者表示，他们已经在大部分或全部的写作或编辑工作中使用了生成式AI。
然而，根据Forrester的说法，像ChatGPT这样的独立的生成式AI工具不能支持跨职能协作，也无法在员工工作的地方发挥作用。该公司在调查报告中表示：“这意味着对于许多用例来说，生成式AI作为嵌入式功能比作为独立应用程序更有益。”。
IBM咨询公司全球AI和分析领导人Manish Goyal也表示同意这一观点。“你可以拥有最好的AI，但如果它不在人们使用它的工作流程中，就不会被广泛采用，”他说道。
嵌入生成式AI领域最引人关注的焦点是Microsoft 365 Copilot，这是一个正在构建中的生成式AI助手，将集成到Microsoft 365生产力套件的各种应用程序中。尽管一些生成式AI功能已经推出到Teams和其他Microsoft 365应用程序中，但Copilot本身尚未普及，只有600家公司被允许提前访问以进行测试。
解决方案集成商Insight的首席企业架构师兼首席技术官David McCurdy正急切地等待Microsoft 365 Copilot的正式发布。“已经看过演示的人都知道，生成式AI的集成将彻底改变后勤工作的方式，”他说。
与此同时，一些企业正在通过调用OpenAI的API或本地运行的LLM（如Llama 2）将生成式AI添加到他们的应用程序中。例如，Insight通过API将生成式AI嵌入到了Microsoft Excel中。“但我们不想做太多开发工作，因为Office 365将会拥有这个功能，”McCurdy说道。
即使没有足够的时间或人力来创建自己的AI嵌入式，许多公司今天也可以在其生产力工具中开始使用生成式AI，因为许多供应商已经在其应用程序中添加了各种生成式AI功能。例如，包括Zoom和Microsoft Teams在内的几个在线会议平台现在提供内置或附加的AI驱动的摘要功能。
“它彻底改变了会议摘要的方式，”McCurdy说。“我们可以肯定地说，摘要功能是独一无二的。有很多事情做得不太好，但在摘要和创建列表方面，它表现得非常出色。”
以下是一些公司如何在其工作流程中使用生成式AI，以及其有效性较高的领域以及安全采用生成式AI的策略。
Stream Financial: 生成式AI应用于电子邮件、文本文档和代码中
该公司位于盐湖城，是一家金融科技公司。Stream的工程主管Jowanza Joseph说：“我们使用一个名叫Spark的电子邮件客户端，它内置了生成式AI，用于总结电子邮件——因为人们有时会写得很冗长——以及撰写电子邮件。”
他表示：“对于我和大多数领导团队来说，观点是积极的。唯一的负面是，它有时可能掩盖了某人对事物的理解不足。有时你读到一些东西，它没有意义，你可以告诉那是AI写的。”
该公司使用的另一种生成式AI工具是Grammarly，它可以在Microsoft Word、Google Docs和许多其他应用程序中使用。Grammarly最初只是一个语法检查工具，但最近添加了基于AI的文本创建、改写和摘要功能。 Joseph说：“我们有一个企业版的Grammarly订阅。它可以在Google Docs中使用，我们可以要求它撰写段落或总结。它擅长填充和总结，但如果您想深入探讨技术问题，它就无法做到。”
Joseph表示，Grammarly的AI存在问题，每个交互都是独立的。与ChatGPT或Claude进行交流以微调输出的方式是不可能的。他说：“我们没有一个良好的方式来提示它告诉它该做什么。”
他指出，公司小心不使用公共AI处理机密数据或客户信息。
从长远来看，他对使用生成式AI生成内容，如营销文本，持乐观态度。他说：“也许可以编写不同的文字来进行A/B测试。或者创建相同文案的不同版本。”
但Joseph认为，生成式AI最大的影响在于代码生成。“我们每个人每月支付19美元的GitHub Copilot费用，”他说，“我们很容易支付五倍以上的费用。”他表示，这个工具为公司节省了无数小时，具有丰富的知识深度。
Joseph说：“这确实是生成式AI已经证明其价值的地方。其他一切还有待确定。还有很多工作要做。”
NFP:生成式AI用于营销副本、会议摘要
保险经纪公司NFP已经使用AI来撰写文本已经两年了。该公司的销售推动高级副总裁Kyle Healy表示，早在ChatGPT公开发布之前，公司就已经在使用Jasper AI来创建营销文案。
Jasper AI于2021年2月推出，最初基于OpenAI的GPT 3.5大型语言模型，声称拥有超过10万家企业客户，包括辉瑞（Pfizer）、《体育画报》（Sports Illustrated）、HubSpot和SentinelOne等。
如今，Jasper AI使用的是GPT 4，这是支持ChatGPT最先进版本的一组模型。但它添加了业务友好的功能，如微调和额外的模型，旨在创建特定用例的营销或业务内容。此外，它还可以根据公司的品牌声音进行训练，并通过扩展和API在公司工作流程中使用。 Healy表示：“我们有一些担忧涉及到了安全性，而Jasper是一个封闭的系统。”“我们的一些营销人员仍在使用它来撰写部分文案。”
但最近，该公司大多数情况下已经转向了嵌入在其销售协作平台Salesloft中的生成式AI工具，放弃了Jasper。今年春天，Salesloft增加了生成式AI功能，可以快速创建电子邮件。
“Healy说：“我们还开始在教练和CRM系统的方向指导中使用生成式AI。我们现在在更多的项目中使用GPT，因为它开始与一切联系在一起。”他说，“它完全嵌入在Microsoft生态系统中。”
Healy本人是主要的生成式AI用户。“我完全使用AI撰写了我的2023年业务计划，”他说。“我们试图说服一些内部人员，展示它可以多么有效，但我上面的一位高级人员说还不够成熟。因此——最初是作为恶搞——我让它撰写了我的业务计划并交了上去。我得到了很多好评，然后说：‘瞧，机器人写的！’
“我们的销售团队的一位高级成员也在私募股权领域工作，并开始使用它来编写线索和构建合同。今年初，我们有很多人开始使用它——领导层、销售团队，各种团队。他们说：‘我们必须采用这个。必须。必须。’”
该公司另一种使用生成式AI的方式是在Microsoft Teams中，它可以自动生成会议记录。
“Healy说：“每个人都要理解的重要一点是，它在增强我们已经在做的事情，而不是替代它。”“它使我们能够用同样的人力资源做更多的事情。”
他说，下一步是使用Salesforce中的生成式AI能功能将原始数据转化为评论。“这是我们目前正在研究的事情，”Healy说。“它将允许高管以他们自然的方式吸收信息。我不擅长数字。我总是被数字所困扰。”
在决定是否使用生成式AI工具时，培训数据的准确性很重要，隐私、安全性和可用性也很重要。
Healy说：“对于销售和营销文案，我们没有处理任何专有信息。”“但我们进行了很多收购。我们的法律团队能否使用AI更快地创建合同或找到微妙之处和细节？我们需要探讨隐私、安全性和封闭源模型。”
目前，他说，他正在帮助销售人员开始使用新的AI工具。“这关乎简单性和易用性，”他说。“它是否感觉自然，还是他们必须去学习它？”
例如，Healy说，ChatGPT并不容易使用。“你几乎必须上课学习如何与它交流。从某种程度上说，这几乎就像编程。而我们并不是一家科技公司——我们销售保险。”
嵌入在员工已经使用的工具中的生成式AI可以克服这些可用性障碍。
Healy说：“例如，Salesloft是一个迭代和有机的工具，生成式AI是该工具的自然扩展。我们不必去学习新东西，这对我们来说很重要。我们可以交给一个有35年保险经验的老手，他们可以使用它。或者我们可以交给一个对这一切都非常熟悉的25岁年轻人。”
汤森路透：生成式AI起草通讯，回答员工问题
汤姆森路透公司（Thomson Reuters）的首席人事官Mary Alice Vuicic表示，该新闻机构几十年来一直在其产品和工作场所中使用AI。“它已经嵌入到我们已经拥有的很多东西中，”她说。“这是关于增强，关于释放人类来进行更高价值的工作。”
她说，AI不会取代人，而是取代任务。
现在，生成式AI已经广泛可用，该公司积极与其供应商联系，了解他们对这项技术的发展计划。Vuicic表示，已经有很多公告了。例如，Salesforce和Workday都有生成式AI战略。“还有[Microsoft] Copilot，以及众多其他工具，”她说。
她说，许多生成式AI工具已经在汤姆森路透公司得到使用。例如，沟通团队正在使用AI来撰写初稿。
“事实上，我们在各个领域都看到了这个机会——用于工作产品的初稿，”她说。“不过，我们不能依赖它来保证准确性，这也是我们培训的一部分。因此，初稿会由人类编辑，这样我们可以应用人类的专业知识，提供更高质量的产品。”
在人力资源领域，他们正在进行试验，使用生成式AI来回答员工的问题。“我们对初步结果非常满意，”Vuicic说。“准确率目前为95%，这使得原本回答这些问题的人有更多时间用于价值增加的工作。”
三管齐下采用 genAI
为了紧跟生成式AI的可能性，汤姆森路透公司启动了一项企业范围的倡议，以加速AI的采用，Vuicic表示。
第一步是制定AI标准和伦理准则，这是该公司多年来一直在进行的工作。Vuicic说：“我们已经使用AI超过三十年了。”“即使在生成式AI之前，我们就一直在努力成为这一领域的领导者。”
她说，下一步是培训员工。“这是绝对必要的。”
今年四月，该公司举办了一次全员全球学习日，专门关注AI。在总员工数为27,000人的情况下，近7,000名员工参加了活动。她补充说：“还有数千名员工异步利用培训。”
根据Vuicic的说法，绝大多数参与者表示他们已经能够将生成式AI应用到他们的工作中。
她说：“这是大多数员工职业生涯中最重要的创新。”“我们需要走在前沿。作为一家公司，我们有责任帮助教育、提供培训、发展、提升技能和转岗培训。但每个个体也有责任积极进取，不断进化。”
该公司AI战略的第三个方面是提供一个安全的实验场所，可以尝试所有工具。除了嵌入在生产力软件中的生成式AI外，汤姆森路透公司还与许多大型语言模型合作，包括OpenAI、Anthropic、Google和像Llama 2这样的开源模型，她说。
她说：“这一领域发展如此迅速。”“我们希望确保我们充分利用了最适合我们客户用例的最佳技术。”
最后，该公司正在努力强化学习和实验的文化。“那些学习速度最快、实验最多的组织将在这一领域获胜，”Vuicic说。
考虑风险并明智选择
一些企业技术供应商不仅提供生成式AI功能，还为客户提供了如何对模型进行训练或使用哪些具体模型的灵活性。
“IBM使用Salesforce，”IBM Consulting的Goyal说。“我们的Salesforce管理员可以选择合适的模型并进行配置，这样像我这样的终端用户就可以看到它。”他补充说，Salesforce提供了嵌入式AI的选择。
他说，IBM的顾问现在正在与企业合作，帮助他们思考在Microsoft 365及更远的未来将可能出现的情况，还有生成式AI的法律和安全影响。
“我们在IBM与Watsonx的立场非常明确，”他说。“您的数据就是您的数据。我们从不使用客户数据来训练我们的模型。我与Azure、AWS和Google合作，他们在涉及生成式AI时都非常明确。在我们的合作伙伴电话和与客户的通话中，情况也是如此——您上传或使用的服务都不会用于训练模型。没有任何企业会以其他方式使用它。”
一个违反这一原则的企业供应商的例子是Zoom，最初宣布将使用会议记录来训练其AI，然后在公众强烈抗议后迅速收回了这一决定。
但在初始培训数据方面，供应商并不透明，Goyal承认。“在Watsonx中，我们为培训数据提供了完整的数据衍生线索，”他说。“但并不是所有供应商都能这样做。一直都有很多含糊其辞。”
目前，一些AI供应商正面临艺术家和作家的起诉，他们担心他们的受版权保护的作品在未经许可的情况下被用于训练AI。
“AI一直存在风险，”Goyal说。他表示，对于大型语言模型，其中一些风险是旧风险，现在得到了放大，而一些风险是新风险。他说，企业在使用生成式AI时需要建立防护措施。
但最终，重要的是企业要考虑如何利用这些新的能力。“最早弄清楚的企业将是赢家，”他说。“炒作是有道理的。”