麦肯锡公司，作为世界上最大的咨询机构之一，已经走过了近一个世纪的历史。今年早些时候，该公司迅速接纳了生成式AI工具，据称在6月份之前，其员工中有将近一半已经在使用这项技术。

在麦肯锡最近的2023年人工智能发展状况报告中，他们描述了这项技术如何赋予人们“超能力”，也就是超越人类极限的能力。现在，该公司推出了自己的新型生成式AI工具：Lilli，这是由麦肯锡的“ClienTech”团队在首席技术官Jacky Wright的带领下，为员工设计的一款新的聊天应用程序。

这个工具基于超过10万份文档和访谈记录，提供信息、洞察、数据、计划，甚至推荐最适合咨询项目的内部专家。Lilli的推出标志着麦肯锡数字化转型的一个重要里程碑。

随着管理咨询行业竞争的加剧，利用人工智能更智能、更快速地工作已成为必然。麦肯锡高级合伙人Erik Roth在接受采访时表示：“如果你能向麦肯锡的全部知识提问，并且（一个AI程序）能做出回答，那对公司有什么影响？这正是Lilli能做到的。”

作为该产品的开发负责人，Erik Roth与他在麦肯锡的合作伙伴表示，Lilli自2023年6月以来一直处于测试阶段，将在今年秋季在麦肯锡全面推出。Erik Roth表示，Lilli已经在测试阶段由约7000名员工使用，作为他们的“最小可行产品”，已经将研究和规划工作所需的时间从几周减少到几小时，甚至有时从几小时减少到几分钟。

Erik Roth说：“在过去两周里，Lilli已经回答了5万个问题。” “66%的用户每周会多次返回使用该网站。”演示中，Lilli展现了其灵活性：它可以提供一份清单，列出了内部麦肯锡专家具备谈论大型电子商务零售商以及美国清洁能源未来十年的前景的资格，还可以提出一个在10周内建造新能源工厂的计划。在此过程中，AI清楚地揭示了信息的来源。

虽然Lilli的响应时间有时比领先的商业LLM慢几秒钟，但Erik Roth表示，麦肯锡一直在更新响应速度，并优先考虑信息的质量。

此外，Erik Roth还表示，公司正在尝试开发一项功能，允许客户将信息和文档上传到麦肯锡的服务器进行安全、私密的分析。然而，该功能还在开发阶段，直到完全完善后才会部署使用。

Erik Roth解释说：“Lilli可以以非常安全和可靠的方式上传客户数据。”他说：“我们可以考虑未来将我们的数据与客户的数据结合起来，或者仅在同一个平台上使用我们客户的数据进行更大范围的综合与探索……任何我们加载到Lilli中的东西都要经过全面的合规风险评估，包括我们自己的数据。”

Lilli利用目前可用的LLM底层技术，包括麦肯锡合作伙伴Cohere开发的LLM以及微软Azure平台上的OpenAI，来支持其GenAI Chat和自然语言处理（NLP）能力。然而，该应用程序由麦肯锡构建，并充当用户和底层数据之间的安全层。

Erik Roth强调，麦肯锡与底层的“LLM无关”，并且不断探索提供最大效用的新LLM和AI模型，包括仍在维护的旧版本。

虽然该公司希望将其使用扩展到所有员工，但Erik Roth还表示，麦肯锡并不排除将Lilli贴上白标并将其变成麦肯锡客户或其他公司使用的外部产品。

Erik Roth说：“目前，所有的讨论都在进行中。”他说：“我个人认为，每个组织都需要一种Lilli的版本。”