某大型IT服务商旨在为其运营服务提供一个工具,戴文科技利用最新的AI大语言模型,结合丰富的客户服务经验、标准、文档等数据,为其一二级客户提供更快的服务识别和解决方案,提高整体效率。
为什么选择 Drupal
文档和知识都是内容类型,因此,选择成熟的内容管理系统(CMS)可以大大加快平台建设的速度。在CMS选型过程中,Drupal因其开源性、安全性和高度可定制性而被选择作为平台的CMS。
面临的挑战
该项目与网站建设等工作不同,作为一个应用平台,需要在需求分析、逻辑、技术使用等方面进行周密的规划。在选择人工智能大语言模型时,考虑到企业正在快速迭代模型,如何选择合适的大语言模型也需要深思熟虑。
解决方案
该平台是根据RAG(检索参数生成)原理设计和开发的,经过多次讨论,我们得出的结论是,单一的多语言模型并不是最佳选择,我们认为人工智能的未来应该涉及特定领域的小型模型,以提供更好的成本效率。因此,我们将这个平台定位为多模型平台。
它支持大型语言模型,例如 ChatGPT for Sass,还允许通过 Ollama 部署私有模型。对于矢量数据库,我们选择了Weaviate,从而创建了一个全面的知识库管理平台,拥有多个知识库、模型和文档库,可以针对各种场景进行自由配置和管理。此外,我们还计划与搜索引擎 API 集成,以获取更多实时信息。
设计
在我们的设计中,我们采用了极简的UI布局方式,适度使用图形来点缀某些细节。
此外,我们采用了基于主题的设计方法,保证了UI风格可以在一定程度上快速改变,方便客户针对不同的服务对象进行定制。
前端开发
Drupal本身已经构建了一套优秀的前端展示方法,大大加快了我们整体前端的开发速度。同时,它也带来了一定的局限性。虽然这些可以通过各种方法来解决,但是投资成本是必须要考虑的,这也是我们前端开发过程中需要多多沟通的一个细节。
后端开发
人工智能知识管理平台采用当前最稳定的Drupal V10版本作为底层开发框架,平台基于Drupal的数据结构建立组织部门管理、用户角色及权限管理、文件管理等业务系统,并为各部门配置相应的文件读写权限,保证部门数据管理的相互独立性。
为了提供成熟的AI知识获取体验,我们实现了Drupal AI模块,部署了集成的生成式AI应用开发框架,支持文档信息的组织,并以知识切片的形式存储相应的内容,用户可以通过AI对话获取相关知识,也可以利用内置的大语言模型获取更全面的数据信息。