5月9日,在北京举办的阿里云AI智领者峰会上,阿里云CTO周靖人宣布了百炼大模型平台的最新进展。该平台从模型开发、应用开发到算力底座进行全面升级,变得更加易用和开放,引入了更多模型,并率先兼容LlamaIndex等开源框架,使企业能够自由替换组件以适应其系统需求。
在企业当前最为关注的RAG链路上,百炼提供了灵活且开放的企业级检索增强服务。企业只需5至10行代码即可构建RAG应用,从而让大模型具备更强的应用能力。
2023年10月,阿里云推出了百炼大模型平台,开发者可以通过简单的操作在五分钟内开发出一款大模型应用,几小时内就能创建出专属模型,将更多的精力集中在应用创新上。此次大会中,百炼升级成为阿里云承载云计算和人工智能能力的关键平台,提供了一站式、全托管的大模型定制与应用服务。升级后的百炼更好地满足了大型企业和资深开发者的需要。
周靖人表示:“目前,企业在使用大模型时主要采取三种范式:直接使用现成模型、对模型进行微调和持续训练、以及基于模型开发应用。其中,最具代表性的是RAG,即将企业数据用于增强模型的知识。围绕这些需求,百炼建立了模型中心和应用中心,提供了丰富的模型和易于使用的工具箱。”
对于希望直接调用模型进行推理的企业,百炼整合了上百种大模型API,包括通义、Llama、ChatGLM等系列,并首次托管了百川等第三方模型,覆盖国内外主流厂商。此外,百炼还支持企业上架通用或行业模型,为开发者提供多种选择。同时,借助阿里云的AI基础设施,百炼能够支持千亿级别的模型进行万级并发推理,完全满足企业的需求。
对于需要进一步训练模型的用户,百炼提供了从数据管理、模型调优、评估到部署的一条龙服务。用户可以根据需求弹性调用算力,无需担心底层架构问题。训练过程可视化,还可以自动评估模型质量,并与其他模型进行比较。
对于希望构建RAG应用的企业,百炼支持基于Assistant API的开发模式,可以在平台上轻松创建知识库,并一键启动知识检索增强(RAG)。同时,百炼还支持agent智能体的开发,实现多智能体协作、对话记忆等功能。
据悉,阿里云百炼的一大显著优势在于其高度的开放性和灵活性。目前一些大模型应用平台采用封闭式流程,不允许替换基本功能组件,这使得企业在开发应用时无法融入自主研发的插件,难以与业务场景充分结合。
百炼率先兼容并优化了LlamaIndex等开源架构,拥抱社区生态,支持从本地或不同云端导入SQL、PDF、Excel、PPT等多种类型的数据源。此外,百炼还允许用户根据需求自由替换详细的组件,使AI应用能够平滑地嵌入企业原有的业务系统中。
周靖人表示,未来,百炼将继续致力于成为对开发者最友好、最开放的大模型平台。阿里云欢迎更多大模型上线,并将通过百炼进一步支持第三方模型的微调训练和云端专属部署,助力大模型生态系统中的企业提供商业化服务。