首页
大模型
璇玑玉衡大模型
智能体
对话智能体
决策智能体
一体机
开发平台
低代码模型训练开发平台
零代码模型应用开发平台
解决方案
康养服务解决方案
医疗服务解决方案
教育教学解决方案
出版传媒解决方案
运营商服务解决方案
政企服务解决方案
文旅服务解决方案
案例
生态
生态开放平台
渠道招募
新闻
公司新闻
博客
关于我们
预约演示/登录
预约演示
零代码模型应用开发平台
低代码模型训练开发平台
微信扫码了解我们
服务热线
13321112233
预约演示
姓名
*
电话
邮箱
地址
内容
模型训练
高质量的模型训练
模型训练
Agent+RAG
数据工程
安全策略
技术架构
技术架构
璇玑玉衡MoE架构大模型体系,融合多模型推理,实现知识增强、检索增强、决策增强和跨模态增强。璇玑玉衡大模型还在模型安全、模型压缩、边缘计算,以及RAG和Prompt压缩能力方面都具有绝对领先的技术优势。璇玑玉衡大模型在同等成本和效率的情况下,大幅提升了模型性能和输出准确性,在行业知识和综合任务能力方面处于行业领先地位。
大模型备案
备案说明
在国家网信办2024年4月2日最新权威发布的《关于发布生成式人工智能服务已备案信息的公告》中,卓世科技自主研发的“璇玑玉衡大模型”凭借其卓越的技术实力和合规表现,荣登国家备案清单。
模型预训练
预训练
采用领域自适应预训练 DAP/T任务自适应预训练 TAPT; 针对行业模型/场景模型(L1/L2)算法调优。实现了同等算力条件下,训练效率比传统方式提供30%~50%。
模型微调
模型微调
利用指令监督微调、奖励模型训练、PPO 训练、DPO 训练等多种微调训练及 QLoRA、GaLore、DoRA、LoRA+等高效微调算法,实现更精准的模型微调
模型压缩
模型压缩
模型训练充分结合用户的应用场景,通过量化(Quantization)和低秩分解(Low-Rank Factorization)两种模型压缩技术对大模型进行压缩。在几乎不影响大模型性能的情况下,使得模型的参数规模减少72%,模型推理成本减少68%,并可以采用低成本的显卡(如3080/3090显卡)进行模型推理,大大降低大模型使用成本,实现AI大模型的“普惠化”应用。
超长中文Prompt压缩
超长中文Prompt压缩
卓世科技创新性的Prompt压缩技术,利用对齐训练的小的语言模型剔除prompt中的不重要token,将其转化为一种人类很难理解但是LLMs能很好理解的形式。这种被压缩的prompt可以直接用在LLMs中,实现最高20倍的压缩,且几乎不影响下游任务性能。
多模态技术
多模态技术
卓世科技基于LLaVa-1.5,CogVLM-17B,Qwen-VL 7B,Emu2-37B等多模态开源大模型进行微调和应用开发,支持自然语言理解和图像理解。在某政府项目中,基于大模型多模态图像识别能力,完成对智能水务场景下的图像识别与语义理解。
模型评估
通用能力测试
卓世MaaS平台的benchmark基准评估包括通用LLM基准评估和垂直行业LLM基准评估两个方面的基准测试。 通用能力测试:C-Eval、SuperCLUE、CMMLU、MMLU、Big-Bench、HELM等测试集。 垂直行业榜单测试:CBLUE(医疗)、LEXTREME(法律)、FinEval(金融)等测试集。
垂直能力测试
卓世科技MaaS平台支持导入自定义测试集,包括CSV&TSV、Text files、JSON&JSON Lines、Pickled DataFrames四种格式。卓世科技在教育、中文医疗、人力资源管理、财务管理等多个行业定制了和积累大量测试数据,垂直行业场景任务数据集不断丰富中。
超级模型评估(GPT-4评估
卓世科技MaaS平台为评估大模型的多轮对话和指令追随能力,使用MT-bench数据集包括80个高质量且多轮对话的问题,按照获取数据->执行评测->输出结果->交给GPT-4进行打分。
人工评估
卓世MaaS平台提供大模型对战平台进行人工评估。 1.匿名从模型库中选取两个模型。 2.输入自己感兴趣的问题,提交问题后,匿名模型会两两对战,分别生成相关答案。 3.用户对答案做出评判,从4个评判选项中选择一个:模型A更好、模型B更好、平手、都很差。 4.后台使用Elo评分系统对大模型的能力进行综合评估。