无问芯穹开源全球首款端侧全模态理解模型 Megrez-3B-Omni

无问苍穹今日宣布，正式开源其端侧解决方案中的全模态理解小模型Megrez-3B-Omni及其纯语言模型版本Megrez-3B-Instruct。Megrez-3B-Omni是为端侧设备设计的一款全模态理解模型，能够处理图片、音频和文本三种模态数据，并且在多个测评基准中取得了最佳性能。该模型选择了30亿参数的黄金尺寸，结构规整，推理速度较同类模型最高领先300%。未来，无问芯穹计划通过软硬件联合优化，推出与之适配的端侧推理软件与LPU IP等，旨在为端侧设备提供更完整、高效能的智能方案，推动大模型在端侧设备上实现更高推理速度与更低能耗，加速AGI时代的到来。