无问芯穹发布全球首个端侧全模态理解的开源模型Megrez-3B-Omni

12月16日，无问芯穹宣告正式开源其“端模型+端软件+端IP”端上智能一体化解决方案中的小模型——全球首个端侧全模态了解开源模型Megrez-3B-Omni，并同步开源了纯言语版别模型Megrez-3B-Instruct。

据介绍，Megrez-3B-Omni是一个为端而生的全模态了解模型，挑选了最适合手机、平板等端侧设备的30亿参数黄金尺度，结构规整，推理速度最大领先同精度模型300%。作为一个全模态模型，Megrez-3B-Omni一起具有图片、音频、文本三种模态数据的处理才能，并在三个模态的多种测评基准中取得了最优功用。

凭仗对硬件特性的深化了解与使用，Megrez-3B-Omni 经过软硬件协同优化战略，保证了各参数与干流硬件高度适配，以完成硬件功用的使用最大化。与上一代及其他端侧大言语模型比较，单模态版别的Megrez-3B-Instruct 在推理速度上取得了明显提高，最大推理速度可以领先同精度模型300%。

Megrez-3B-Instruct 这次还特别供给了WebSearch 功用，这一功用使得模型可以智能地判别何时需求调用外部东西进行网页查找，辅佐答复用户的问题。用户得以构建归于自己AI查找，经过网络获取最新信息，战胜小模型的错觉问题和常识储藏缺乏的限制。