日前微软研究人员展示了 LLaVA-Med 模型,该模型主要用于生物医学方面的研究,可根据CT、X 光图片等推测出患者的病理状况。微软使用GPT-4,基于Vision Transformer和Vicuna语言模型,在八个英伟达 A100 GPU 上对LLaVA-Med进行训练,其中包含“每个图像的所有预分析信息”,用于生成有关图像的问答,以满足“可自然语言回答有关生物医学图像问题”的助手愿景。据微软称,该模型最终具有“出色的多模式对话能力”、“在用于回答视觉问题的三个标准生物医学数据集上,LLaVA-Med 在部分指标上领先于业界其他先进模型”。