谷歌最新发布的Gemini Pro自发布以来备受瞩目，谷歌声称其优于GPT-3.5。然而，CMU的研究通过深入的实验对比，展示了GPT-3.5在多个任务上的全面优势。Gemini Pro虽然在某些任务上稍显不足，但整体表现与GPT-3.5相近，为大模型领域的竞争增添了新的火花。
论文地址
:https://arxiv.org/pdf/2312.11444.pdf
研究涉及了基于知识的问答、通用推理、数学问题、代码生成等多个领域。在基于知识的问答任务中，Gemini Pro在一些子任务上落后于GPT-3.5，尤其在多选题答案输出中显示了一定的偏见。通用推理测试中，Gemini Pro的精度略低于GPT-3.5Turbo，尤其在处理较长、复杂问题时表现不佳，而GPT-4Turbo则表现更为稳健。
数学问题领域的测试包括小学数学基准、稳健推理能力、不同语言模式和问题类型等。Gemini Pro在某些任务上略显不足，特别是在多样化的语言模式任务中，表现较GPT-3.5Turbo稍逊。在代码生成方面，Gemini Pro在两项任务上的表现均低于GPT-3.5Turbo，与GPT-4Turbo相比则差距更大。
总体而言，Gemini Pro作为多模态模型，尽管在某些任务上稍显不足，但在特定领域表现出色，超越了GPT-3.5。然而，在大多数测试中，GPT-3.5Turbo仍然保持领先地位，证明其在开源模型中的卓越性能。这一研究为科技领域的大模型竞争提供了客观中立的第三方对比，为未来的模型发展提供了有益的参考。