三年16篇一作,前谷歌研究科学家Yi Tay官宣新模型,21B媲美Gemini Pro、GPT-3.5


该团队的新模型在多个基准测试中都与 Gemini Pro 、GPT-3.5 相媲美。

如果你经常读 AI 大模型方向的论文,Yi Tay 想必是一个熟悉的名字。作为前谷歌大脑高级研究科学家,Yi Tay 为许多知名的大型语言模型和多模态模型做出了贡献,包括 PaLM、UL2、Flan-U-PaLM、LaMDA/Bard、ViT-22B、PaLI、MUM 等。

根据 Yi Tay 个人资料统计,在谷歌大脑工作的 3 年多的时间里,他总共参与撰写了大约 45 篇论文,是其中 16 篇的一作。一作论文包括 UL2、U-PaLM、DSI、Synthesizer、Charformer 和 Long Range Arena 等。

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜

三年16篇一作,前谷歌研究科学家Yi Tay官宣新模型,21B媲美Gemini Pro、GPT-3.5
和大多数离开谷歌自主创业的 Transformer 作者一样,Yi Tay 在去年 3 月份宣布离开谷歌,并参与创办了一家名为 Reka 的公司,Yi Tay 担任该公司的首席科学家,主攻大型语言模型。

随着时间的推移,刚刚,Yi Tay 宣布他们发布了新模型:
三年16篇一作,前谷歌研究科学家Yi Tay官宣新模型,21B媲美Gemini Pro、GPT-3.5
「很高兴与大家分享 Reka Flash,这是一种具有 SOTA 性能的、全新的 21B 多模态模型,该模型在语言和视觉基准方面可与 Gemini Pro 和 GPT 3.5 相媲美。我们用相对有限的资源从零开始训练这个模型…… 与此同时,我们规模最大、功能最强的模型 Reka-Core 也即将完成,大家可以对我们接下来的工作期待一下。」

Reka Flash:一个高效的多模态语言模型

Reka Flash 参数量为 21B,完全从头开始训练,其性能可与更大规模的模型相媲美,在众多语言和视觉基准测试中,Reka Flash 与 Gemini Pro 和 GPT-3.5 具有竞争力。

此外, Reka 团队还提出了一个更紧凑的模型变体 Reka Edge,该模型参数量更少,只有 7B,并且效率更高,使其在资源受限(例如,在设备上、本地)的场景下也能运行。

值得一提的是,这两种模型均处于公开测试阶段,感兴趣的读者可以前去尝试。

试用地址:https://chat.reka.ai/auth/login

与此同时,Reka 团队宣布他们最大、功能最强的 Reka Core 模型将在未来几周内向公众推出。

至于开源问题,该团队表示还在考虑当中。
三年16篇一作,前谷歌研究科学家Yi Tay官宣新模型,21B媲美Gemini Pro、GPT-3.5
评估:语言

评估基准包括 MMLU(基于知识的问答)、GSM8K(推理和数学)、HumanEval(代码生成)和 GPQA(Google-proof graduate-level question answering)。

结果显示,Reka Flash 在这些基准测试中取得了非常出色的成绩:在 MMLU 和 GPQA 上优于 Gemini Pro,在 GSM8K 和 HumanEval 上取得了具有竞争力的结果。此外,在这些评估中,Reka Flash 明显优于许多较大的模型(例如 Llama 2 70B、Grok-1、GPT-3.5)。
三年16篇一作,前谷歌研究科学家Yi Tay官宣新模型,21B媲美Gemini Pro、GPT-3.5
评估:多语言推理

Reka Flash 在超过 32 种语言(包括英语,德语,中文,日语,法语,韩语,西班牙语,意大利语,阿拉伯语等)的文本上进行了预训练,因此 Reka Flash 可以看做是一个强大的多语言模型。研究者比较了不同模型在多语言基准上的性能,包括多语言常识推理、因果推理和问答。结果表明,Reka Flash 在所有这些任务上均优于 Llama-2 70B 和 Mixtral。
三年16篇一作,前谷歌研究科学家Yi Tay官宣新模型,21B媲美Gemini Pro、GPT-3.5
评估:视觉和视频

此外,该研究还在多模态基准上对 Reka Flash 进行了评估,包括视觉问答(MMMU、VQA-v2)、视频字幕(VATEX)和视频问答(Perception Test)。结果表明 Reka Flash 在所有四个基准测试中都比 Gemini Pro 具有竞争力。
三年16篇一作,前谷歌研究科学家Yi Tay官宣新模型,21B媲美Gemini Pro、GPT-3.5
该研究还进行了一系列人工评估来评估基于 Reka Flash 的聊天模型。研究者考虑了两种设置,1)纯文本聊天模型和 2)多模态聊天模型。评估过程中他们按照 Askell 等人的方法计算 ELO 分数和总体胜率。

纯文本聊天:研究者以 GPT-4、Claude 2.1 和 Gemini Pro(API 版本)等领先模型为基准。此外研究者还比较了 Reka Edge、Mistral 7B 和 Llama 2 7B 聊天模型的性能。

人工评估结果表明,Reka Flash 取得了具有竞争力的结果,优于 GPT-3.5 Turbo、Claude、Mixtral 和 Gemini Pro。Reka Edge 领先于另外两款 7B 模型,接近 Claude Instant 1.2 的性能。
三年16篇一作,前谷歌研究科学家Yi Tay官宣新模型,21B媲美Gemini Pro、GPT-3.5
评估:多模态

该研究还将 Reka Flash 与 GPT4-V、Gemini Pro、Ll*a-1.6、IDEFICS 80b 和 Adept Fuyu-8B 等多模态语言模型进行了比较。结果表明,Reka Flash 的性能优于除 GPT4-V 之外的所有模型。Reka Edge 也取得了不错的排名,超越了基于 Mistral 7B 的 Ll*a 1.6 7B,并接近 Gemini Pro 的性能。
三年16篇一作,前谷歌研究科学家Yi Tay官宣新模型,21B媲美Gemini Pro、GPT-3.5
7B 参数的 Reka Edge 模型

Reka Edge 是更为紧凑的 7B 模型,专为本地部署和延迟敏感应用程序而设计。在语言评估任务上,该研究报告了其与类似规模模型(即 Mistral 7B 和 Llama-2 7B)的比较。结果表明,Reka Edge 在标准语言基准测试中优于 Llama 2 7B 和 Mistral 7B。
三年16篇一作,前谷歌研究科学家Yi Tay官宣新模型,21B媲美Gemini Pro、GPT-3.5
总结

Reka 团队表示他们旨在构建最先进的多模态语言模型,随着 Reka Flash 和 Reka Edge 的发布,他们 AI 蓝图中的最初里程碑已经实现。大家可以期待他们接下来的研究。

参考链接:https://reka.ai/reka-flash-an-efficient-and-capable-multimodal-language-model/

以上就是三年16篇一作,前谷歌研究科学家Yi Tay官宣新模型,21B媲美Gemini Pro、GPT-3.5的详细内容,更多请关注其它相关文章!


# 还在  # 贵阳基本网站建设  # 桥东邢台网站推广  # 嘉兴seo搜索推广  # 裕华区国内网站推广中心  # 网站被镜像优化  # 批发行业产品推广营销  # 做seo还是自媒体  # 优化教学视频网站推荐  # 湛江网站推广计划书  # 信念音乐seo  # 在这些  # 测试中  # 取得了  # 产业  # 丰田  # 本田  # 是一个  # 多语言  # 进行了  # 多模  # type  # llama  # grok  # claude  # gemini  # yi tay  # reka 


相关栏目: 【 Google疑问12 】 【 Facebook疑问10 】 【 优化推广96088 】 【 技术知识133117 】 【 IDC资讯59369 】 【 网络运营7196 】 【 IT资讯61894 】


相关推荐: 微软更新服务协议,以防止通过AI服务进行逆向工程和数据抓取  人工智能加速走进百姓生活:从2025全球人工智能技术大会看行业新趋势  机构:边缘AI或是当前预期差最大的AI方向  B站内测 AI 搜索功能,输入“?”即可体验  美图影像节演讲实录:191次提及AI,发布7款影像生产力工具  人工智能时代 数字文明对话向“尼”走来  优化系统韧性:故障恢复与监控在RabbitMQ中的应用  【趋势周报】全球人工智能产业发展趋势:OpenAI向美国专利局提交“GPT-5”商标申请  J*a与人工智能结合:构建智能云服务  携程发布旅游行业垂直大模型 梁建章:AI策略是做可靠的内容 放心的推荐  五款 AI 网站构建器,任何人都能快速构建网站  如何获得元宇宙的第一个属于自己的空间  IBM 与 NASA 携手开源地理空间 AI 模型,促进气候科学研究进步  当孔子遇见AI|尼山的“数字”  五个IntelliJ IDEA插件,高效编写代码  “技术+实践+生态”三箭齐发,京东方抢占物联网高地  从谷歌到亚马逊,科技巨头们的AI痴迷  Meta开源文本生成音乐大模型,我们用《七里香》歌词试了下  如布科技发布新产品AI口袋学习机S12  看懂AI,找到增长新势能 | 笔记侠AI峰会等你来  猿力科技入选北京市通用人工智能产业创新伙伴计划  小米创始人雷军将揭示小米AI在年度演讲中的最新进展  行业首发「超级智绘」AI故事集,TCL实业推进AI技术应用  借力AI!PCB全球巨头,有爆发潜质吗?  揭秘AI数字人语录:抖音AI小和尚、老者语录能赚钱吗?  苹果2万5的AR遭遇砍单95%:不及预期  苹果CEO库克:持续研究生成式人工智能技术  PS AI修图免费平替来了!Stability AI又放大招,核弹级更新一键扩图  DeepMind推惊世排序算法,C++库忙更新!  研究预测HPC支持的人工智能增长迅速  定义人工智能的十个关键术语  普林斯顿大学推出 Infinigen AI 模型,生成真实自然环境 3D 场景  首个算网生态体!中国移动元宇宙产业联盟正式成立  人形机器人打开精密齿轮市场全新空间!受益上市公司梳理  AI 冥想应用 Ogimi.ai 推出,可为用户提供教练级个性化指导  微软宣布为 Azure AI 添加男性声线,增强文本转语音功能  “五年内人类程序员将消失”预言引争议,AI真的那么强大了吗?  阿里达摩院发布免费开放100项AI专利许可的动机是什么?  IBM CEO克里希纳:人工智能潜在创新无法被监管  京东 AI 大模型官宣 7 月 13 日发布,还有重磅合作  大模型训练成本降低近一半!新加坡国立大学最新优化器已投入使用  盘古大模型3.0正式发布 AI开发正走向新“工业化开发模式”  大型无人机FH-98国内首次夜航转场成功  WHEE安装教程  马斯克的幽默“现实”:AR眼镜与20美元“增强现实”哪个真实?  海南省公安机关警用无人机培训班结业并举行警航比武演练  真全息产品,亮相深圳文博会——dipal数伴拓展元宇宙非沉浸式体验  黄仁勋:5年前,我们对AI抱有巨大期望  构建人机交互创新模式,微美全息研究AIGC智能交互界面生成技术  美图吴欣鸿:希望更多人用上AI时代的影像生产力工具 

 2024-02-15

了解您产品搜索量及市场趋势,制定营销计划

同行竞争及网站分析保障您的广告效果

点击免费数据支持

提交您的需求,1小时内享受我们的专业解答。

运城市盐湖区信雨科技有限公司


运城市盐湖区信雨科技有限公司

运城市盐湖区信雨科技有限公司是一家深耕海外推广领域十年的专业服务商,作为谷歌推广与Facebook广告全球合作伙伴,聚焦外贸企业出海痛点,以数字化营销为核心,提供一站式海外营销解决方案。公司凭借十年行业沉淀与平台官方资源加持,打破传统外贸获客壁垒,助力企业高效开拓全球市场,成为中小企业出海的可靠合作伙伴。

 8156699

 13765294890

 8156699@qq.com

Notice

We and selected third parties use cookies or similar technologies for technical purposes and, with your consent, for other purposes as specified in the cookie policy.
You can consent to the use of such technologies by closing this notice, by interacting with any link or button outside of this notice or by continuing to browse otherwise.