2021年6月，北京智源研究院（BAAI）推出了悟道1.0的后续版本悟道2.0，作为中国第一个超大规模智能模型系统。悟道是一个语言模型，旨在在人类层面的思维上超越 OpenAI 的 GPT-3 和谷歌的 LaMDA。经过4.9TB的图像和文本训练，并在9个基准上超过了最先进（SOTA）水平，悟道比任何同行都更接近于实现和人类水平的思维。
悟道接受了4.9 TB高质量英文和中文图像和文本的训练：
悟道是基于开源的 MoE 系统 FastMoE 进行训练的。MoE是一种技术，其工作原理如下：
将预测建模任务划分为子任务，针对每个子任务训练专家（学习者）模型，开发门控模型，该门控模型基于要预测的输入来学习咨询哪个专家，并组合预测。FastMoE使悟道能够并行咨询不同的专家模型，并切换到预测结果最好的模型。例如，如果输入是英文文本，悟道将使用预测模型，该模型可以在英文文本中生成回应。
数据统计
数据评估
关于悟道特别声明
本站AI导航 ai123.cn提供的悟道都来源于网络，不保证外部链接的准确性和完整性，同时，对于该外部链接的指向，不由AI导航 ai123.cn实际控制，在2024年3月10日 上午7:57收录时，该网页上的内容，都属于合规合法，后期网页的内容如出现违规，可以直接联系网站管理员进行删除，AI导航 ai123.cn不承担任何责任。
相关导航
AI123是一个专注于AI工具的导航网站，收集了国内外各种AI工具，涉及多个领域和功能，每天都有新的AI工具更新和加入。此外，AI123还为你提供了AI学习开发的优秀资源，包括网站、框架和模型，让你轻松学习AI技能，实现智能化和高效化的工作和生活！
Ctrl + D 或 ⌘ + D 收藏本站到浏览器书签栏。