日语大语言模型
我参与了 SB Intuitions(软银集团)的 Sarashina3,以及 NEC 的 cotomi / cotomi-v2 等日语基础模型的研发。
研究涵盖预训练、后训练与模型评估。

AI 研究者
Yuyang Dong (David Dong)
首席研究科学家, SB Intuitions (软银集团)
大阪大学 · 受邀副教授
我参与了 SB Intuitions(软银集团)的 Sarashina3,以及 NEC 的 cotomi / cotomi-v2 等日语基础模型的研发。
研究涵盖预训练、后训练与模型评估。
Jellyfish 将指令微调语言模型用于数据预处理;DeepJoin 从数据湖中发现可连接的表。
SCAN 结合文档版面分析与文本、视觉检索。我也在 NEC 从事图表理解研究。
Rei Taniguchi, Yuyang Dong, Makoto Onizuka, Chuan Xiao
Nobuhiro Ueda*, Yuyang Dong*, Krisztián Boros, Daiki Ito, Takuya Sera, Masafumi Oyamada
Yahan Yu, Yuyang Dong , Masafumi Oyamada
Haochen Zhang*, Yuyang Dong*, Chuan Xiao, Masafumi Oyamada
* 共同第一作者。
最近在折腾 Personal Agent,越来越觉得,AI 能不能真正帮到我们,可能不只是模型能力的问题。还有一个更难回答的问题:我们愿意把多少个人信息交给它?
做模型、用 AI,也有点焦虑。关于年轻人、被磨平的门槛,以及睡前看的宇宙小知识。
预训练、强化学习与智能体能力。发表于 SB Intuitions 官方技术博客。
最强 DB 讲座第 37 期的演讲资料。
Qwen2.5-VL 与 Qwen2.5 的模型融合实验,比较仅合并 self-attention 参数及分层权重策略。发表于 Zenn,原文为日语。
开发团队介绍训练数据、模型设计与评估。
受邀副教授
首席研究科学家
Sarashina 模型研发
Principal Researcher,历任 Special Researcher、Researcher。
cotomi / cotomi-v2 开发核心成员;图表与文档理解研究。
工学硕士、计算机科学博士