清华大学联合字节跳动，开源听觉大语言模型 SALMONN

惊蛰财经 • 2023年8月22日 pm11:41 • 未分类 • 阅读 103

据 IT 之家 8 月 22 日消息，清华大学电子工程系日前与字节跳动的火山语音团队携手合作，推出开源大语言模型 SALMONN。目前 SALMONN 能够胜任英语语音识别、英语到中文的语音翻译、情感识别、音频字幕生成、音乐描述等重要的语音和音频任务，同时又涌现出多种在模型训练中没有专门学习过的多语言和跨模态能力，涵盖非英语语音识别、英语到（中文以外）其他语言的语音翻译、对语音内容的摘要和关键词提取、基于音频的故事生成、音频问答、语音和音频联合推理等任务。

目前该模型已经发布于 GitHub 中，官方同时放出了项目的 Demo 链接。