上海交通大学主页校地产学研对接与资源平台试运行登录注册 / 入驻
湖南高等研究院衡阳分院
首页/成果库/丰富音频与环境声感知(音频描述SLAM-AAC/DRCap、声音事件检测、在线VAD、空间音频理解BAT、DCASE冠军系统)
成果库感知

丰富音频与环境声感知(音频描述SLAM-AAC/DRCap、声音事件检测、在线VAD、空间音频理解BAT、DCASE冠军系统)

吴梦玥组率先提出音频描述(Audio Caption)任务(据 X-LANCE 官方简介),并长期做弱监督声音事件检测和文本-音频对齐;陈谐组在 SLAM-LLM 中开源了大模型音频描述(SLAM-AAC)和零样本音频描述(DRCap),并与 UT Austin 合作提出空间音频推理模型 BAT;交大团队获 DCASE 2022、2024 多项冠军。这些能力对应“让机器人听懂环境”。

更新于 2026-09-13
负责团队
X-LANCE 吴梦玥课题组(音频描述/声音事件检测/DCASE 2022)、陈谐课题组(SLAM-AAC、DRCap、BAT,DCASE 2024 音频描述季军);DCASE 2024 两项冠军由上海交大钱彦旻(现任听觉认知与计算声学实验室 AudioCC Lab 负责人,X-LANCE 官网列为校友)与陈谐等联合清华大学、华北电力大学、华控智加获得
所属学院
计算机学院
技术成熟度
TRL 4
合作方式
联合开发委托研发技术服务
产业链环节
感知
技术详情

吴梦玥从 ICASSP 2019 的《Audio Caption: Listen and Tell》开始建立音频描述方向,之后发表了时长鲁棒的弱监督声音事件检测(TASLP 2021)、文本-音频 grounding(ICASSP 2021、IEEE TMM 2024)、野外轻量级在线 VAD(Interspeech 2021)和跨失配模态视听事件检测(ICASSP 2022)等工作。陈谐组在 X-LANCE/SLAM-LLM 中开源了 SLAM-AAC 和零样本音频描述 DRCap(均为 ICASSP 2025)。BAT(ICML 2024)是交大陈谐组与 UT Austin David Harwath 组的合作,让大模型对双耳空间音频做声源检测、方位(DoA)和距离推理问答。竞赛方面:DCASE 2022 Task 6a 自动音频描述和 Task 6b 基于语言的音频检索团队排名均为第一(徐薛楠、谢泽宇、吴梦玥、俞凯);DCASE 2024 中,上海交大(钱彦旻、陈谐等)联合清华大学、华北电力大学、华控智加获 Task 1 低复杂度声学场景分类和 Task 2 工业设备异常声音检测两项冠军,陈谐组牵头的 Chen_SJTU 队获 Task 6 自动音频描述第三。衡阳的巡检机器人、传感器和智能衡器企业可以联合开发设备异响检测、报警声识别和声源定位转头等声学感知模块。(来源:https://www.cs.sjtu.edu.cn/jiaoshiml/wumengyue.html;https://myw19.github.io/;https://x-lance.sjtu.edu.cn/js/papers-data.js;https://x-lance.sjtu.edu.cn/js/members-data.js;https://github.com/X-LANCE/SLAM-LLM;https://arxiv.org/abs/2402.01591;https://dcase.community/challenge2022/task-automatic-audio-captioning-results;https://dcase.community/challenge2022/task-language-based-audio-retrieval-results;https://dcase.community/challenge2024/task-data-efficient-low-complexity-acoustic-scene-classification-results;https://dcase.community/challenge2024/task-first-shot-unsupervised-anomalous-sound-detection-for-machine-condition-monitoring-results;https://dcase.community/challenge2024/task-automated-audio-captioning-results;https://audiocc.sjtu.edu.cn/zh/activities)

关键指标

DCASE 2022 Task 6a、Task 6b 团队排名第一;DCASE 2024 Task 1、Task 2 团队排名第一(与清华等联合),Task 6 团队排名第三;BAT 双耳 DoA 平均角误差 17.94°

专利 / 软著
登录后可见 · 登录
联系人与方式
仅分院工作人员可见

关联到这里的记录

上海交通大学湖南高等研究院衡阳分院 · 校地产学研对接与资源平台