有没有过这样的时刻:在商场、咖啡厅里听到一首歌很上头,急切想知道歌名?
或是听到一段熟悉的旋律,但就是想不起歌曲的名字?
这时候听歌识曲功能就发挥作用了,在环境中听几秒钟,歌手和歌名便精准地出现在了屏幕上。
那么,听歌识曲软件是怎么在如此短的时间内,从嘈杂的环境中准确识别出歌名的?
今天我们就来揭秘音乐识别的工作原理。
1. 声音采样:音频数字化
音乐识别的第一步就是“听”声音。
但机器是怎么“听”到歌的呢?我们首先回顾一下声音的本质:
声音本质上是一种振动,在空气或水等介质中传播。
被人耳接收后,人耳会把这种振动通过耳膜等组织传导为大脑能识别的信号。
机器听歌的原理也类似,它把声音的振动转化为电信号,再把电信号转变成计算机可处理的数字信号。
这个把连续的声音波形转化为离散数字信号过程就叫做采样。采样率决定了信号的捕捉效果。采样率越高,点越密集,原始声音被保留得越完整。下图从左到右展示了采样率由低到高的声音还原效果。
根据 Nyquist-Shannon 定理,为了捕捉到人类可听的频率(20Hz - 20,000 Hz),采样率需要是其两倍,因此常用 44,100 Hz 的采样率。
现在我们通过采样获得了声音信号,但这只是「听歌识曲」的第一步。我们还需要提取这些声音中的特征,转换为能被识别的模式。
2. 声音特征提取:从时域到频域
当听歌识曲软件听到一段声音时,最先捕捉到的是音频的时域信号。
时域信号是最直接的声音表现形式(也就是我们通常在录音软件中看到的波形图),表示声音振幅如何随时间而变化。
但是,时域信号主要呈现的是声音随时间的变化,很难直观反映出声音中包含的频率成分。因此,为了更有效地分析声音的特征,我们需要将其从时域转换到频域。
傅里叶变换(Fourier Transform)正是这样一种工具,可以把时域信号分解为不同频率成分,帮助我们清晰地看到声音的频率和振幅信息。
这个方法可以追溯到19 世纪初,法国数学家傅里叶(Jean-Baptiste Joseph Fourier)发现,任何复杂的时域信号都可以分解为一系列简单正弦波的叠加。这一分解过程就被称为傅里叶变换,叠加的这些正弦波则被称为傅里叶级数。
通过傅里叶变换,声音被进一步分解为一系列简单的正弦波,每个正弦波都有特定的频率、振幅和相位。
下图展示了傅里叶级数如何将一个 1 Hz 的方波在时域中分解为多个正弦波的频域组合,呈现出其各个频率成分和振幅。
在音乐分析中,通常使用的是离散傅里叶变换(DFT),因为音乐信号是离散采样的数字信号。DFT 能将这些离散数据转换为频域信息,更适合计算机处理。
然而,由于DFT的算法复杂度,计算量耗时非常大。
为了优化这一过程,快速傅立叶变换(FFT)作为 DFT 的一种改进算法应运而生。FFT是一种分而治之算法,以递归方式将 DFT 划分为许多较小的 DFT,大大加快了变换速度。正因为 FFT 的高效性,它也被广泛应用于数字信号处理、图像处理、音频分析等领域。
通过傅里叶变换,音频信号就从「时域」转换到了「频域」,以显示音频中每一个时间点包含的频率及其振幅。频谱图能够帮助我们进一步可视化这些信息。
3. 频域信息的可视化:频谱图
频谱图是一种特殊的频域图,它呈现了音频信号的时间、频率和强度三维信息。
频谱图就像是歌曲的「心电图」,记录了歌曲每一秒的「心跳」——也就是频率和振幅,很直观地向我们展示了信号中哪些频率在什么时候出现,它们的强弱关系如何。歌曲特征提取的本质就是在这心电图中找到最明显的跳动。
▲ 图 / researchgate
上图就是一个典型的频谱图:X 轴表示时间,Y 轴表示频率,颜色深浅表示振幅的大小。
我们已经看到,频谱图包含了音频中独特的频率信息,那么识曲软件是如何提取这些信息并进行比对的?
4. 音频指纹:提取频率特征
识曲的关键就在于音频指纹。就像人的指纹是独一无二的,每首歌也有自己独特的指纹,音频指纹就是音频信号的数字DNA。
提取指纹的过程大致如下:音频被拆分成若干小块,进而提取音频中的显著频率峰值,每个片段的峰值组合就形成了整首歌的音频指纹。
下图展示了一个语音文件在各区段被检测到的频谱图峰值示例。这些峰值点代表了音频中最显著的频率成分,也就是音频指纹的核心构成。
▲ 图 / researchgate
通常情况下,不同的频率范围会被分别处理,这样能够确保对低音、中音和高音的均衡分析,避免混淆或漏掉某些音乐元素。
每首歌都会被转换为一个独特的音频指纹,所以就算是同一首歌的不同版本也会因为频率、振幅和时间上的差异而生成不同的指纹,以确保后续最精准的匹配。
5. 在数据库中寻找匹配:哈希表与高效匹配
现在我们有了这首歌的「指纹」,接下来就是要在已有的歌曲数据库中找到与它匹配的指纹,来识别出具体的歌曲。
听歌识曲技术将每段音频指纹转换成哈希值(一种编码),这样可以加速在数据库中查找匹配(因为比较哈希值比起去比较整段音频要快得多)。软件会将用户录音的指纹与数据库中的指纹哈希值比对,找到指纹匹配的歌曲。
下面的4幅图展示了从音频信号提取特征到生成哈希值的完整流程:
▲ 图 / Wang,A.L.-C. (2003). An Industrial-Strength Audio Search Algorithm,Shazam
A. 展示了音频信号的频谱图,显示频率随时间的变化
B. 从中提取峰值,形成星座图(星座图就是把音频中最显著的频率点形成的图,就像把最闪的星星连成星座一样)
C. 把锚点与目标区域内其他点配对,记录频率和时间差来生成组合哈希
D. 生成哈希值,用于后续的音频匹配与识别
最后,识曲算法会考虑时间差,并比对音频片段和数据库中歌曲的时间偏移,确保这些指纹的时间序列匹配,这样可以确保录制歌曲中的任意片段也能准确识别。
让我们总结整个过程,识曲app是如何在几秒内完成识别的:
Step1:采样获取录制音频样本(只需要其中的一个小片段)
Step2:通过快速傅里叶变换,音频从时域被转换成频域信息
Step3:频谱图提取关键峰值作为歌曲指纹
Step4:数据库匹配:通过哈希值在数据库中找到指纹匹配的歌曲
Step5:返回结果:匹配成功后,将歌曲名称和信息返回给用户。
6. 其他广泛应用
如今,音乐识别的应用场景已经非常丰富,除用来识别歌曲,还可以用于版权监控保护,检测音乐中的采样和相似度,甚至可以用于找出某些流派的起源和灵感来源。
这种特征提取和匹配技术也为个性化音乐推荐提供了基础。推荐系统通过深度学习分析音乐的情感、风格判断歌曲的情绪(如欢快、悲伤、激动)、根据音乐的旋律、节奏、情感等特征来挖掘用户的喜好,不仅提高了推荐的准确性,而且能为用户发现更多与其品味相符的音乐。
这块技术也正在从纯音频识别拓展到多模态识别,就是音频、视频、歌词、封面图等多模态信息综合起来(比如说视频中的视觉元素与音频一起识别),提高识别的准确性。
参考资料:
[1]Shazam Wang, A. (2003). An Industrial Strength Audio Search Algorithm.
[2]https://www.hollyland.com/blog/tips/what-is-sample-rate-in-audio
[3]https://www.ifm.com/de/en/shared/technologies/real-time-maintenance
[4]https://dewesoft.com/blog/guide-to-fft-analysis
[5]https://www.techaheadcorp.com/blog/decoding-shazam
[6]https://studyelectrical.com/2023/05/frequency-domain-analysis.html
来源:DataCafe
编辑:小咕咕
转载内容仅代表作者观点
不代表中科院物理所立场
如需转载请联系原公众号
1.2.
3.
4.
5.
6.
7.
8.
9.
10.