lectio praecursoria - signal processing methods for drum ... · lectio praecursoria signal...
TRANSCRIPT
Signaalinkäsittely Musiikin sisältöanalyysi Rumpujen nuotinnos Muotoanalyysi Yhteenveto
Lectio praecursoriaSignal Processing Methods for Drum Transcription and Music
Structure Analysis(Signaalinkäsittelymenetelmiä rumpujen nuotintamiseen ja musiikin
muotoanalyysiin)
Jouni Paulus
8.1.2010
Signaalinkäsittely Musiikin sisältöanalyysi Rumpujen nuotinnos Muotoanalyysi Yhteenveto
Sisältö
1 Signaalinkäsittely
2 Musiikin sisältöanalyysi
3 Rumpujen nuotinnos
4 Muotoanalyysi
5 Yhteenveto
Signaalinkäsittely Musiikin sisältöanalyysi Rumpujen nuotinnos Muotoanalyysi Yhteenveto
Mitä on signaalinkäsittely?
Idealisoituna kaikki havainnointi perustuu signaalinkäsittelyyn.Aistisolut rajapintana fyysiseen maailmaan.Hermoissa kulkevat signaalit.Signaalinkäsittely aivoissa.
PAINEEN−
VAIHTELU
KORVALEHTI
KORVA−
KÄYTÄVÄ
TÄRY−
KALVO
KUULO−
LUUTSIMPUKKA
BASILAARI−
KALVO
AIVOT
KUULO−
HERMO
MIKROFONI
VAHVISTIN PROSESSORI
SIGNAALI−A/D−MUUNNIN
Signaalinkäsittely Musiikin sisältöanalyysi Rumpujen nuotinnos Muotoanalyysi Yhteenveto
Motivaatio
Pääsy yhä kasvavaan määrään musiikkia.
Henkilökohtaiset musiikkikokoelmat (esim. iTunes).Kaupallinen pääsy verkossa oleviin kokoelmiin (esim. Spotify,Nokia Comes With Music).Kulttuurihistorialliset kokoelma (esim. Suomen KansaneSävelmät).
Musiikkia levitetään kasvavassa määrin valmiiksitiedostomuodossa.
Maailmanlaajuisesti muutos 2007 → 2008: fyysisten tallenteidenmyynti putosi 15%, mutta digitaalinen myynti kasvoi 24%.
Miten organisoida ja esittää tämä kaikki musiikki?
Signaalinkäsittely Musiikin sisältöanalyysi Rumpujen nuotinnos Muotoanalyysi Yhteenveto
Musiikkitiedonhaku, MIR
Laaja, monitieteinen kenttä, sisältäen mm.
musiikin kulutuksen sosiologiset ja ekonomiset kysymyksetkäyttöliittymät,musiikin semantiikka,musikologinen tutkimustietokantahautnuotinnos ja esitysmuodot.
Tutkijoita eri aloilta, mm.
kirjastojen informaatikot,musiikkitieteilijät,signaalinkäsittelijät.
Signaalinkäsittely Musiikin sisältöanalyysi Rumpujen nuotinnos Muotoanalyysi Yhteenveto
Signaalikäsittely musiikkitiedonhaussa
Tämän työ yhteydessä: signaalinkäsittely tarjoaa työkalujasisältöanalyysiin.
Akustisesta musiikkisignaalista tuotetaan kuvaus musiikillisestimerkityksellisestä asiasta, esim.
äänenkorkeus,tempo,lista käytetyistä soittimista,nuotinnos.
Signaalinkäsittely Musiikin sisältöanalyysi Rumpujen nuotinnos Muotoanalyysi Yhteenveto
Ongelmamäärittely
Annettu musiikkisignaali. Tuloksena lista ajanhetkistä, jolloinjotain (kohde)rumpua on lyöty ja rummun identiteetti.Keskitytään pääasiassa pop/rock-musiikissa käytettyihinrumpuihin.
1
2
3
4
5
6
7
Signaalinkäsittely Musiikin sisältöanalyysi Rumpujen nuotinnos Muotoanalyysi Yhteenveto
Mahdollisia sovellusalueita
Rumpusisällön muokkaminen:
loppukäyttäjän kuunteluohjelmassa,musiikkituotannossa äänityksen muokkaus.
Nuotinnos opetuksessa:
nuotit lempikappaleesta harjoittelua vartenharjoittelun nuotinnos ja kriitikkona toimiminen.
Tietokantahaut rumpusisällön perusteella.
Signaalinkäsittely Musiikin sisältöanalyysi Rumpujen nuotinnos Muotoanalyysi Yhteenveto
Hyödynnettyjä menetelmiä: segmentointi ja tunnistus
Havaitaan äänitapahtumien alkuhetket (tai luodaan tasavälinenristikko), irroitetaan ääntä kuvaavia piirteitä, luokitellaan.
Ongelma: luokittelutulos voi olla epävarma.
Ratkaisu: hyödynnetään lisäksi korkeamman tason musiikillistatietoa [P1, P2].
TATUM
TAHTI 1
TAHTI 2
TAHTI 3
TAHTI 4
1 2 3 4 5 6 7 8
BH
BH
BH
BH
BH
BH
HH
HHH
H
H
H
H
HHH
H HH
BHC
HC
SH
SH
SH
SH
HT
?
Signaalinkäsittely Musiikin sisältöanalyysi Rumpujen nuotinnos Muotoanalyysi Yhteenveto
Hyödynnettyjä menetelmiä: erottelu ja havainnointi
Erotellaan jokainen kohderumpu omaksi signaalikseen jahavaitaan signaaleista iskujen ajanhetket.Erottelu spektrogrammin ei-negatiiviseen hajotelmaan perustuen1-kanavaisesta [P3] tai monikanavaisesta [P4] signaalista,X ≈ SA.
A
S X
TAA
JUU
S
AIKA
AMPLITUDI
Signaalinkäsittely Musiikin sisältöanalyysi Rumpujen nuotinnos Muotoanalyysi Yhteenveto
Hyödynnettyjä menetelmiä: jatkuva HMM-pohjainentunnistus
Mallinnetaan piirteiden ajallinen rakenne rummuniskussa jahiljaisuudessa [P5].Mallinnus huolehtii segmentoinnista ja tunnistuksestasamanaikaisesti.
ÄÄ
NI
ÄÄ
NI
HIL
JAIS
UU
SH
ILJA
ISU
US
RU
MP
UN
RU
MP
U1
Signaalinkäsittely Musiikin sisältöanalyysi Rumpujen nuotinnos Muotoanalyysi Yhteenveto
Demo
HMM-pohjainen nuotinnos polyfonisesta musiikista.
Signaalinkäsittely Musiikin sisältöanalyysi Rumpujen nuotinnos Muotoanalyysi Yhteenveto
Ongelmamäärittely
Useat musiikkikappaleet (erityisesti länsimaisessapop-musiikissa) voidaan jakaa ajallisesti osiin.
Esim. intro, säkeistö, ja kertosäkeistö.Yksittäisen osa kesto yleensä n. 20–30 s.Monet osat toistuvat samankaltaisina.Osilla omat musiikilliset merkityksensä.Esimerkkirakenne: “intro, säkeistö, kertosäkeistö, säkeistö,kertosäkeistö, soolo, kertosäkeistö”
Järjestelmä pyrkii akustisesta signaalista
jakamaan kappaleen osiin,ryhmittelemään saman osan esiintymät, ja(nimeämään ryhmät).
Signaalinkäsittely Musiikin sisältöanalyysi Rumpujen nuotinnos Muotoanalyysi Yhteenveto
Sovellusalueita
Musiikkisisällön kuvaaminen koko kappaleen sijaan osien sisällä.
Osan sisällä musiikillinen sisältö “tasaisempaa”.
Äänisignaalin pakkaus.
Apuna nuotinnoksessa.
Esikatselupätkän luominen.
Yhdistelmät useista kappaleista.
Kappaleen rakennetta hyödyntävä soitto-ohjelma.
Signaalinkäsittely Musiikin sisältöanalyysi Rumpujen nuotinnos Muotoanalyysi Yhteenveto
Samankaltaisuusmatriisi
ALKU
AIKA
AIKA
AIK
A
LOPPU
j
ji
i
d(i, j)
Signaalinkäsittely Musiikin sisältöanalyysi Rumpujen nuotinnos Muotoanalyysi Yhteenveto
Menetelmiä
Kustannusfunktio [P6](Pyrkii selittämään vain toistuvat osat.)Termit: akustinen samankaltaisuus, selityksen kattavuus jaselityksen monimutkaisuus.
Hyvyysmitta [P8]Idea: saman osan esiintymät mahdollisimman samanlaisiakeskenään ja mahdollisimman erilaisia muiden osien esiintymistä.Osien samankaltaisuuden määrittäminen:
A
A
AA B
B
B
B
BB
AIK
A
AIKA
Signaalinkäsittely Musiikin sisältöanalyysi Rumpujen nuotinnos Muotoanalyysi Yhteenveto
Menetelmä: ryhmien nimeäminen [P7]
Hyödynnetään kappaleiden ajallisten rakenteiden tyypillisiäpiirteitä löydettyjen osien nimeämiseen.
Esim. Beatlesien musiikin osasiirtymät (bigrammi):
BEG
VERSE0 . 1 1
INTRO
0 . 8 9
0 . 1 9REFRAIN
0 . 3 4 BRIDGE
0 . 2 1
OUTRO
0 . 1 2
MISC
0 . 1 3
0 . 7 50 . 0 8
0 . 1 7
0 . 4 3
0 . 0 9
0 . 1 0
0 . 2 0
0 . 1 7
0 . 6 8
0 . 0 8
0 . 0 5
0 . 1 9
END
1 . 0 00 . 1 7
0 . 1 20 . 1 8
0 . 0 80 . 3 8
0 . 0 6
1 . 0 0
Signaalinkäsittely Musiikin sisältöanalyysi Rumpujen nuotinnos Muotoanalyysi Yhteenveto
Demo
Rakenteen hyödyntäminen soitto-ohjelmassa.
Signaalinkäsittely Musiikin sisältöanalyysi Rumpujen nuotinnos Muotoanalyysi Yhteenveto
Yhteenveto
Väitöskirja esittää signaalinkäsittelymenetelmiä musiikinsisältöanalyysiin.
Rumpujen nuotinnoksessa eri menetelmiä eri kohdesignaaleille.
Kun käytetty menetelmä ja kohdesignaali sopivat yhteen, tulos onvarsin hyvä.Oikeasta polyfonisesta musiikista tärkeimmät rummut saadaanpääosin nuotinnettua, mutta jatkokehitystä tarvitaan.
Musiikkikappaleiden muotoanalyysisä ongelmanatehtävämäärittelyn monikäsittelisyys.
Ihmisten muotoanalyysissä hyödyntämiä ideoita soveltavahyvyysmittapohjainen menetelmä toimii varsin kohtuullisesti.
Signaalinkäsittelyn avulla pystytään tuottamaan monipuolistakuvausta musiikillisesta sisällöstä, mutta monissa menetelmissäon vielä parantamisen varaa.