Ääneenajattelumenetelmä Ötzi Alppien jäämies näyttelyn ......

17
Miten tavoittaa museokävijän kokemuksia? Ääneenajattelumenetelmä Ötzi Alppien jäämies näyttelyn arviointityöpajassa Tomi Heikkilä Carina Jaatinen Eeva Kyllönen Leena Tornberg 2011

Transcript of Ääneenajattelumenetelmä Ötzi Alppien jäämies näyttelyn ......

Page 1: Ääneenajattelumenetelmä Ötzi Alppien jäämies näyttelyn ... · PDF fileEricsson ja Simon. Menetelmää on käytetty psykologiassa myös itsehavainnoinnissa, ... muutoksen tutkimista

Miten tavoittaa museokävijän kokemuksia? Ääneenajattelumenetelmä Ötzi – Alppien jäämies

–näyttelyn arviointityöpajassa

Tomi Heikkilä Carina Jaatinen

Eeva Kyllönen Leena Tornberg

2011

Page 2: Ääneenajattelumenetelmä Ötzi Alppien jäämies näyttelyn ... · PDF fileEricsson ja Simon. Menetelmää on käytetty psykologiassa myös itsehavainnoinnissa, ... muutoksen tutkimista

- 2 -

1. Johdanto....................................................................................... - 3 -

2. Työpajan lähtökohdat ................................................................... - 3 -

3. Ääneenajattelumenetelmä ............................................................ - 3 -

3.1. Menetelmän synty ........................................................................ - 3 -

3.2. Ääneenajattelumenetelmän käyttö ............................................. - 4 -

3.3. Miten ”ajatellaan ääneen” tutkimuksellisesti? ............................ - 4 -

4. Työpajan toteutus ......................................................................... - 5 -

4.1. Suunnitteluvaihe........................................................................... - 5 -

4.2. Työpajassa .................................................................................... - 7 -

4.3. Välittömät huomiot ja palautekeskustelu Näyttelycaféssa ......... - 8 -

4.4. Arviointiaineiston myöhempi käsittely ja analysointi ................ - 10 -

4.5. Ryhmien kulkureitit näyttelytilassa ............................................ - 13 -

4.6. Kirjaajien haastattelut ................................................................ - 14 -

4.7. Vastasiko työpaja tavoitteita? ................................................... - 14 -

5. Ääneenajattelumenetelmä museomaailmassa ............................ - 15 -

6. Arviointityöpajassa opittua ........................................................ - 16 -

7. Työryhmä raportin takana ........................................................... - 16 -

Kirjallisuusviitteitä aiheeseen .......................................................... - 17 -

Page 3: Ääneenajattelumenetelmä Ötzi Alppien jäämies näyttelyn ... · PDF fileEricsson ja Simon. Menetelmää on käytetty psykologiassa myös itsehavainnoinnissa, ... muutoksen tutkimista

- 3 -

1. Johdanto Suomen museoliitto järjesti Näyttelycafé -koulutustilaisuuden Näyttelykeskus WeeGeellä Espoossa 28.–29. syyskuuta 2010. Osana koulutustapahtumaa järjestettiin arviointityöpaja, jossa osanottajat pääsivät arvioimaan Ötzi , Alppien jäämies -näyttelyä Espoon kaupunginmuseon KAMU-näyttelytilassa. Näyttelykokonaisuus käsitti Etelä-Tirolin arkeologisen museon tuottaman kansainvälisen kiertonäyttelyn ja Espoon kaupunginmuseon tuottaman paikallisen Ötzin aikaan täällä -osuuden. Työpaja toteutettiin ääneenajattelumenetelmää (Thinking / Talking Aloud) soveltaen. Työpajan suunnittelusta vastasivat Espoon kaupunginmuseon näyttelyiden ja museopedagogiikan vastuualueet yhteistyössä Avara museo - kehittyvä oppimisympäristö aikuisille -hankkeen projektikoordinaattori Leena Tornbergin kanssa Helsingin yliopiston CICERO Learning –verkostosta. Työryhmä kiittää kaikkia työpajan osallistujia ja toivoo, että tämä raportti innostaa museoita kokeilemaan rohkeasti erilaisia menetelmiä kävijäkokemusten tavoittamiseksi.

2. Työpajan lähtökohdat Työpajan lähtökohtana oli Espoon kaupunginmuseon kiinnostus kehittää välineitä asiakaslähtöiseen näyttelysuunnitteluun. Asiakaslähtöisyys perustuu tietoon asiakkaan tarpeista ja kokemuksista. Mutta miten päästä kiinni tähän tietoon? Näyttelycafé tarjosi tilaisuuden ennakkoluulot-tomaan kokeiluun.

Vuonna 2007 järjestetyssä ensimmäisessä Näyttelycaféssa Tampereella kokeiltiin myös näyttelyarviointia, silloin yhdysvaltalaisen museokonsultti Beverly Serrelin Judging Exhibitions –mallia käyttäen. Serrelin arviointimallissa museoammattilaiset arvioivat itse näyttelyä. Tällä kertaa haluttiin löytää lähestymistapa, joka soveltuisi myös tavallisen asiakkaan kuulemiseen. Leena Tornbergin ehdotuksesta päätettiin kokeilla ääneenajattelumenetelmää. Ideointivaiheessa työpajan toteuttamisen tarkoitus ja tavoitteet määriteltiin seuraavasti:

Näyttelykävijöiden kokemusten kerääminen näyttelysuunnittelun kehittämiseksi

Erilaisten kävijäryhmien näkökulmien tavoittaminen

Ääneenajattelumenetelmän testaaminen kävijäkokemusten tavoittamiseksi

Museon koko henkilökunnan tietoisuuden ja yhteisymmärryksen syventäminen asiakaslähtöisemmän näyttelytoiminnan kehittämiseksi

3. Ääneenajattelumenetelmä Ääneenajattelumenetelmällä pyritään tavoittamaan tutkittavan henkilön ajatuksia ja kokemuksia, kun hän toimii tutkimustilanteessa.

3.1. Menetelmän synty

Ääneenajattelumenetelmä on kehitetty käytettävyys- ja kuluttajatutkimuksen sekä ongelmaratkaisun parissa. Sitä käytetään eniten kognitiotieteessä ja kognitiivisessa oppimistutkimuksessa.

Page 4: Ääneenajattelumenetelmä Ötzi Alppien jäämies näyttelyn ... · PDF fileEricsson ja Simon. Menetelmää on käytetty psykologiassa myös itsehavainnoinnissa, ... muutoksen tutkimista

- 4 -

Menetelmää kutsutaan myös protokolla-analyysiksi eli pöytäkirja-analyysiksi, koska yleisimmin materiaali litteroidaan jälkikäteen. Menetelmän kehittämisen lähtökohtana ovat olleet erilaisissa kyselytutkimuksissa havaitut metodologiset ongelmat. On todettu, että esimerkiksi tuotetutkimuksissa tuotteen testaajien on ollut jälkikäteen tehdyissä lomakekyselyissä ja haastatteluissa vaikea muistaa, mitä he todella ajattelivat tuotetta käyttäessään. Lisäksi on huomattu, että testaaja voi pyrkiä esittämään vastauksia, joita hän olettaa kysyjän odottavan. Tutkittava saattaa myös kokea tarvetta esittää nokkelampaa tai älykkäämpää kuin oli tutkimustilanteessa. Esimerkiksi vaikka ratkaiseminen on tutkijan mielestä näyttänyt vaikealta, tutkittava on jälkikäteen voinut ilmaista sen olleen helppoa. Clayton Lewis teki 1980-luvulla alan ensimmäisiä tutkimuksia tietokoneiden käytettävyyden kehittämiseksi IBM:llä. Menetelmän varsinaisina kehittäjinä 1980-1990-luvuilla voidaan pitää tutkijaparia Ericsson ja Simon. Menetelmää on käytetty psykologiassa myös itsehavainnoinnissa, kun tutkittava haluaa tai yrittää tutkia esimerkiksi omia toimintaprosessejaan. Suomessa mm. Pirita Seitamaa-Hakkarainen on käyttänyt menetelmää aktiivisesti käsityötieteen suunnittelun tutkimuksissa.

3.2. Ääneenajattelumenetelmän käyttö

Ääneenajattelumenetelmässä tutkittavaa pyydetään puhumaan ääneen ajatuksensa samalla, kun hän toimii tutkimustilanteessa. Tutkittavan annetaan tuottaa puhetta rauhassa eli havainnoija ei keskeytä hänen ajatuksenvirtaansa. Tutkittavan toivotaan tuottavan puhetta jatkuvasti, sillä ajatteleehan ihminen koko ajan. Menetelmän etu haastatteluun ja kyselylomakkeeseen perustuvaan tutkimukseen verrattuna on, että tutkittava ei ehdi ryhtyä tulkitsemaan tai selittelemään ajatuksiaan. Kuten muissakin tiedonkeruumenetelmissä, riskinä on, että tutkittava tietoisesti tai tiedostamattaan jättää joitakin ajatuksia ilmaisematta tai

että hän ei kerro ajatuksistaan totuudenmukaisesti. Näitä ongelmia voidaan pyrkiä ennaltaehkäisemään sekä huolellisilla henkilövalinnoilla että selkeällä tiedottamisella ja ohjeistuksella. Tutkimukseen osallistuminen on yleensä vapaaehtoista, joten motiivia tietoiseen valehteluun ei todennäköisesti ole.

Ericsson ja Simon (1996) erottelevat kolme tasoa, kun henkilöä pyydetään verbalisoimaan ajatuksiaan.

1. Tutkittavaa pyydetään puhumaan ääneen kaikki ajatuksensa samalla, kun hän suorittaa pyydettyä tehtävää. Tällä tasolla pyritään siihen, että ajatuksia ei muokata ennen sanoiksi pukemista. Tutkittavaa pyydetään puhuman joko itsekseen,

toiselle tutkittavalle (ryhmälle) tai läsnä olevalle tutkijalle. Tätä menetelmän ensimmäistä tasoa käytettiin Näyttelycafén arviointityöpajassa.

2. Tutkittavaa pyydetään selittämään tai tulkitsemaan ajatuksiaan tutkijan antamien ohjeiden mukaan. Tällä tasolla tutkittava muokkaa mielikuvia tai abstrakteja käsitteitä ennen sanoiksi pukemista.

3. Tutkittava pyrkii analysoimaan omaa ajattelutoimintaansa. Hän perustelee esimerkiksi ääneen valintojaan tai pohtii ja analysoi niihin johtaneita syitä. Tällöin on kyse tutkittavan prosessiajattelusta.

Ääneenajattelumenetelmän katsotaan sopivan hyvin lyhytkestoisessa muistissa olevan informaation tutkimiseen. Esimerkiksi näyttelykäynnin jälkeen asiakas unohtaa nopeasti osan siitä, mitä hän todella ajatteli ja koki näyttelyssä. Siksi ääneenajattelumenetelmä soveltuu hyvin näyttelykäynnin aikana tehtäviin kävijätutkimuksiin.

3.3. Miten ”ajatellaan ääneen” tutkimuksellisesti?

Ääneenajattelumenetelmää voisi verrata ihmisen sisäiseksi puheeksi, jota teemme joskus itseksemme, kun ratkaisemme kiperää ongelmaa tai

Page 5: Ääneenajattelumenetelmä Ötzi Alppien jäämies näyttelyn ... · PDF fileEricsson ja Simon. Menetelmää on käytetty psykologiassa myös itsehavainnoinnissa, ... muutoksen tutkimista

- 5 -

työstämme jotakin ajatusta. Ohjeeksi tutkittaville riittää periaatteessa neuvo: ajattele ajatuksesi ääneen. Tämä voi olla tutkimustilanteessa vaikeampaa kuin olettaisi. Kirjallisuudessa neuvotaan harjoittelemaan menetelmää etukäteen tutkittavien kanssa. Harjoitteluvaihe on sitäkin tärkeämpi, jos materiaalin kerääminen tapahtuu teknisellä laitteella (erillinen mikrofoni, sanelulaite, iPod) tai jos materiaali tallennetaan videolle. Harjoitellessa sekä tutkittava että tutkija voivat vielä keskeyttää tilanteen ja kysyä epäselviä kohtia, koska varsinaisessa tilanteessa pyritään välttämään tätä. Tutkija voi pyytää tutkittavia puhumaan joko ennalta sovittuun näkökulmaan tai aihepiiriin keskittyen tai vapaasti assosioiden, jolloin tutkija analysointivaiheessa poimii itse tallennetusta puheesta häntä kiinnostavat ajatukset. Ääneenajattelumenetelmää voidaan käyttää kaikkien kanssa, jotka pystyvät verbalisoimaan ajatuksiaan.

4. Työpajan toteutus Työpajan suunnittelu alkoi elokuussa 2010, ja se toteutettiin syyskuun Näyttelycaféssa. Aineisto analysoitiin loka-joulukuussa ja raportti valmistui maaliskuussa 2011. Muun työn ohessa toteutettuna aikaa kului ensimmäisestä ideapalaverista raportin julkaisuun kaikkiaan seitsemän kuukautta. Työprosessi jakaantui seuraaviin vaiheisiin:

- tarpeiden ja tavoitteiden määrittely - toteutuksen suunnittelu - toteutuksen valmistelu - toteutus - aineiston käsittely ja analysointi - raportointi

Koko prosessin läpikäyminen on ollut raportin kirjoittajille innostava oppimis- ja kehittämiskokemus.

4.1. Suunnitteluvaihe

Idea arviointityöpajan toteuttamisesta syntyi kesäkuussa 2010, kun Museoliitto ehdotti Espoon kaupunginmuseolle yhteistyötä Näyttelycafén järjestämiseksi. Raportin kirjoittajat ovat käyneet vapaamuotoisia ammatillisia keskusteluja näyttelysuunnittelun kehittämisestä jo vuoden 2007 Näyttelycafésta lähtien. Nyt tarjoutui hyvä tilaisuus yhteistyöhön myös käytännössä. Päätettiin kokeilla ääneenajattelumenetelmää, josta kenelläkään työryhmässä ei ollut aiempaa käytännön kokemusta. Varsinainen työpajasuunnittelu aloitettiin syyskuun alussa. Valmistelupalavereja pidettiin kolme syyskuun aikana (noin 3 h/krt + valmistelut + jälkityöt). Ensimmäisessä tapaamisessa keskusteltiin työpajan tavoitteista ja toteuttamistavoista. Samalla pohdittiin, millaista tietoa kävijöiltä voitaisiin saada. Mietittiin esimerkiksi tiedon keräämistä rakenteista, tekniikasta, esitystavoista, asiasisällöistä, liikkumisesta tilassa ja näyttelyn herättämistä tunteista. Alkuun suunniteltiin myös kävijäkokemuksen muutoksen tutkimista etu- ja jälkikäteen tehtävillä kyselyillä. Koska työpajassa ei ollut mahdollista käyttää tallennuslaitteita, mietittiin myös tapoja kirjata muistiin kävijöiden puhetta. Kun työryhmä kävi itse testaamassa menetelmää näyttelytilassa, huomattiin pian, että kommenttien kirjaamiseksi suunnitelmia oli yksinkertaistettava. Ensimmäisen tapaamisen jälkeen alettiin laatia kirjaamislomaketta, joka ohjaisi kirjaajia tekemään keskenään vertailukelpoisia huomioita. Karsintatyön jälkeen päädyttiin havainnoimaan vain kahta asiaa:

kävijän kulkureittiä sekä

kävijän tunneilmauksia (positiiviset ja negatiiviset kommentit)

Page 6: Ääneenajattelumenetelmä Ötzi Alppien jäämies näyttelyn ... · PDF fileEricsson ja Simon. Menetelmää on käytetty psykologiassa myös itsehavainnoinnissa, ... muutoksen tutkimista

- 6 -

Lomake pystyttiin siten typistämään kahdelle sivulle. Siitä pyrittiin saamaan mahdollisimman yksinkertainen ja selkeä (kuvat 1a ja 1b). Lomakkeella oli

Näyttelyn pohjakartta, johon kirjaaja saattoi piirtää ryhmän kulkureitin

Plus- ja miinussarakkeet kommentteja varten

Lyhyt ohjeistus kirjaajille

Kirjaajiksi pyydettiin kaikkia halukkaita kaupunginmuseon työntekijöitä. Tehtävään ilmoittautuneille pidettiin yksi ohjeistuspalaveri ennen työpajapäivää.

Kuva 1a: Kirjaajien lomake, 1. sivu

Kuva 1b: Kirjaajien lomake, 2. sivu

Page 7: Ääneenajattelumenetelmä Ötzi Alppien jäämies näyttelyn ... · PDF fileEricsson ja Simon. Menetelmää on käytetty psykologiassa myös itsehavainnoinnissa, ... muutoksen tutkimista

- 7 -

4.2. Työpajassa

Koulutustilaisuuden iso osanottajajoukko (51 henkilöä) oli jaettava pienempiin ryhmiin työpajan toteuttamiseksi. Jotta saataisiin esiin erilaisia näkökulmia, tehtiin osanottajille kysely (kuva 2), jonka perusteella heidät voitiin jakaa erityyppisiksi kävijäryhmiksi. Kysely teetettiin osanottajilla seminaaripäivän aamuna, minkä jälkeen osanottajat jaettiin 4-5 hengen ryhmiin. Yhteensä ryhmiä oli 10 kpl, joille annettiin kullekin oma roolinsa: 1 kpl ensikertalaiset Näyttelykeskus WeeGeellä, Espoon

kaupunginmuseossa 3 kpl perhekävijät ja saavutettavuudesta kiinnostuneet 2 kpl oppilasryhmien kanssa toimivat (rooli: opettaja, joka

esimerkiksi harkitsee ryhmänsä tuomista näyttelyyn) 4 kpl näyttelytekniikasta ja rakenteista kiinnostuneet

Pienryhmäjaon jälkeen kullekin ryhmälle osoitettiin oma kirjaaja, joka ohjeisti ryhmän ja kertoi heille annetusta roolista. Samalla ryhmiä muistutettiin, että tärkeintä on kommentointi ja ääneen puhuminen, ei roolin orjallinen noudattaminen.

Kirjaajan tehtävänä oli kävijöiden kommenttien kirjoittaminen lomakkeelle plus- ja miinus- sarakkeisiin sekä ryhmän kulkureitin piirtäminen näyttelyn pohjakaavaan. Tehtävänä oli lisäksi merkitä reitin varrelle + ja − merkit ryhmän kommenttien mukaisesti. Kirjaajista kahdeksan oli kaupunginmuseon omaa henkilökuntaa ja kaksi oli Suomen museoliitosta. Kirjaajille korostettiin, että heidän ei tule toimia pienryhmän oppaana, eivätkä he saa vastata näyttelyn sisältöä tai toteutusta koskeviin kysymyksiin. Tavoitteena oli kuitenkin mahdollisimman luonnollinen läsnäolo. Testaajia pyydettiin kääntymään kysymyksineen museon oppaiden puoleen, kuten tavallisellakin museokäynnillä.

Kuva 2: Kyselylomake, jonka pohjalta osanottajat jaettiin erilaisiin rooliryhmiin työpajassa.

Page 8: Ääneenajattelumenetelmä Ötzi Alppien jäämies näyttelyn ... · PDF fileEricsson ja Simon. Menetelmää on käytetty psykologiassa myös itsehavainnoinnissa, ... muutoksen tutkimista

- 8 -

Ohjeistuksen jälkeen ryhmät lähetettiin Näyttelykeskus WeeGeen aulasta näyttelyyn porrastetusti. WeeGeellä tai kaupunginmuseossa ensi kertaa vierailevan ryhmän lähtöpaikaksi annettiin näyttelykeskuksen pääsisäänkäynti rakennuksen ulkopuolelta. Tällä haluttiin tietoa myös siitä, kuinka uusi kävijä hahmottaa KAMUn Näyttelykeskus WeeGeen viiden museon kokonaisuudesta. Aikaa näyttelykierroksen tekemiseen annettiin ryhmille 45 minuuttia. Kaksi työpajan koordinaattoria kiersi havainnoimassa ryhmien ja kirjaajien kulkua näyttelytilassa. Tunnelma oli eläväinen ja tiivis. Kaikki tarttuivat tehtävään tosissaan ja aktiivisesti.

4.3. Välittömät huomiot ja palautekeskustelu Näyttelycaféssa

Kierroksen jälkeen ryhmien kirjaajat palauttivat lomakkeet koordinaattoreille. Jokaiselle ryhmälle tehtiin samalla lyhyt haastattelu, missä heitä pyydettiin mainitsemaan näyttelystä yksi kehittämiskohde ja yksi huippukohta.

Kuva 3: Kirjaajien lomakkeilta näyttelyn pohjakarttaan kootut plusmerkinnät (= ryhmien positiiviset kommentit.)

Osanottajille annetun lyhyen tauon aikana koordinaattorit tekivät nopean yhteenvedon arviointityöpajan tuloksista: ryhmien plussat ja miinukset (kuvat 3 ja 4) kerättiin yhteen karttapohjaan ja kehittämisehdotukset koottiin yhdelle lomakkeelle (kuva 5)

Kuva 4: Kirjaajien lomakkeilta näyttelyn pohjakarttaan kootut miinusmerkinnät (= ryhmien negatiiviset kommentit).

Page 9: Ääneenajattelumenetelmä Ötzi Alppien jäämies näyttelyn ... · PDF fileEricsson ja Simon. Menetelmää on käytetty psykologiassa myös itsehavainnoinnissa, ... muutoksen tutkimista

- 9 -

Kuva 5: Ryhmien mainitsemat näyttelyn huippukohdat ja kehittämiskohteet

Arviointityöpajan välittömät tulokset esiteltiin osanottajille tauon jälkeen järjestetyssä palautekeskustelussa. Arvioinnista saatu aineisto osoitti, että:

ryhmien kommenteista karttapohjaan kootut plussat ja miinukset näyttivät kasaantuvan etenkin kahteen kohtaan: miinuksia näyttelyn alkuun ja plussia näyttelyn keskivaiheella sijaitsevan materiaalivitriinin / kosketusnäyttöjen / materiaalinäytteiden kohtaan

ryhmiltä pyydetyt kommentit (1 huippukohta / 1 kehittämis-kohde) olivat samansuuntaisia. Niistä yli muiden nousi selkeästi yksi miinus- ja yksi pluspiirre, jotka korreloivat suoraan karttapohjien merkintöjen kanssa: + vaatevitriini+materiaalinäytteet+materiaalitieto kosketus-

näytöllä oli toimiva hands on –kokonaisuus - johdanto puuttuu, alku vaikeasti hahmotettava

Palautekeskustelussa työpajaan osallistujien kanssa todettiin mm. seuraavaa:

eri rooliryhmiin jako ei erityisesti tuonut lisäarvoa arviointiin

arvioijista eli ääneenpuhujista metodi tuntui kiinnostavalta ja kokemus oli antoisa

kirjaajille kokemus oli myös positiivinen, mutta herätti myös kehittämisajatuksia

näinkin toteutettuna menetelmä antoi selkeää informaatiota kävijöiden päällimmäisistä kokemuksista ja vahvaa näyttöä näyttelyn tärkeimmistä kehittämiskohdista

Lopuksi esiteltiin yleisölle lyhyesti ääneenajattelumenetelmän taustaa ja ajatuksia sen soveltamisesta käytäntöön.

Page 10: Ääneenajattelumenetelmä Ötzi Alppien jäämies näyttelyn ... · PDF fileEricsson ja Simon. Menetelmää on käytetty psykologiassa myös itsehavainnoinnissa, ... muutoksen tutkimista

- 10 -

4.4. Arviointiaineiston myöhempi käsittely ja analysointi

Työpajasta kertynyt aineisto käytiin perusteellisemmin läpi loka-joulukuussa. Kirjaajien täyttämien lomakkeiden perusteella tehtiin kirjallinen analyysi näyttelyosioittain (sivut 11-12). Nopeasti tehtyjen muistiinpanojen ja erilaisten käsialojen selventämiseksi kirjaajia myös haastateltiin jälkikäteen. Kirjaajien merkitsemät kulkureitit piirrettiin puhtaaksi ja karttoihin merkityistä plus- ja miinuskohdista tehtiin yhdelle pohjakartalle oma koosteensa (kuvat 6, 7, 8). Kooste ja reittipiirrokset osoittavat jo ilman kirjallista analyysiakin, että menetelmällä onnistuttiin keräämään kävijöiden kokemuksiin perustuvaa hyödyllistä ja käyttökelpoista tietoa näyttelyn vahvuuksista ja heikkouksista. Kirjallisen analyysin avulla saatiin tarkennusta kävijöiden positiivisten ja negatiivisten kokemusten syihin. Kuva 6: Karttaan on koottu kävijöiden positiiviset ja negatiiviset tunneilmaukset.

Kuva 7: Yksi arviointiryhmistä kiersi näyttelyn siten, kuin näyttelyn suunnittelijat olivat tarkoittaneet.

Page 11: Ääneenajattelumenetelmä Ötzi Alppien jäämies näyttelyn ... · PDF fileEricsson ja Simon. Menetelmää on käytetty psykologiassa myös itsehavainnoinnissa, ... muutoksen tutkimista

Arviointityöpajan tulokset: Kansainvälinen Ötzi Alppien jäämies -näyttely

1. Johdanto-osio (ks. kuva 6, vasen alakulma) Näyttelyn alku hämmensi testaajia, ja se koettiin näyttelyn heikoimmaksi kohdaksi. Kommentit olivat pääosin negatiivisia ja kritiikki oli jopa ankaraa. Testaajat eivät ymmärtäneet, miten alkuosio liittyy muuhun näyttelyyn, ja heidän oli vaikea hahmottaa, mihin tästä oli tarkoitus edetä. Kolmiosainen Landscape -osio sisälsi testaajien mukaan liikaa informaatiota ja esitystapa oli sekava. Yrityksestään huolimatta testaajat eivät esimerkiksi ymmärtäneet, miten osion tilastotietoja ilmastonmuutoksesta pitäisi tulkita. Alkuosiossa positiiviseksi koettu osio oli Timeline / Aikajana. Lisäksi näyttelyn alun valaistus sai testaajilta jonkin verran kiitosta. Testaajien kehittämisehdotus oli, että alkuosioon lisättäisiin näyttelyn lyhyt johdantoteksti, joka esittelisi näyttelyn teeman ja idean.

2. Ötzin tarina (ks. kuva 6, päärakennelma, alalaita) Tämä osa koettiin toimivaksi ja kävijöiden kommentit olivat positiivisia. Filmi Ötzin löytymisestä sai kiitosta. Eniten positiivista palautetta saivat selkeät ja mielenkiintoiset tekstit. Kieliversioiden vaihtaminen tosin koettiin välillä hankalaksi, koska painiketta oli vaikea hahmottaa. Moni painoi lipun kuvaa, ennen kuin löysi niiden viereen merkityt painikkeet. Lisäksi painettaessa painiketta teksti vaihtuu pienellä viiveellä. Testaajat arvelivat, että kävijä saattaa lähteä pois paikalta ennen kuin mitään tapahtuu.

3. Ötzin tarina, vaatetus- ja materiaalit –osio (ks. kuva 6, päärakennelma, oikea pääty) Vaatetuksesta kertova osio oli testaajien mielestä näyttelyn paras kohta. Tämän osion kosketusnäyttösovellukseen oltiin erittäin tyytyväisiä. Jotkut kokivat tässä kohtaa jopa oivaltavansa koko näyttelyn idean. Kosketeltaviin materiaaleihin kaivattiin selkeää informaatiota siitä, että niihin saa koskea. Kommentoinnissa annettiin vaatetusosiolle 23 positiivista mainintaa

ja vain yksi negatiivinen maininta.

4. Ötzin tarina (ks. kuva 6, päärakennelma, ylälaita) Tässä osassa näyttelyä testaajien palaute oli pääosin negatiivista. Jotkut pitivät lamppujen sijoittamista vitriineihin huonona, koska ne veivät heidän mielestään huomion esineiltä (testaajat museoammattilaisia). Rakennelman ahtauteen ja myös vaarallisuuteen kiinnitettiin huomiota. Museo on huomioinut tämän laittamalla varoitusteipin yhden ulokkeen kohdalle, johon kävijä voi lyödä päänsä. Osa testaajista huomautti, että esineissä olisi pitänyt lukea niiden olevan kopioita. Web-kamerayhteyttä oikeaan Ötziin pidettiin laadultaan huonona. Kaikki eivät havainneet sen olemassa oloa.

Page 12: Ääneenajattelumenetelmä Ötzi Alppien jäämies näyttelyn ... · PDF fileEricsson ja Simon. Menetelmää on käytetty psykologiassa myös itsehavainnoinnissa, ... muutoksen tutkimista

- 12 -

6. Kino KAMU (ks. kuva 6, oikea yläkulma) Näyttelyn yhteyteen oli toteutettu n. 30 asiakaspaikan elokuvateatteri, jossa esitettiin englanninkielistä, 90 minuutin pituista elokuvaa Ötzin tarinasta. Ötzistä kertovaa elokuvaa ei juuri arviointityöpajassa kommentoitu (työpajassa näyttelyyn käytettävä aika oli noin 45 min). Testaajien mielestä sitä

pidettiin liian pitkänä näyttelyyn.

7. Muita kommentteja Näyttelyn aihetta pidettiin erittäin mielenkiintoisena ja näyttelyn informaatiosisältöä monipuolisena. Kommenteissa tuli esille ilmauksia: ”kiinnostava aihe vei mennessään". Kosketeltavuus ja hands on -ratkaisut innostivat testaajia. Näyttely oli työpajaryhmien mukaan visuaalisesti levoton, tyyliltään epäyhtenäinen ja valaistus epätasainen (erityisesti joidenkin vitriinien ja mikroskooppi-osion muuta valaistusta voimakkaampi taso).

Yleistä Kokonaisuutta arvioijien mielestä pidettiin selkeänä ja ammattimaisesti toteutettuna. Osan mielestä se ei asettunut kovin luontevasti toisen näyttelyn rinnalle.

Esineiden esillepano Esitystapaa jotkut kommentoivat perinteiseksi, jopa tylsäksi. Kirjaajien havainto oli, että reki-installaatio (pohjakaaviossa iso kolmiomuoto) ei saanut juurikaan kommentteja, eikä sitä pysähdytty katsomaan.

Tekstit Näyttelyn teksteistä pidettiin. Ne olivat selkeät ja tekstihierarkia hyvä. Tekstit olivat työpajaryhmien mukaan riittävän ylhäällä ja typografia tuntui toimivalta. Vain hylje-vitriinin tekstit saivat negatiivisen kommentin luettavuutensa takia. Teksti oli sijoitettu vitriinin pohjaan, kuvun alle.

Alku Suurin osa ryhmistä ei hahmottanut näyttelyn alkua. Ötzi-näyttelyn jälkeen osa testaajista tuli hylje-vitriinin (kuva 6, kuutio keskilattialla) luo ja sen luultiin kuuluvan vielä Ötzi-näyttelyyn. Ne, jotka lopulta huomasivat ison kartan takaseinällä, ymmärsivät näyttelyn alkavan siitä. Tosin joidenkin mielestä kartta olisi voinut olla selkeämpi.

5. Mikroskoopit (ks. kuva 6, keskellä näyttelytilaa) Tämä osio oli testaajien mielestä erittäin hyvä. Tekstiä oli joidenkin mielestä liikaa, mutta joka tapauksessa mikroskoopit olivat lähes kaikkien työpajaan osallistuneiden mielestä hieno asia. Toisaalta niihin kaivattiin käyttöohjeita. Mielenkiintoista oli, että testaajat eivät antaneet kriittistä palautettava, vaikka osa mikroskoopeista ei ollut toimintakunnossa.

Arviointityöpajan tulokset: Espoon kaupunginmuseon Ötzin aikaan täällä -näyttely (ks. kuva 6, vasen yläneljännes)

Page 13: Ääneenajattelumenetelmä Ötzi Alppien jäämies näyttelyn ... · PDF fileEricsson ja Simon. Menetelmää on käytetty psykologiassa myös itsehavainnoinnissa, ... muutoksen tutkimista

- 13 -

4.5. Ryhmien kulkureitit näyttelytilassa

Kirjaajia pyydettiin merkitsemään ryhmien kulkema reitti karttaan. Reittien avulla oli tarkoitus tutkia näyttelyn tilasuunnittelun toimivuutta. Kirjaajista viisi oli piirtänyt selkeän reitin, muilla oli lähinnä yksittäisiä merkintöjä reitin varrelta. Vaikka ryhmät kokivat näyttelyn alun epäselväksi, eivätkä olleet varmoja, mihin suuntaan oli tarkoitus kulkea, he kuitenkin ohjautuivat kiertämään Ötzi Alppien jäämies -näyttelyn suurta ja selkeää rakenne-elementtiä oikeaan suuntaan. Työpajaryhmistä vain yksi ajautui kiertämään sen eri tavalla kuin näyttelyn tuottajat olivat ajatelleet (kuva 8). Tässä saattoi olla myös osasyynä ryhmien suuri samanaikainen määrä näyttelytilassa. Näyttelyn tuottajille arviointityöpaja toi tietoa kahden erillisen näyttelyn hahmottamisen vaikeudesta. Ötzin aikaan täällä -näyttelyyn siirtyminen oli arvioijien mukaan ongelmallista. Kaikki ryhmät eivät löytäneet toisen näyttelyn alkua. Avoimessa näyttelytilassa tarkoitetun reitin löytäminen on kävijälle vaikeaa. Viiden reittipiirroksen perusteella kaksi ryhmää oli kiertänyt näyttelyn suurin piirtein siinä järjestyksessä kuin näyttelyn tekijät ovat toivoneet (kuva 7) . Kolme ryhmää kulki Ötzin aikaan täällä -näyttelyssä satunnaisessa järjestyksessä ja kadottivat sitä myöden näyttelyn punaisen langan.

Kuva 8: Näyttelyn ”väärään” suuntaan kiertäneen ryhmän reitti (vrt. kuva 7).

Page 14: Ääneenajattelumenetelmä Ötzi Alppien jäämies näyttelyn ... · PDF fileEricsson ja Simon. Menetelmää on käytetty psykologiassa myös itsehavainnoinnissa, ... muutoksen tutkimista

- 14 -

4.6. Kirjaajien haastattelut

Arviointityöpajassa kirjaajilla oli avainrooli kommenttien tallentajana ja tulkitsijana. Niinpä museon omaan henkilökuntaan kuuluvia kirjaajia haastateltiin yksittäishaastattelulla, jotta saatiin selville, miten he olivat kokeneet arviointitilanteen ja käytetyn menetelmän. Kirjaajien mielestä tehtävänannolle ja kirjaajien perehdyttämiselle olisi pitänyt olla enemmän aikaa. Testaajien ryhmäkoko (4-5 hlöä) tuntui joistakin kirjaajista sopivalta, toiset taas pitivät sitä liian suurena, koska välillä ryhmän hajaantuminen vaikeutti kommenttien kirjaamista. Teksti- ja karttapohjan käyttäminen kommenttien ja kulkureittien merkitsemiseen oli kirjaajien mielestä toimiva ratkaisu. Kirjaajista oli mielenkiintoista kuulla kommentteja omasta näyttelystä muilta ammattilaisilta ja saada hyödyllistä tietoa ja uutta näkökulmaa näyttelyyn. Osa koki, että ryhmän kommentit saattoivat olla hieman varovaisia, koska kirjaajana oli isäntämuseon edustaja. Se, että kirjaaja ei saa neuvoa tai puhua testaajien kanssa, tuntui välillä vaikealta. Ryhmän sisäinen dynamiikka vaikutti myös tulokseen. Kirjaajien mielestä pienryhmät olivat kuitenkin motivoituneita tehtäväänsä. Vaikeudeksi jotkut kokivat sen, että oli valittava, ketä kuuntelee (aina lähintä ja kovaäänisintä), joten kirjaaminen ei aina ollut kovin tasapuolista pienryhmän sisällä. Kirjaajat havaitsivat myös, että ryhmän jäsenille oli vaikeinta eläytyminen annettuun rooliin (ensikävijä, perhekävijä tai muu annettu rooli). Rooli unohtui tai se tuntui teennäiseltä. Testitilanne oli haasteellinen, koska kaikki 10 ryhmää kiersivät näyttelyä yhtä aikaa, eivätkä ryhmät mahtuneet kunnolla kulkemaan itsenäisesti, vaan luovivat muiden ryhmien mukaan. Ryhmien kulku tilassa olisi voinut olla erilaista, jos liikkeellä olisi ollut vain yksi ryhmä kerrallaan. Kirjaajien kirjaamat tiedot ovat vain pieni osa siitä, mitä kävijät kierroksellaan puhuivat. Kommenttien muistiin kirjoittaminen on myös

tulkinnan tekemistä kuullusta, joten työpajassa kerätty tieto on toisen käden tietoa. Kommenteista jälkityönä laadittu kooste on siten oikeastaan jo kolmannen käden tietoa. Tallentavan välineen käyttöä kannattaa siis harkita tulevissa arvioinneissa riippuen tarvittavan tiedon laadusta ja määrästä. Työpajassa kerättyä tietoa kriittisesti tarkastelemalla voidaan kuitenkin todeta, että tällaisenaankin se kertoo jotain todellista kävijöiden tekemistä konkreettisista havainnoista ja kokemuksista, etenkin kun useiden ryhmien kommentit olivat hyvin samansuuntaisia. Kommenteista laadittuun koosteeseen poimitut parannusehdotukset ja annettu kritiikki ovat niin konkreettisia, että niiden sisältö on tuskin paljoakaan vääristynyt kirjausten yhteydessä.

4.7. Vastasiko työpaja tavoitteita?

Työpajan tulokset antoivat oleellista tietoa näyttelyiden vahvuuksista ja kehittämistarpeista. Tiedon perusteella voitiin suorittaa parannustoimia kyseisiin näyttelyihin, mutta saatua kokemusta hyödynnetään myös tulevien näyttelyiden suunnittelussa. Testiryhmille annetut roolit eivät erityisesti näkyneet testauksen tuloksissa. Testaajat olivat näyttelyammattilaisia, mikä rooli lienee pysynyt myös päällimmäisenä tai vähintäänkin annetun roolin rinnalla. Ammattilaisuus ei kuitenkaan ollut tässä yhteydessä haittatekijä. Ammattilaiset ovat kävijöitä siinä missä muutkin asiakasryhmät, ja myös ammattilaiset reagoivat näyttelyä kiertäessään ensin tunteella (ihastuttaa, ärsyttää jne.) ja sitten vasta järjellä analysoiden. Arviointityöpaja antoi Espoon kaupunginmuseon henkilökunnalle poikki-organisatorisesti mahdollisuuden saada kontakti museokävijöihin ja heidän ajatteluunsa. Työpajassa kirjaajina toimineet henkilöt museon eri vastuualueilta olivat tyytyväisiä osallistumiseensa ja kokivat saaneensa virikkeitä kävijäkokemuksen pohtimiseen. Yhteinen kokemus tuo uusia

Page 15: Ääneenajattelumenetelmä Ötzi Alppien jäämies näyttelyn ... · PDF fileEricsson ja Simon. Menetelmää on käytetty psykologiassa myös itsehavainnoinnissa, ... muutoksen tutkimista

- 15 -

mahdollisuuksia museon sisäisen yhteistyön ja asiakaslähtöisemmän näyttelytoiminnan kehittämiseen. Arviointityöpaja osoitti, että ääneenajattelumenetelmä on tehokas keino tavoittaa kävijöiden kokemuksia. Työpajassa käytettiin useita toisiaan täydentäviä tiedonkeruumenetelmiä (ääneenajattelun muistiin kirjaamista, reittien havainnointia ja haastatteluita), joiden valinnan ratkaisi työpajan luonne, osallistujamäärä ja kokeilun kertaluonteisuus. Hyvän kokemuksen rohkaisemana ääneenajattelumenetelmää käytetään Espoon kaupunginmuseon näyttelyarvioinnissa varmasti jatkossakin. Eri tallennusmenetelmien tarkoituksenmukaisuus on kuitenkin ratkaistava kulloisenkin tilanteen ja tarpeen mukaan.

5. Ääneenajattelumenetelmä museomaailmassa Ääneenajattelumenetelmästä löytyy nopealla etsimisellä esimerkiksi Helka-tietokannasta suhteellisen vähän tutkimuksia tai kirjallisuutta asiasanoilla ääneenajattelu / museo tai näyttely. Ensimmäiset kokeilut ääneenajattelumenetelmän käytöstä museoissa ovat 1990-luvun alusta. Yksi menetelmän ensimmäisistä käyttäjistä ja kehittäjistä on kanadalainen Colette Dufresne-Tassé Montrealin yliopistosta. Jo vuoden 1994 ja 1995 artikkeleissaan hän esittelee tutkimusta, jossa pyydettiin aikuismuseokävijöitä puhumaan ajatuksensa ääneen tiettyjen taideteosten äärellä. Tutkija oli kävijän taustalla äänityslaitteen kanssa ja tallensi kävijän puheen. Dufresne-Tassé keräsi materiaalia myös haastattelemalla ja pre-post-kyselykaavakkeilla. Tutkimuksessaan hän halusi tarkastella kävijän toimintaa sekä tutkijan keräämän että kävijän itsensä tuottaman aineiston valossa. Dufresne-Tassén tutkimusryhmässä

on työskennellyt myös tutkija Anne-Marie Émond, joka on julkaissut useita artikkeleita menetelmän käytöstä taidemuseoissa (ks. kirjallisuusviitteet). Yhdysvaltalainen Georg E. Hein viittaa myös Dufresne-Tassén tutkimukseen teoksessaan Learning in the Museum (1998). Hein käsittelee ensin kävijätutkimuksissa käytettävät perinteiset menetelmät: havainnoinnin, kyselyt ja haastattelut. Muissa menetelmissä hän mainitsee ääneenajattelumenetelmän. Sen käyttäjistä hän nostaa esille mm. yhdysvaltalaisen Randi Kornin 1990-luvun alusta. Ääneen ajattelua käsitellään myös AAM:n (American Association of Museums) julkaisemissa artikkeleissa 1990-luvun puolessa välissä (ks. lisää kirjallisuusviitteistä). Vuoden 2006 ICOM/CECA konferenssin teema oli Thinking, evaluation and re-thinking. Konferenssijulkaisun englanninkielisistä artikkeleista ainoastaan yhdessä (Fairchild, Charlebois ja Freed) viitattiin ääneenajattelumenetelmän käyttöön. Jälleen viittaus kohdistuu Dufresne-

Tassén tutkimusryhmään. Toistaiseksi ääneenajattelumenetelmää on käytetty suhteellisen vähäisessä määrin suomalaisissa museoissa. Taidemuseoalan kehittämisyksikkö (KEHYS) on kokeillut Thinking Aloud -menetelmän Friendly Stranger -sovellusta Nykytaiteen museo Kiasmassa vuonna 2007. Kokeilu liittyy Mia Muurimäen pro gradu –työhön Helsingin yliopiston Sosiologian laitokselle. Kokeilun perusteella on syntynyt myös Petra Korhosen Museokävijän prosessikuvaus (KEHYS, 2008). Thinking Aloud -menetelmää on kehitetty edelleen museo- ja tiedekeskusympäristöissä. Menetelmän on todettu toimivan hyvin, kun testaajia on vähintään kaksi, jolloin heidän välilleen syntyy luontevaa ajatusten vaihtoa. Tästä löytyy lisää kirjallisuutta tiedemuseoiden ja tiedekeskusten tutkimuksista.

Page 16: Ääneenajattelumenetelmä Ötzi Alppien jäämies näyttelyn ... · PDF fileEricsson ja Simon. Menetelmää on käytetty psykologiassa myös itsehavainnoinnissa, ... muutoksen tutkimista

- 16 -

6. Arviointityöpajassa opittua Ääneenajattelumenetelmää voi rohkeasti soveltaa ja kehittää oman museon tarpeisiin. Menetelmän käyttöä suunniteltaessa on syytä olla tietoinen niistä haasteista, jotka liittyvät esimerkiksi kuultavien kävijöiden valintaan, mahdollisten ryhmien muodostamiseen ja tallentamiskeinoihin. Työpajasta saadut kokemukset tuottivat seuraavia havaintoja menetelmän käytöstä: Suunnittelutyö ja ennakkovalmistelut

Rajaa selkeästi tavoite tai tavoitteet: mieti, mitä tietoa olet hakemassa?

Laadi kaikille vaiheille suuntaa-antava aikataulu.

Mieti, kuinka monta ja millaisia arvioijia tarvitset? Yksin ääneen puhuminen on vaikeampaa kuin keskustelu porukassa.

Mieti, toimitko itse kirjaajana vai onko samanaikaisesti useita kirjaajia, joiden tuotokset vedät yhteen.

Toimiminen itse yhtenä kirjaajista, edesauttaa yhteenvedon tekemisessä.

Rajaa arviointiryhmien koko sopivaksi: 2-3 hengen keskustelua ja kulkua on vielä mahdollista seurata, suurempi ryhmä hajoaa helposti.

Harjoittele menetelmää kirjaajien kanssa kokeillen kerättävän materiaalin lomakepohjan toimivuutta.

Varaa riittävästi aikaa kirjaajien perehdyttämiseen ennen varsinaista tilannetta.

Sovi arviointitilanteen ajankohta ennakkoon arvioijien kanssa ja kerro alustavasti, millainen tilanne on tarkoitus olla.

Arviointitilanne

Kirjaajajana varaa hyvin aikaa vastaanottaa ja ohjeistaa ryhmä ennen arvioinnin aloittamista.

Arvioinnin jälkeen voit myös haastatella ryhmiä siitä, miten he kokivat arviointitilanteen.

Tee lomake, jolla hankit samat taustatiedot kaikista arvioitsijoista.

Jos tallennat puheen, saat luotettavamman pohjan analyysille, mutta tallenteen purkaminen vie vastaavasti enemmän aikaa

Kirjaajana lisää lomakkeisiin omat vaikutelmasi ja kommenttisi seurantatilanteesta.

Arviointimateriaalin purkaminen ja analysointi

Mieti kuka purkaa?

Työ on täysipäiväistä materiaalin käsittelijälle jonkin aikaa. Onko tähän valmiuksia museossa?

Mieti, kenelle raportti on tarkoitettu, mistä määräytyy sen muoto ja siihen käytettävä aika.

On hyvä jo suunnitteluvaiheessa määritellä, kuka kirjoittaa raportin.

Raportin aktiivinen käyttö ja hyödyntäminen! Kannattaa muistaa, että ääneenajattelumenetelmä ei yksin anna vastauksia kaikkeen, vaan on parhaimmillaan yhdistettynä muiden menetelmien (kyselylomake, haastattelu, havainnointi) kanssa.

7. Työryhmä raportin takana Espoon kaupunginmuseon näyttelyvastuualueen henkilökunta: Tomi Heikkilä, näyttelysihteeri Carina Jaatinen, näyttelypäällikkö Eeva Kyllönen, näyttelysihteeri Antti Aalto, vastaava museomestari Leena Tornberg, projektikoordinaattori, Avara museo - kehittyvä oppimisympäristö aikuisille -hanke. Helsingin yliopisto, CICERO Learning -verkosto.

Page 17: Ääneenajattelumenetelmä Ötzi Alppien jäämies näyttelyn ... · PDF fileEricsson ja Simon. Menetelmää on käytetty psykologiassa myös itsehavainnoinnissa, ... muutoksen tutkimista

- 17 -

Kirjallisuusviitteitä aiheeseen

Dufresne-Tassé, C. (1995). Andragogy (adult education) in the museum: a

critical analysis and new formulation. Teoksessa Hooper-Greenhill, E. (Toim.) Museum, media and the message. Routledge. London and New York.

Dufresne-Tassé, C. & Lefébre, A. (1994). The Museum in Adult Education: A Psychological Study of Visitor Reactions. Review of Education. Volume 40. Nr 6. 469-484.

Dufresne-Tassé, C. – Sauve, M. Banna, N. – Lepage, Y. Weltzl-Fairchild, A. (2000). Le “Thinking Aloud” et l’apprentissage du visiteur adulte de type grand public”. Teoksessa Allard, M. - Lefebvre, B. (Toim.). Musée, culture et education / Museum, Culture and Education. Québec. Qu. Éditions MultiMondes.

Émond, A.-M. (2005). Between Talk and Silence: The Friendly Stranger and the Reception of Contemporary Art. Université de Montréal. Artikkeli haettu 19.11.2010 osoitteesta: http://neumann.hec.ca/aimac2005/PDF_Text/Emond_Anne-Marie.pdf

Ericsson, K.A & Simon H.A. (1993). Protocol analysis: Verbal reports as data. (Rev.ed) Cambridge, MA: MIT Press.

Fairchild, A. – Charlebois, C. – Freed, T. (2007) Xi’an. A Study of an exhibition. Teoksessa Nardi, E. (Toim.) Pensare, valutare, re-pensare / Thinking, evaluating, re-thinking. Franco Angeli. Milano. Italy.

Ilves, M. (2005). Ääneenajattelu. Teoksessa Ovaska, S., Aula, A. & Majaranta, P. (toim.) Käytettävyystutkimuksen menetelmät. Tietojenkäsittelytieteiden laitos B-2005-1. Tampereen yliopisto, 209- 222. Saatavissa myös verkosta http://www.cs.uta.fi/usabsem/luvut/14-Ilves.pdf

Insulander, E. (2010). Tinget, rummet, besökaren: om meningsskapande på museum. Väitöskirja: Institutionen för didaktik och pedagogiskt arbete, Stockholms universitet; 7. Stockholm.

Kaurasvaara, K. (2005). Ääneenajattelumenetelmä kämmentietokoneen uutispalvelun tutkimisessa. Pro gradu –tutkielma. Puhetieteiden laitos. Helsingin yliopisto.

Korenic, M.S. (1996). Visitor Use and Understanding of Selected Dioramas at the Milwaukee Public Museum. AAM Committee for on Audience Research and Evaluation. Current Trends in Audience Research, and Evaluation. 10. Minneapolis. 34-39

Korhonen, P. (2008). Museokävijän prosessikuvaus. Raportti 1 – 2008. Kehittäminen ja yhteiskuntasuhteet KEHYS. Valtion taidemuseo. Haettu 27.1.2011 osoitteesta http://www.fng.fi/instancedata/prime_product_julkaisu/vtm/embeds/vtmwwwstructure/14634_MuseokavijanProsessikuvaus2008.pdf

Korn, R. (1992). Evaluation Methods and Finding Shape a Junior Gallery. Visitor Studies: Theory, Research, and Practice 5. Jacksonville. Visitor Studies Association. 180-187.

Muurimäki, M. (2008) Sokkielämyksen jäljillä : Nykytaiteen museo informaatioyhteiskunnan kritiikin näyttämönä. Pro Gradu– tutkielma. Sosiologian laitos. Helsingin yliopisto

Otha, J. U. (1996). Capturing the Snapshots of Experience: Continuous Experimental Reporting by Museum Visitors. AAM Committee on Audience Research and Evaluation. Current Trends in Audience research and Evaluation 10. Minneapolis. 75-82.

Seitamaa-Hakkarainen, P. (2000). The Weaving-Design Process as a Dual-Space Search. Department of Hone Economics and Craft Science Research Report 6. University of Helsinki.

Seitamaa-Hakkarainen, P. (1997). Revealing Design Thinking Through Protocol Data. In Seitamaa-Hakkarainen, P & Uotila, M. (eds:) Produkt, fenomen, upplevelse. Proceedings of Symposium, Helsinki November, 7-9.1996. Techne Series. Research in Sloyd Education and Crafts Science B. 3. 1997.