untitled

Podobni dokumenti
Oblikovanje in razvijanje spletnih strani

Microsoft PowerPoint - Lapajne&Randl2015.pptx

Spletno raziskovanje

IZGRADNJA PREDSTAVITVENE SPLETNE STRANI GLUCOWATCH Avtor: Marko Zajko Projekt delno financira Evropska unija, in sicer iz Evropskega socialnega sklada

DNEVNIK

Microsoft PowerPoint - UN_OM_G03_Marketinsko_raziskovanje

Sezana_porocilo okt2013

VSEBINSKI NASLOV SEMINARSKE NALOGE

Diapozitiv 1

Pisanje strokovnih in znanstvenih del doc. dr. Franc Brcar Prirejeno po: Brcar, F. (2016). Pi

Poročilo za 1. del seminarske naloge- igrica Kača Opis igrice Kača (Snake) je klasična igrica, pogosto prednaložena na malce starejših mobilnih telefo

Microsoft Word - SEP, koncnaaaaaaaaaaaaaaaaaaaaaaaaaaa

Zapisnik 1

Gimnazija Bežigrad Peričeva Ljubljana OPERACIJSKI SISTEM Predmet: informatika

Microsoft Word - Objave citati RIF in patentne prijave za MP.doc

Microsoft PowerPoint - Predstavitev novosti COBISS_OPAC_V60_17-18_06_2010_za objavo.ppt

Microsoft Word - vprasalnik_AZU2007.doc

Vzpostavitev več nivojske varnostne infrastrukture S pomočjo Elektro Maribor, McAfee SIEM, CISCO ISE, NGFW Zorna Varga, Sfera IT d.o.o in Klemen Bačak

Microsoft Word - bibliografske-zbirke-medicina.doc

PowerPoint-Präsentation

PRAVILNIK O TUTORSKEM SISTEMU NA FILOZOFSKI FAKULTETI

Microsoft PowerPoint - petek A-sambolicbeganovic [Read-Only] [Compatibility Mode]

Vedno pod nadzorom, kjerkoli že ste

Na podlagi 48. člena Statuta Fakultete za uporabne družbene študije v Novi Gorici (UPB4) z dne je senat FUDŠ na 2. seji senata dne

Primer obetavne prakse za dejavnost-i z uporabo IKT 1 Učitelj: MARIJA VOK LIPOVŠEK Šola: OŠ Hruševec-Šentjur Predmet: Biologija 8 Razred: 8.b Št. ur:

PowerPointova predstavitev

Microsoft Word - SKUPNO POROČILO_analiza deležnikov

Predupokojitvene aktivnosti za zdravo starost

Poročilo o zaključnem računu Evropske agencije za varnost hrane za proračunsko leto 2015 z odgovorom Agencije

Slajd 1

Microsoft Word - Brosura neobvezni IP

PowerPoint slovenska predloga

1 MMK - Spletne tehnologije Vaja 5: Spletni obrazci Vaja 5 : Spletni obrazci 1. Element form Spletni obrazci so namenjeni zbiranju uporabniških podatk

Splošni pogoji poslovanja 1. Uvodna določba 1) Splošni pogoji poslovanja so pravni dogovor med končnim uporabnikom (fizična ali pravna oseba, v nadalj

PowerPoint Presentation

Slide 1

(Microsoft Word - Merila, metode in pravila - \350istopis )

Microsoft Word - 13-Selekcijski intervju.docx

Poročilo o zaključnem računu Izvajalske agencije za mala in srednja podjetja za proračunsko leto 2015 z odgovorom Agencije

AKCIJSKO RAZISKOVANJE INOVACIJSKI PROJEKT ZA ZNANJE IN SPOŠTOVANJE Udeleženci: Učenci 2. c Razredničarka: Irena Železnik, prof. Učni predmet: MAT Učna

RAZISKAVA O NEUPRAVIČENEM PARKIRANJU NA MESTIH REZERVIRANIH ZA INVALIDE (oktober 2018) izr. prof. dr. Aleš Bučar Ručman O raziskavi 2018 Na Fakulteti

Microsoft Word - CNR-BTU3_Bluetooth_vmesnik

Predmetnik programa Družboslovna informatika, smer Digitalne tehnologije in družba (DI-DTID) 1. letnik Zimski semester Poletni semester # Naziv predme

Microsoft Word - KAZALNIK ZADOVOLJSTVA S PREHRANO 2017

ISOFT , računalniški inženiring

elektroPecaver_zlozenka_3.indd

Poročilo anket

Datum in kraj

Protokoli v računalniškem komuniciranju TCP, IP, nivojski model, paket informacij.

3. Preizkušanje domnev

Microsoft Word - Vsebinska_izhodisca_nakupa_knjiznicnega_gradiva.doc

Priloga k pravilniku o ocenjevanju za predmet LIKOVNA UMETNOST. Ocenjujemo v skladu s Pravilnikom o preverjanju in ocenjevanju znanja v srednjih šolah

Chapter 1

EVROPSKA KOMISIJA Bruselj, C(2017) 6537 final DELEGIRANA UREDBA KOMISIJE (EU) / z dne o dopolnitvi Uredbe (EU) 2016/1011 Evropskeg

Šolski center Rudolfa Maistra, Srednja ekonomska šola, program predšolska vzgoja Medpredmetna povezava Informatika-Igre za otroke-Knjižnica

Microsoft Word - Analiza evalvacije.doc

RAZVOJNI CENTER ZA ZAPOSLITVENO REHABILITACIJO NORMATIVI NA PODROČJU ZAPOSLITVENE REHABILITACIJE mag. Aleksandra Tabaj Predstojnica Razvojnega centra

TEHNIČNA DOKUMENTACIJA

Usmerjevalna skupina 2018 pripravljalni dokumenti Zadeva: Sklepi organov in strokovnih teles - ZSA Uvodna opomba: uvrščamo sklepe, ki se nanašajo na p

Microsoft Word - Brosura neobvezni IP 2018

Najboljša skupaj Kontrola pristopa + registracija delovnega časa

PowerPointova predstavitev

Vaja 2 Virtualizacija fizičnih strežnikov in virtualni PC A. Strežnik Vmware ESX Namestitev strežnika VMware ESX 3.5 na fizični strežnik 2. Nas

DRUŽINSKO BRANJE

2. Model multiple regresije

Elektronska pošta

Zavod sv. Stanislava Škofijska klasična gimnazija Programiranje v Pythonu Program za računanje Maturitetna seminarska naloga iz informatike Kandidat:

POSLOVNO OKOLJE PODJETJA

VPRAŠALNIK BRALNE MOTIVACIJE ZA MLAJŠE UČENCE –

Microsoft Word - Posebni pogoji za uporabo storitev Google _DONE_.doc

Navodila za pripravo spletnih oglasov

Microsoft Word - ARRS-MS-BR-07-A-2009.doc

Predmet: Course title: UČNI NAČRT PREDMETA / COURSE SYLLABUS Uporabniška izkušnja User Experience Študijski program in stopnja Study programme and lev

08_03

Document ID / Revision : 0519/1.3 ID Issuer System (sistem izdajatelja identifikacijskih oznak) Navodila za registracijo gospodarskih subjektov

PKP projekt SMART WaterNet_Opis

1. IME IN KODA POKLICNEGA STANDARDA MLADINSKI DELAVEC/MLADINSKA DELAVKA POKLICNI STANDARD čistopis IME IN KODA POKLICA Klasius-P: Osebnost

EVRO.dvi

2

(Microsoft Word - U\350enje telegrafije po Kochovi metodi.doc)

PowerPoint Presentation

Microsoft Word - ARRS-MS-CEA-03-A-2009.doc

kodeks_besedilo.indd

EVROPSKA KOMISIJA Bruselj, C(2018) 7597 final IZVEDBENA UREDBA KOMISIJE (EU) / z dne o vzpostavitvi začasnega neposrednega stati

NAVODILA ZA PISANJE PROJEKTNIH DIPLOMSKIH DEL 1 KAJ JE PROJEKT? Projekt je enkraten glede na način izvedbe, vsebuje nove in neznane naloge, ima svoj z

Termin in lokacija izvedbe Naslov delavnice Ciljna skupina Cilji in/ali kratek opis Izvajalec Kontaktni e-naslov 6. oktober 2018 Gimnazija Franceta Pr

KONTINGENČNI PRISTOP K OBLIKOVANJU SISTEMA STRATEŠKEGA POSLOVODNEGA RAČUNOVODSTVA: EMPIRIČNA PREVERBA V SLOVENSKIH PODJETJIH

(Microsoft Word - MSDN AA Navodila za \232tudente FS.doc)

FAMICO_NEWSLETTER_1st_Final_SI

PowerPointova predstavitev

Navodila za uporabo Mini snemalnik

erasmus +: mladi v akciji Erasmus+: Mladi v akciji je del programa EU Erasmus+ na področju izobraževanja, usposabljanja, mladine in športa za obdobje

Letni posvet o izobraževanju odraslih november 2013, Austria Trend Hotel Ljubljana Izhodišč

Predmet: Course title: UČNI NAČRT PREDMETA / COURSE SYLLABUS Uporabniška izkušnja User Experience Študijski program in stopnja Study programme and lev

SPLOŠNI POGOJI

Brezplačno učenje zaposlenim in brezposelnim od 2018 do 2022 omogočata Ministrstvo za izobraževanje, znanost in šport ter Evropska unija iz Evropskega

Microsoft Word - SI_vaja5.doc

Poročilo anket

DELEGIRANA UREDBA KOMISIJE (EU) 2018/ z dne 13. julija o dopolnitvi Uredbe (EU) 2016/ Evropskega parlamenta in S

Transkripcija:

VREDNOTENJE SISTEMOV, DOSTOPNIH PREK SPLETA: primer vrednotenja storitve Hitri naslovi sistema GeaBios Aleš Klemen Alenka Šauperl Maja Žumer Oddano: 19. 4. 2006 Sprejeto: 5. 10. 2006 Izvleček Izvirni znanstveni članek UDK 004.5:004.738.5 Učinkovit uporabniški vmesnik spletnega informacijskega servisa omogoča uporabnikom samostojno delo v računalniško dostopnih sistemih. Oblikovalci spletnega informacijskega sistema GeaBios so želeli ovrednotiti uporabniško prijaznost svoje javne spletne storitve»hitri naslovi«. Vrednotenje smo izvedli z ekspertno študijo ter opazovanjem in anketiranjem uporabnikov s skupino 10 uporabnikov novembra leta 2003 v okviru diplomske raziskave. Ekspertna študija je služila za oblikovanje raziskovalnih vprašanj in nalog, ki so jih opazovanci reševali med opazovanjem. Opazovanje je bilo opravljeno v kvalitativni raziskovalni paradigmi. Anketni vprašalnik je bil oblikovan po vzorcu Bena Shneidermana (1998). Ugotovljene težave uporabnikov sodijo v naslednje skupine: formuliranje poizvedb, prikaz rezultatov na zaslonu, vpliv operacijskega sistema Windows ter oblika in barva ozadja ter elementov spletne strani. Rezultati so pokazali, da so imeli uporabniki težave pri delu s sistemom tako zaradi svoje nepazljivosti kot tudi zaradi neprimernega uporabniškega vmesnika. Ključne besede: uporabniški vmesniki, spletni informacijski servisi, geografski informacijski sistemi, GeaBios, Hitri naslovi, testiranje uporabnosti, ekspertne študije, opazovanje, anketiranje, vrednotenje KLEMEN, Aleš; Alenka ŠAUPERL; Maja ŽUMER. Evaluation of online accessed systems: example of qualitative research of Fast Addresses of GeaBios System. Knjižnica, Ljubljana, 50(2006)3, p. 69-83 69

Knjižnica 50(2006)3, 69-83 Abstract Original scientific article UDC 004.5:004.738.5 An efficient online information service user interface enables independent use of these online. Designers of the GeaBios Internet information system intended to evaluate the user-friendliness of their service»fast adresses«(»hitri naslovi«). In December 2003, as a research project for a graduation thesis, an evaluation of»fast adresses«was conducted. The study consisted of 10 study participants performing assigned tasks and a survey of the same individuals. During the study research questions were developed as well as list of tasks to be assigned to the participants for the observations. Each observation was performed using a qualitative research paradigm. This paradigm was enhanced with an adaptation of Shneiderman s (1998) questionnaire. Identified difficulties participants had in using»fast adresses«fell into four types: (1) formulation of queries, (2) display of results, (3) the influence of the operating system, Windows, and, (4) the color and design of the display background and elements of the Web page. Results indicate that the difficulties encountered were not limited to the inappropriate design of the user interface, but also are attributable to user error. Key words: user interface, Internet information services, Geographic Information Systems, GeaBios, Fast adresses, usability testing, expert study, observation, survey, evaluation 1 Uvod Delo s podatki, dokumenti in informacijskimi sistemi na svetovnem spletu prevzema v sodobni informacijski družbi vedno večjo vlogo. Prav zaradi tega je potrebno uporabnikom teh virov omogočiti uspešno in udobno delo z njimi. Snovalci informacijskih sistemov si vedno prizadevajo oblikovati prijazne in uporabne sisteme. Ker pa se njihovi mentalni modeli razlikujejo od uporabniških mentalnih modelov za iste sisteme, se lahko zgodi, da nek sistem ni tako uporaben, kot snovalci pričakujejo. Za ilustracijo tega neskladja in njegove premostitve želimo prikazati primer raziskave o uporabnosti storitve Hitri naslovi«sistema GeaBios. Storitev je razvilo zasebno podjetje in namenilo za brezplačno javno uporabo. Raziskava (Klemen, 2004) je bila zasnovana kot študija primera. Za metodo dela je bila najprej uporabljena ekspertna študija oz. pregled izbrane internetne strani sistema, nato pa opazovanje uporabe sistema. Ugotovitve smo dodatno preverili z anketo. 2 Vrednotenje uporabniških vmesnikov Vrednotenje uporabniških vmesnikov je ugotavljanje uspešnosti izdelave in upoštevanje vseh dejavnikov, ki vplivajo na uspešno medsebojno vplivanje med 70

Klemen, A.; Šauperl, A.; Žumer, M. Vrednotenje sistemov, dostopnih prek spleta: primer vrednotenja storitve Hitri naslovi sistema GeaBios računalnikom in človekom kot končnim uporabnikom. Rossi in Freeman (1993, str. 5) menita, da je vrednotenje tudi sistematična uporaba postopkov, metodologij in pristopov družboslovnega raziskovanja, z namenom ocenjevanja ideje, načrta, izvedbe, rezultatov in učinkov javnih družbenih programov. Po mnenju mnogih strokovnjakov (Preece, 1994; Galitz, 1996; Weinschenk, 1997; Mandel, 1997; Shneiderman, 1998) se še vedno daje premalo poudarka pomenu uporabniških vmesnikov računalniških sistemov, čeprav je ravno vmesnik mnogokrat tisti odločilni člen, ki uporabnika pritegne k uporabi sistema. Načrtovalci sistemov danes že v osnovi načrtujejo nove aplikacije z močnim poudarkom na končnem uporabniku, ta poudarek pa se med nadaljnjim razvojem aplikacij mnogokrat izgubi. Lahko bi rekli, da je problem v nerazumevanju, kaj uporabniki od aplikacije sploh pričakujejo, ter kakšna je komunikacija med računalnikom in uporabnikom. Ponavadi pretirano poudarjajo pomen učinkovitosti programske opreme na račun uporabnosti uporabniškega vmesnika. Tako ugotavljajo, da sta v bistvu za dober sistem potrebna oba. Tako nam učinkovit sistem lahko zagotovi mnogo (predvsem relevantnih) informacij, a z neupoštevanjem uporabnosti vmesnika te pridobljene informacije nimajo nobene vrednosti, saj uporabniki ne vedo, kakšne informacije so dobili, na kakšen način (za morebitno ponovljeno poizvedovanje) in kaj sploh lahko z dobljenimi rezultati storijo. Uporabniki to občutijo kot frustracijo ter menijo, da takšni sistemi ne tolerirajo njihovih nepomembnih napak, jih s svojimi odzivi zmedejo, zahtevajo pomnjenje prevelikega števila ukazov in navodil. Sistemi uporabljajo neprimerne načine komuniciranja in s tem uporabnika prisilijo, da dela na zanj neugoden način. Vendar je problem tudi pri uporabnikih. Le-ti pogosto ne znajo formulirati svojih zahtev in tudi ob razvoju sistema ne zmorejo konstruktivne kritike. Tu se kaže pomen informacijskih strokovnjakov, ki bi lahko prevzeli nalogo posrednika med končnimi uporabniki in načrtovalci sistemov (Žumer, 1993). Potrebno je tudi dodati, da se izkušeni oblikovalci zavedajo pomena širše zastavljenega testiranja. Izogibajo se prehitremu zadovoljstvu s svojimi izdelki in se zavedajo, da sami ne morejo primerno vrednotiti svojih izdelkov. Vrednotenje internetnih strani se je pojavilo ob širšem razmahu svetovnega spleta v devetdesetih letih dvajsetega stoletja in sledi smernicam, ki so se uveljavile pri vrednotenju podatkovnih zbirk, dostopnih preko raznih, večinoma akademskih in raziskovalnih mrež ali zbirk na CD-ROM nosilcih. Tako so se izoblikovali teoretični pristopi, ki proučujejo vrednotenje internetnih strani, posledično pa tudi njihovih sestavnih delov, kot so tudi uporabniški vmesniki in online dostopni informacijski sistemi. V strokovnih prispevkih avtorji pri obravnavanju uporabnosti velik poudarek namenjajo tako vsebini kot grafičnim elementom, ki olajšajo delo (npr. ikone), 71

Knjižnica 50(2006)3, 69-83 strukturiranosti grafičnega vmesnika ter raznim sporočilom sistema, ki imajo pogosto vlogo pomoči in tako uporabnika usmerjajo k pravim rešitvam ali mu podajajo trenutno stanje sistema. Izmed strokovnih prispevkov s tega področja je potrebno izpostaviti Shneidermana (1998), kot enega izmed vodilnih strokovnjakov in teoretikov s področja analize vsebine in oblike uporabniških vmesnikov. V svojih strokovnih prispevkih poudarja pomen pazljive izbire točk, na katere moramo biti pozorni pri vrednotenju. Tako naj bi načrt vrednotenja vseboval naslednje dejavnike: - stopnjo oblikovanja uporabniškega vmesnika (zgodnja, srednja, poznejša); - stopnjo inovativnosti projekta (dobro definiran ali je še v fazi raziskovanja možnosti); - število in vrsto predvidenih uporabnikov; - določitev segmentov uporabniškega vmesnika, vključenih v vrednotenje; - stroške proizvoda in stroške za testiranje; - časovno razpoložljivost in - izkušenost oblikovalske skupine in skupine za vrednotenje. Samo vrednotenje lahko poteka od dveh let (npr. sistema za kontrolo zračnega prometa) do tridnevnega vrednotenja majhnega internega sistema s šestimi uporabniki. Stroški vrednotenja se tako gibljejo med 1 in 10% vrednosti projekta. Shneiderman (1998) tako navaja šest načinov vrednotenja sistemov, in sicer: - ekspertno študijo (angl. expert review), - preizkušanje uporabnosti (angl. usability testing), - anketno raziskovanje (angl. survey), - ugotavljanje sprejemljivosti (angl. acceptance test), - vrednotenje med aktivno uporabo sistema (angl. evaluating during active use) in - kontrolirani psihološko orientirani preizkus (angl. controlled psychologicallyoriented experiment). Pri oblikovanju uporabniških vmesnikov je najpomembnejši element prav ciljni uporabnik sistema, kateremu mora sistem zagotoviti vse razpoložljive informacije o svojem delovanju. Razjasniti je potrebno vsako nejasnost, ki bi se morda lahko pojavila, ter s tem preprečiti kakršno koli frustracijo, ki bi se lahko pojavila ob neprimerni predstavitvi ali zasnovi informacijskega sistema. To je potrebno doseči z vključitvijo uporabniku prijaznih elementov v sistem, kar pomeni kombinacije različnih tipov pomoči pri uporabi sistema 1 in ustrezen prikaz re- 1 Še posebno je tu pomembna dobro zasnovana zaslonska pomoč, ki naj bo jedrnata, specifična in na voljo vsakič, ko se pojavi težava pri poizvedovanju. 72

Klemen, A.; Šauperl, A.; Žumer, M. Vrednotenje sistemov, dostopnih prek spleta: primer vrednotenja storitve Hitri naslovi sistema GeaBios zultatov poizvedb. Pomembno je tudi vrednotenje uspešnosti vključevanja teh elementov, kjer je potrebno upoštevati na eni strani namembnost sistema ter na drugi specifičnost uporabnikov, ki jim je sistem namenjen. Shneiderman (1998) ugotavlja, da je za raziskave najboljši način vrednotenja z uporabo ankete. Zanj je značilno, da mora biti vprašalnik pripravljen premišljeno. Najbolje je, da prosimo za pregled kolege in ga preizkusimo na manjšem številu uporabnikov (pilotna študija). Prvi preizkus vprašalnika lahko naredimo tudi na posameznem segmentu vmesnika. Cilji celotne raziskave pa so lahko vezani na celoto ali na samo en segment vmesnika. V vprašalniku uporabnike sprašujemo po njihovi subjektivni oceni informacijskega sistema in/ali uporabniškega vmesnika tega sistema. Kot dodatno možnost Shneiderman predstavlja vprašalnik za zadovoljivo uporabniško interakcijo (angl. questionnaire for user interaction satisfaction QUIS), ki ga je sam razvil, nato pa dopolnjeval na podlagi pripomb in izkušenj. Uporabljen je bil že v večih projektih, tudi z več tisoč uporabniki, ter se izkazal kot zelo učinkovit. Uporabnost tega vprašalnika se kaže tudi v tem, da se lahko uporabi za celoto ali za testiranje posameznega segmenta sistema, ki ga želimo posebej vrednotiti. 2.1 Storitev»Hitri naslovi«uporabnost brezplačno dostopne storitve»hitri naslovi«smo testirali na pobudo ljubljanskega podjetja Academa d.o.o., ki jo ponuja v okviru sistema GeaBios. Namen podjetja je bilo ugotoviti uporabniško ustreznost storitve, ki jo nudijo. Storitev»Hitri naslovi«je geografski informacijski sistem, ki uporabnikom omogoča iskanje poštnih naslovov v Sloveniji. Iskani naslov se uporabniku prikaže na zemljevidu, uporabnik pa si lahko zemljevid ogleda v različnih merilih. Sistem je namenjen vsem, ki iščejo pot do izbranega naslova, npr. študentom pri iskanju stanovanja prek oglasov, materam, ki za svoje malčke potrebujejo lokacijo najbližje ali dežurne lekarne itd. 3 Raziskovalna metoda Vrednotenje storitve Hitri naslovi sistema GeaBios je potekalo v štirih stopnjah. Najprej je bila opravljena ekspertna študija sistema. Tu smo se s sistemom seznanili, da bi lahko ugotovili, na katere dele sistema moramo biti pozorni ob načrtovanju vrednotenja ter da bi lahko predvideli možne težave, na katere bi lahko naleteli uporabniki sistema. Na podlagi pregledanih raziskav smo se odloči- 73

Knjižnica 50(2006)3, 69-83 li, da bomo za ugotovitev primernosti storitve Hitri naslovi uporabili metodo opazovanja uporabe sistema na majhnem vzorcu uporabnikov. Uporabnikom so bile zastavljene naloge, skozi katere so spoznali raziskovano storitev. Nato je bila izvedena pilotna študija, s katero smo želeli praktično preizkusiti izbrane metode vrednotenja, ter tako izboljšati tehniko vrednotenja ter opazovanja poizvedovanja in jo prilagoditi potrebam naše raziskave. 3.1 Ekspertna študija Pred začetkom raziskave smo opravili ekspertno študijo sistema, da bi lahko predvideli možne probleme, na katere lahko naletijo uporabniki sistema. Ekspertna študija je teoretični strokovni pregled oz. vrednotenja strokovnjaka, raziskovalca ter sestoji iz sistematične primerjave nekega sistema, storitve, informacijskega vira, dejavnosti, pojava itd. (Žumer, 2005). Naša študija je vsebovala opis opaženih lastnosti storitve, naš pogled v sistem, v pomoč je bila tudi pri oblikovanju hipotez o delovanju sistema, na osnovi katerih je bilo izvedeno vrednotenje. Izvedbo ekspertne študije je opravil prvo navedeni raziskovalec, za katerega je bila študija tudi prva seznanitev s sistemom, na ta način je bil zagotovljen kar najbolj objektiven vpogled v razumevanje uporabniške izkušnje seznanitve s sistemom. Pregled je bil opravljen februarja 2003, dobljeni rezultati pa so služili kot izhodišče za pripravo nalog, ki naj bi jih opazovanci izvedli, ter določili usmeritev opazovanja lastnosti sistema. Ekspertna študija je bila opravljena v okolju, kakršnega smo predvideli tudi za izvedbo raziskave. Uporabljena je bila na informacijski opremi, s kakršno so kasneje sodelujoči v raziskavi izvajali svoje naloge. Študija je sledila priporočilom Shneidermana (1998) za izdelavo načrta vrednotenja. - V sklopu sistema GeaBios, ki je sestavljen iz ponudbe komercialnih in nekomercialnih vsebin ter storitev, je bilo že pred izvedbo določeno, da se bo vrednotila le storitev Hitri naslovi. Pri tem smo ugotavljali predvsem način dostopa do storitve iz osnovne strani. - Prva naloga je bila ugotoviti stopnjo oblikovanja storitve, kjer se je pokazalo, da je projekt zastavljen kvalitetno in profesionalno, vendar še ni bil dodelan v vseh podrobnostih, predvsem na področju uporabniške pomoči in jasnosti prikazanih informacij za potrebe manj izkušenih uporabnikov. Pokazale so se tudi prve težave pri uporabi sistema, ki so dobile konkretnejšo obliko ravno z uporabo pilotne študije. - Storitev ni bila prva na tržišču, prehiteli so jo že drugi, tržno naravnani projekti (predvsem Telefonski imenik Slovenije, ki pa še ni imel aerofotogrametrijskih posnetkov), v nasprotju z njimi se ta storitev ni tržila. 74

Klemen, A.; Šauperl, A.; Žumer, M. Vrednotenje sistemov, dostopnih prek spleta: primer vrednotenja storitve Hitri naslovi sistema GeaBios - Ugotovljeno je bilo, da ponudnik storitve ni predvidel števila in vrste potencialnih uporabnikov. Iz tega je sledilo, da bo težje določiti vzorec uporabnikov za našo študijo, ki bi lahko bili reprezentančni uporabniki tega sistema, ker tega ni opravil že razvijalec sistema. - Stroški vrednotenja storitve niso bili razvidni iz samega pregleda sistema, ugotovljeno pa je bilo, da bo možno testiranje v okviru predvidenih zmožnosti, ki smo jih, kot ocenjevalci storitve, imeli na razpolago. Določene so bile specifikacije strojne in programske opreme, ki bo potrebna za uspešno in primerljivo vrednotenje in izvedbo raziskave. - Na osnovi pregleda sistema je bila predvidena maksimalna časovna razpoložljivost za posamezno vrednotenje s strani uporabnikov, in sicer za bolj izkušene uporabnike v obsegu največ ene ure, za manj izkušene pa največ dveh ur. - Potrebno je bilo ugotoviti še izkušenost oblikovalske skupine ter skupine za vrednotenje. Oblikovalska skupina sistema GeaBios ponuja že kar nekaj programskih rešitev za tržišče, zato smo predvideli, da že imajo izkušnje z aplikacijami za širšo uporabniško populacijo, ter da poskušajo zaznati uporabniške potrebe. Skupina za vrednotenje je bila sestavljena iz študenta, za katerega je bila to prva izkušnja pri vrednotenju informacijskih sistemov, ter je znanje črpal predvsem iz teorije, ter mentoric. Naše hipoteza je bila, da bodo uporabniki v času uporabe sistema sicer lahko prišli do zadovoljivih rezultatov iskanja, vendar bodo pri tem naleteli tudi na določene težave. Težave smo predvideli pri hitrosti sistema, navigaciji po spletni strani ter iskanju v zahtevnejšem iskalniku. Sistem je bil, po našem mnenju, sicer zmožen opravljati naloge, ki si jih je zadal, vendar je bilo pričakovati težave pri razumevanju delovanja sistema s strani uporabnikov. Mnenje in predpostavke so se oblikovale v okviru ekspertne študije, ko je prvi avtor ob sistematičnem raziskovanju naletel na težave in možne pasti. Kot izhodišče za izvedbo anketnih vprašalnikov nam je služil Shneidermanov (1998) osmi in deveti del QUIS-a (Shneiderman, 1998, str. 140-141). Poleg tega smo uporabili tudi vprašalnik Adamsa in sod. (2001), ki so ga razdelili na tri dele, in sicer: splošno, lastnosti aplikacije ter povzetek. Uporabljene so bile tudi nekatere smernice, ki so bile podane drugje v uporabljeni literaturi. Navkljub uvodni predstavitvi oblikovalcev o jasnem cilju projekta, zapisani na njihovi spletni strani, so se ob našem pregledu sistema ter storitve Hitri naslovi pojavila določena vprašanja: ali uporabniki res razumejo cilje in namen sistema in njegovih storitev? Bodo uporabniki res znali uspešno samostojno uporabljati omenjeno storitev in vse možnosti, ki jih ta ponuja? Če to ne bo mogoče, ali znajo izrabiti ponujeno zaslonsko pomoč? Predvsem pa, ali se jim sistem zdi uporaben ter kaj uporabnega vidijo v sistemu. 75

Knjižnica 50(2006)3, 69-83 3.2 Vzorčna skupina Ker je sistem GeaBios nasploh dostopen javnosti, je vzorec uporabnikov, ki bi bil optimalen za analizo, zelo težko ugotoviti in zajeti. Vzorec opazovancev zaradi te težave ni bil naključen, temveč namenski. Vzorec opazovancev je bil uravnotežen po starosti, spolu in izkušenosti. Zajemal je dve skupini: v prvi skupini je bilo deset udeležencev v starosti med 20 in 25 let, ki aktivno uporabljajo informacijsko tehnologijo, drugo skupino so predstavljali posamezniki v starosti med 40 in 50 let, ki pri svojem delu ravno tako uporabljajo informacijsko tehnologijo. Zaradi večje relevantnosti rezultatov smo se odločili, da bomo izbrali posameznike, ki se s sistemom še niso srečali, da so torej vsi brez izkušenj s sistemom»hitri naslovi«, ki smo ga vrednotili. Pomembna zahteva je bila tudi, da so vsi računalniško pismeni, da znajo ravnati vsaj s programi v okolju Windows in vsaj enim programom za brskanje po svetovnem spletu. Za večjo uravnoteženost skupine je bila polovica posameznikov ženskega in polovica moškega spola. Vzorčenje je potekalo glede na pripravljenost prostovoljnega sodelovanja prijateljev in znancev. Pomembno je bilo, da so izpolnjevali kriterij možne umestitve v eno od obeh skupin. Želeli smo dobiti dve primerljivi skupini posameznikov. Zaradi časovne omejitve, povezane s pričakovanim zaključkom diplomskega dela, smo se odločili za 20 ljudi, za katere smo pričakovali, da bodo pripravljeni sodelovati. Žal smo med pridobivanjem prostovoljcev iz starostne skupine med 40 in 50 let naleteli na veliko oviro, saj posamezniki niso bili pripravljeni sodelovati ali pa niso imeli dovolj (računalniškega) znanja, da bi v raziskavi lahko uspešno sodelovali. Na podlagi dejstva, da je od osnovnega vzorca ostalo le deset posameznikov starostne skupine med 20 in 25 letom, se je ustreznost sistema vrednotila le na podlagi njihovih odzivov. Lahko trdimo, da je bil vzorec informativen in je odražal trend uporabnikov te starostne skupine, saj so njihove (bodoče) strokovne usmeritve zelo različne in segajo od naravoslovja, preko humanistike ter družboslovja, do čisto tehničnih profesij, kot sta gradbeništvo in telekomunikacije. Prav tako smo obdržali uravnoteženost po spolu (pet žensk in pet moških uporabnikov) in predvideni izkušenosti (večinoma srednje dobro izkušeni uporabniki računalnikov, kar je razvidno tudi iz rezultatov). Le-to smo izvedli zato, ker pri nas takšna vrsta raziskave še ni bila izvedena, namen pa je bil zbrati opažanja o vedenju uporabnikov v tem sistemu nasploh. 76

Klemen, A.; Šauperl, A.; Žumer, M. Vrednotenje sistemov, dostopnih prek spleta: primer vrednotenja storitve Hitri naslovi sistema GeaBios 3.3 Pilotna študija Pilotna študija je navadno namenjena preizkusu raziskovalca in raziskovalnega načrta. Izvedli smo jo na enem samem uporabniku. Po pilotni študiji smo ugotovili: - izpopolniti bo potrebno začetni nagovor ter predstavitev namena in ciljev raziskave. Prvotno opazovanci niso dobili dovolj natančnih navodil, in niso točno vedeli, kaj od njih pričakujemo; - uporabniku je potrebno povedati, da ni potrebno, da naloge rešuje v vrstnem redu, kakor so navedene na listu z nalogami, kakor tudi, da lahko reševanje opusti, če ne želi ali ne more rešiti posamezne naloge; - prvo nalogo, ki je bila težko rešljiva, se nadomesti z nalogo lociranja uporabnikovega doma; - anketni vprašalnik se uporabniku izroči šele po končanem reševanju zastavljenih nalog; - potrebno je postaviti časovni okvir posamezne raziskave na dve uri. Pred tem je bil časovni okvir poteka posamezne raziskave neomejen. Po preteku tega časa, če uporabnik še ni končal z nalogami, se mu da na izbiro, da lahko zaključi z izvrševanjem nalog ali pa se časovni okvir poteka raziskave ustrezno podaljša; - uporabnikom je potrebno naročiti, naj rezultate, ki jih dobijo pri rešitvi naloge, zapišejo na list z nalogami; - uporabnike je treba prositi, da se o poteku in rezultatih poizvedovanja ne pogovarjajo s posamezniki, ki bi bili morda primerni za našo raziskavo, dokler raziskava ne bo zaključena; - devetstopenjska lestvica za odgovore je bila nadomeščena s petstopenjsko; - prvo navedenemu raziskovalcu je omogočila seznanitev s primernim načinom beleženja opazovanja tj. zapisovanja dogodkov, ki so se dogajali ob opazovanju njegove prve kvalitativne raziskave, ki jo je izvedel. Dobljeni rezultati vrednotenja so pokazali smernice ter izboljšave za uspešnejšo izpeljavo vrednotenja, ki je bilo opravljeno za potrebe raziskave. List z nalogami in vprašalnik sta kot prilogi predstavljena v delu Klemena (2004). 3.4 Opazovanje reševanja nalog in vprašalnik za vrednotenje sistema Za glavni del raziskave smo mnenja uporabnikov sistema zbirali z opazovanjem (observation) in anketnim vprašalnikom. Naloge, ki so jih opazovani uporabniki 77

Knjižnica 50(2006)3, 69-83 reševali s poizvedovanjem po sistemu, so bile podane na posebnem listu papirja. Njihova vsebina in vrstni red je bil za vse udeležence enak. Opazovanje je potekalo med reševanjem nalog. Opažanja smo beležili med samim vrednotenjem 2. Primer beleženja je kot priloga podan v diplomskem delu Klemena (2004). Uporabniki so bili naprošeni, da svoja dejanja med delom glasno komentirajo. Ob koncu je vsak sodelujoči izpolnil tudi vprašalnik, kjer je tudi formalno podal svoja opazovanja in mnenje o uporabnosti sistema, ter morebitne predloge o izboljšavah. Zanesljivost raziskave je bila potrjena z ujemanjem rezultatov ankete in opazovanj. Vprašalnik je moral vsebovati jasna in nedvoumna vprašanja v zvezi s spletno stranjo 3. Odgovore je bilo potrebno natančno beležiti. Potrebno je še opozoriti, da se ni izvajala t. i. preliminarna raziskava, raziskava odziva uporabnikov preden je sistem dan v uporabo širšemu krogu uporabnikov, saj je sistem deloval že dlje časa pred raziskavo. Vrednotenje je potekalo od septembra do novembra leta 2003, in sicer na vnaprej pripravljenem računalniku v testni sobi. Računalnik je imel nameščen operacijski sistem Windows XP, uporabljen je bil brskalnik Internet Explorer 6.0 pri ločljivosti zaslonskega področja 1024x768 slikovnih pik. Prav tako je moral brskalnik podpirati programska jezika Java in JavaScript, dinamični HTML, komponento ActiveX, ter označevalni jezik XML, kakor sistem za pravilno delovanje zahteva. Uporabnost sestavljenega vprašalnika smo najprej preizkusili s testnim uporabnikom. 3.5 Potek raziskave Na osnovi ekspertne študije, ki smo jo izvedli ob začetku raziskave, smo prišli do okvira raziskave ter predvidevanj. Potek poskusa je bil preprost. Vsa vrednotenja in zbiranja mnenj so potekala, kot smo že omenili, v testni sobi, s pomočjo ustrezno strojno in programsko opremljenega računalnika. Vsak posameznik je bil poseden za računalnik, kjer so mu bile na listu papirja predložene naloge, ki jih je moral razrešiti. Opazovančevo delo s sistemom (opazovanje) je bilo časovno omejeno na dve uri oz. dokler posameznik, ki je sodeloval pri poskusu, ni prišel do zadovoljivih rezultatov poizvedbe ali dokler 2 Potek terenske raziskave se ponavadi beleži tudi s pomočjo tehničnih pripomočkov, da ne izgubimo podrobnosti, ki so se zgodile med raziskavo. A v našem primeru zaradi majhnosti vzorca ter že določenega področja vrednotenja (problemov z neuspešnim izvajanjem poizvedovanj ne pričakujemo) ta pomožna orodja niso bila potrebna. 3 Vrednoti se lahko tudi samo posamezen segment celotne internetne strani, v našem primeru samo storitev Hitri naslovi. 78

Klemen, A.; Šauperl, A.; Žumer, M. Vrednotenje sistemov, dostopnih prek spleta: primer vrednotenja storitve Hitri naslovi sistema GeaBios poizvedbe ni opustil. Najprej je bil napoten na stran GeaBiosa, nato je bilo celotno delo prepuščeno posamezniku samemu, brez kakršnega koli vključevanja opazovalca v potek. Opazovana so bila dejanja posameznika, pri tem smo podrobnosti poteka zapisovali. Vsi posamezniki so svoja dejanja, zaradi lažjega razumevanja poteka posameznih faz poizvedb, sprotno glasno komentirali. Med samim izvrševanjem nalog raziskovalec ni komuniciral s posameznikom. Izjemoma je raziskovalec zastavil posamezna nevtralna vprašanja, če ga je zanimala širša razlaga ali je bil kontekst posameznega dejanja nerazumljiv oz. nejasen. Vzorec poteka uporabe sistema je podan v prilogi C. Ob koncu reševanja nalog so bili vsi opazovanci naprošeni, naj izpolnijo vprašalnik. 3.6 Analiza rezultatov raziskave Po opravljenih opazovanjih je potekala analiza dobljenih rezultatov. Naloge, zastavljene pri delu raziskave, kjer so uporabniki izvrševali zadane naloge, so bile zelo splošne narave in kot take namenjene zgolj za usmeritev uporabnikov v uporabo različnih segmentov storitve»hitri naslovi«sistema GeaBios. Dobljeni rezultati so pričali o uspešnosti dela vsakega posameznika ter o težavah, s katerimi so se srečevali. Za vsakega opazovanca je bilo narejeno poročilo. Vsako posamezno poročilo je bilo sestavljeno iz zapisa opazovanja uporabe sistema ter analize odgovorov, dobljenih iz anketnega vprašalnika. Rezultate smo primerjali med seboj, iz vseh poročil pa so vzniknile skupne težavne teme. Sklopi problemov, na katere so uporabniki naleteli, so glavni rezultat raziskave. Slednji so v poročilu najprej podali stanje sistema ob opravljanju določenega dejanja. Nato so bile predstavljene posledice in načini izvedbe določenega dejanja, ter posebnosti in težave, na katere so uporabniki ob tem naleteli. Podane so bile tudi primerjave med opaženimi dejanji uporabnikov ter njihovimi pogledi na to isto dejanje, izraženo v anketnem vprašalniku. Na koncu vsakega sklopa so bile podane smernice ter priporočila za razrešitev posamezne neustreznosti sistema. Ob primerjavi odgovorov na odprta vprašanja v anketi in mnenja, ki so jih uporabniki podali med uporabo, se je pokazalo njihovo splošno mnenje. Na osnovi poročil in odgovorov uporabnikov v anketnih vprašalnikih je bila narejena analiza, na osnovi katere smo lahko podali mnenja in izkušnje uporabnikov in splošno sliko o ustreznosti sistema GeaBios oz. njegove storitve Hitri naslovi. Rezultati, ki smo jih pri tem dobili, so dali sliko sistema. 79

Knjižnica 50(2006)3, 69-83 3.7 Primeri identificiranih težav z uporabo informacijskega sistema Ugotovljene težave so se pojavljale tako zaradi nepazljivosti uporabnikov kot tudi zaradi neprimerne zasnove servisa. Nekaj težav in predlogov za spremembe, za katere menimo, da so pomembni za informacijske sisteme nasploh, bo prikazanih v nadaljevanju. Sistem omogoča dva načina iskanja: osnovnega, ki se uporabniku prikaže ob vstopu v sistem, in naprednega, ki si ga uporabnik izbere iz menija. Nihče od uporabnikov ni ugotovil, da obstojita dva načina iskanja. Ko pa je več uporabnikov prek menijske vrstice po naključju prešlo iz enostavnega v napredno iskanje, tega sploh niso opazili. To pomeni, da se morata oba načina iskanja zelo očitno razlikovati oz. mora sistem na prehod opozoriti na posebno vpadljiv način. Ob prehodu iz enostavnega v napredni način iskanja se uporabniku avtomatično prikažejo navodila za iskanje. Ta s primeri prikažejo uporabo znakov za krajšanje ter»natančno«in»približno«iskanje. Večina uporabnikov, ki so iskali z naprednim načinom, teh navodil ni prebrala. Zato so imeli težave z iskanjem, in so sistem označili kot zahteven za uporabo. Ta ugotovitev ilustrira dejstvo, da ne kaže računati na to, da bodo uporabniki navodila za uporabo sistema prebrali. Seveda se takoj zastavi vprašanje, ali je mogoče za servise, ki so na spletu javno in brezplačno dostopni, zagotoviti usposabljanje uporabnikov na drug način. Tudi oblika strani ter izbira barv za ozadje in elemente spletne strani so povzročali nekaj težav. Ker je bila stran daljša od zaslona in je bil drsnik v barvi ozadja, več uporabnikov ni opazilo, da jim zaslon ne ponuja celotne informacije. Gumb»briši«, ki je izpraznil iskalno okence za oblikovanje nove poizvedbe, je bil npr.»skrit«na drugem delu zaslona. Ker uporabniki niso opazili drsnika, so mislili, da tega gumba ni, in niso vedeli, kako bi začeli novo poizvedbo. Ker je bil rezultat poizvedbe prikazan na drugem delu zaslona, so uporabniki menili, da sistem ni ponudil odgovora. Te težave so se pojavljale pri nižji zaslonski resoluciji. Pri visokih resolucijah se je celotna informacija pokazala na enem zaslonu. Toda kako naj bi uporabnik to vedel? Potrebno je: ali vodenje pri začetku uporabe sistema (ugotovili pa smo, da uporabniki tudi na začetku ponujenih navodil ne berejo) ali zelo jasno razlikovanje drsnika od ozadja. Uporabnike je zmedlo tudi nedosledno prikazovanje rezultatov poizvedbe. Rezultat poizvedbe je slika zemljevida, na kateri je s točko označen poštni naslov. Uporabnik lahko prikazani zemljevid povečuje ali pomanjšuje do aerofotogrametrijskega posnetka. Toda tega posnetka za vse kraje ni. Ko posnetka ni, se uporabniku prikaže le bel zaslon. Tu bi bilo nujno dodati pojasnilo o tem, zakaj se slika ni prikazala ter kako priti na predhodno stanje zaslona. 80

Klemen, A.; Šauperl, A.; Žumer, M. Vrednotenje sistemov, dostopnih prek spleta: primer vrednotenja storitve Hitri naslovi sistema GeaBios Zanimivo je tudi, da so imeli uporabniki težave, ko se nekatere funkcije oz. ukazi niso pojavljali na tistih mestih in v taki obliki, kot so jih vajeni pri informacijskem sistemu Windows. Uporabniki so npr. pričakovali, da se bodo po zemljevidu lahko premikali z miško in da ga bodo z njo lahko tudi povečevali in pomanjševali. Pri tem so pogosto popolnoma ignorirali okvir z orodji, ki ta dejanja omogoča, kljub temu, da so v njem puščice, povečevalno steklo in podobni simboli jasno prikazani. Ta ugotovitev priča o veliki vlogi, ki jo ima omenjeni operacijski sistem pri oblikovanju uporabnikovega mentalnega modela o delovanju računalnikov. Zastavi se vprašanje, ali naj avtorji informacijskega sistema sledijo vzorcu Windows, čeprav bi bilo za njihov sistem boljše kaj drugega. 4 Zaključek Opisana raziskava je primer izvedbe študije uporabe storitev sistema, dostopnega preko spleta, ter zajemanja podatkov s pomočjo kvalitativnih raziskovalnih metod, ki smo jih dopolnili s pomočjo kvantitativnega orodja anketnega vprašalnika. Izbrana metodologija za raziskavo se je potrdila kot uspešna, dosežen je bil tudi zastavljen cilj raziskave, saj smo dobili željen splošen pregled uporabniških izkušenj sicer manjše in dokaj heterogene skupine posameznikov. To se je pokazalo posebno pri rezultatih anketnega vprašalnika, kjer so bila pri skoraj vsakem vprašanju prisotna velika odstopanja v eno ali drugo možno skrajnost. Vendar smo lahko na podlagi primerjave dobljenih rezultatov opazovanj in anketnih odgovorov ugotovili, da se med seboj večinoma ne izključujeta ter tako obe metodi kažeta isto stanje mnenj uporabnikov, zajetih v raziskavo. Identificirane težave so avtorji sistema večinoma upoštevali pri razvoju novejše verzije storitve»hitri naslovi«, ki je še vedno javnosti dostopna na svetovnem spletu. Predstavljena metodologija vrednotenja uporabniškega vmesnika sistema Gea- Bios lahko služi tudi kot primer uspešno zastavljenega projekta ugotavljanja uporabniške prijaznosti informacijskega sistema. Služi lahko kot osnova študijam uporabniških vmesnikov informacijskih sistemov in podatkovnih zbirk, ki so namenjene širšemu krogu uporabnikov, t. i. heterogenim uporabnikom, ki jim je težko določiti veliko skupnih interesov in strokovnega znanja s področja informacijske pismenosti. Podaja možne rešitve kako vrednotiti in beležiti dejanja uporabnikov pri uporabi informacijskih orodji, dostopnih prek računalniških omrežij, služi pa lahko tudi kot osnova za izvedbo popolnega vrednotenja določenega sistema prek njegovega uporabniškega vmesnika ali kot eno izmed izhodišč za izvedbo primerjalne študije večih uporabniških informacijskih sistemov. 81

Knjižnica 50(2006)3, 69-83 Viri 1. Adams, W. et al. (2001). The effectiveness of online help systems: text only, animated images only, and integrated interactive. Pridobljeno 12.10.2003 s spletne strani: http://www.otal.umd.edu/shore2001/help/online_help.pdf 2. Barry, C. L. (1994). User-defined relevance criteria: an exploratory study. Journal of the American Society for Information Science, 45 (3), 149-159. 3. Flere, S. (2000). Sociološka metodologija: temelji družboslovnega raziskovanja. Maribor: Pedagoška fakulteta. 4. Galitz, W. O. (1996). The essential guide to user interface design: an introduction to GUI design principles and techniques. New York: John Wiley & Sons. 5. Hert, C. A. (1996). User goals on an online public access catalog. Journal of the American Society for Information Science, 47 (7), 504-518. 6. Klemen, A. (2004). Vrednotenje uporabniškega vmesnika spletnega informacijskega sistema: primer Hitrih naslovov sistema GeaBios. Diplomsko delo. Ljubljana: Filozofska fakulteta, Oddelek za bibliotekarstvo, informacijsko znanost in knjigarstvo. 7. Kragelj, B. (2002). Evalvacija spletnih predstavitev. Diplomsko delo. Ljubljana: Fakulteta za družbene vede. 8. Kuhlthau, C. C. 1991. Inside the research process: information seeking from the user s perspective. Journal of the American Society for Information Science, 42 (5), 361-371. 9. Mandel, T. (1997). The elements of user interface design. New York: John Wiley & Sons. 10. Neuman, W. L. (1994). Social research methods: qualitative and quantitative approaches (2 nd ed.). Boston: Allyn & Bacon. 11. Nielsen, J. (2000). Why you only need to test with 5 users. Pridobljeno 10. 10. 2003 s spletne strani: http://www.useit.com/alertbox/20000319.html 12. Preece, J. et al. (1994). Human computer interaction. Wokingham: Addison- Wesley. 13. Schamber, L. (1991). User s criteria for evaluation in multimedia information seeking and use situations. Doctoral dissertation. New York: Syracuse University. 14. Shneiderman, B. (1998). Designing the user interface: strategies for effective human interaction (3 rd ed.). Reading: Addison-Wesley. 15. Šauperl, A. (1999). Subject determination during the cataloging process. Doctoral dissertation. Chapel Hill: University of North Carolina. 82

Klemen, A.; Šauperl, A.; Žumer, M. Vrednotenje sistemov, dostopnih prek spleta: primer vrednotenja storitve Hitri naslovi sistema GeaBios 16. Šauperl, A. (2002). Subject determination during the cataloging process. Lanham (Maryland), London: Scarecrow Press. 17. Šauperl, A. (2005). Kvalitativne raziskovalne metode. V Raziskovalne metode v bibliotekarstvu in informacijski znanosti (str. 149-162). Ljubljana: Filozofska fakulteta, Oddelek za bibliotekarstvo, informacijsko znanost in knjigarstvo. 18. Tang, R., Shaw, W. M. & Vevea, J. L. (1999). Towards the Identification of the Optimal Number of Relevance Categories. Journal of the American Society for Information Science, 50 (3), 254-264. 19. Toš, N. & Hafner-Fink, M. (1998). Metode družboslovnega raziskovanja. Ljubljana: Fakulteta za družbene vede. 20. Weinschenk, S. et al. (1997). GUI design essentials. New York: John Wiley & Sons. 21. Žumer, M. (1993). Uporabniški vmesniki pri iskanju informacij. Knjižnica, 37 (4), 51-59. 22. Žumer, M. (2005). Ekspertna študija. V Raziskovalne metode v bibliotekarstvu in informacijski znanosti (str. 96-101). Ljubljana: Filozofska fakulteta, Oddelek za bibliotekarstvo, informacijsko znanost in knjigarstvo. Aleš Klemen je bibliotekar, zaposlen v Knjižnici Otona Župančiča v Ljubljani. Naslov: Gosposka 3, 1000 Ljubljana Naslov elektronske pošte: ales.klemen@lj-oz.sik.si Izr. prof. dr. Alenka Šauperl, je predavateljica na Oddelku za bibliotekarstvo, informacijsko znanost in knjigarstvo Filozofske fakultete Univerze v Ljubljani. Naslov: Aškerčeva 2, 1000 Ljubljana Naslov elektronske pošte: alenka.sauperl@ff.uni-lj.si Izr. prof. dr. Maja Žumer je predavateljica na Oddelku za bibliotekarstvo, informacijsko znanost in knjigarstvo Filozofske fakultete Univerze v Ljubljani. Naslov: Aškerčeva 2, 1000 Ljubljana Naslov elektronske pošte: maja.zumer@ff.uni-lj.si 83