basiswissen card sorting - eresult...card sorting lässt sich in verschiedene ausprägungen...

26
1 BASISWISSEN CARD SORTING Informationsarchitekturen nutzerzentriert entwickeln Whitepaper

Upload: others

Post on 07-Aug-2020

1 views

Category:

Documents


0 download

TRANSCRIPT

Page 1: BASISWISSEN CARD SORTING - eresult...Card Sorting lässt sich in verschiedene Ausprägungen unterteilen, die jeweils unterschiedliche Fragestellungen betrachten. Der Ablauf der Methode

1

BASISWISSEN CARD SORTING

Informationsarchitekturen nutzerzentriert entwickeln

Whitepaper

Page 2: BASISWISSEN CARD SORTING - eresult...Card Sorting lässt sich in verschiedene Ausprägungen unterteilen, die jeweils unterschiedliche Fragestellungen betrachten. Der Ablauf der Methode

2

INHALTSVERZEICHNIS

Informationsarchitektur und Card Sorting ............................................................................. 3

Wie funktioniert Card Sorting? .......................................................................................... 6

Offenes Card Sorting ................................................................................................... 8

Geschlossenes Card Sorting ........................................................................................... 9

Hybrides Card Sorting ................................................................................................ 10

Gruppen Card Sortings ............................................................................................... 10

Reverse Card Sorting / Tree Testing .............................................................................. 11

Offline oder Online Card Sorting ...................................................................................... 13

OptimalWorkshop: Das ideale Tool für Beginner und Profis ..................................................... 15

OptimalSort ............................................................................................................ 15

TreeJack ................................................................................................................ 18

Bewährter Projektablauf ............................................................................................... 20

Weiterführende Materialien ........................................................................................... 24

LEGENDE

Besonders wichtige Tipps und Hinweise sind mit diesem Symbol gekennzeichnet

Am Ende jedes Kapitels finden Sie eine Zusammenfassung der wichtigsten Fakten

Page 3: BASISWISSEN CARD SORTING - eresult...Card Sorting lässt sich in verschiedene Ausprägungen unterteilen, die jeweils unterschiedliche Fragestellungen betrachten. Der Ablauf der Methode

3

Informationsarchitektur und Card Sorting

User Centered Design (nutzerzentrierte Entwicklung) sollte bei allen Aspekten einer Anwendung

berücksichtigt werden. Ein sehr wichtiger Teil wird in der Realität leider sehr häufig vernachlässigt: die

Informationsarchitektur.

Werden Informationen zum Thema Informationsarchitektur gesucht, werden meist ganz konkret

Informationen zur Navigation gefunden. Die Informationsarchitektur umfasst allerdings sehr viel mehr

als nur die Navigation. Informationsarchitektur beschreibt zum einen die Navigationsstruktur und zum

anderen den Aufbau und die Struktur einzelner Seiten, Teilbereiche einer Seite oder sogar einzelner

Module, wie z.B. Masken oder Templates. Dabei kann es sich um die Informationsarchitektur einer

Webseite, einer digitalen Anwendung, einer App, eines Online-Shops, eines Intranets, etc. handeln. Es

geht dabei um das Grundgerüst und nicht um die Gestaltung oder Visualisierung. Die

Informationsarchitektur beeinflusst maßgeblich wie Aspekte einer Anwendung von Nutzern empfunden

und bewertet werden. Eine gute Informationsarchitektur ermöglicht es Nutzern Inhalte schnell

auffinden und verstehen zu können. Ziel sollte es sein, eine für den Nutzer verständliche

Informationsarchitektur zu schaffen, die die Auffindbarkeit von Informationen, Inhalten und Funktionen

effektiv und effizient ermöglicht. Die Auffindbarkeit und die Entdeckbarkeit hängen dabei von zwei

Faktoren ab:

▪ Der Informationsarchitektur (IA), also der strukturellen Organisation der Inhalte. Dazu gehört

etwa die Inhaltshierarchie oder auch andere Organisationsformen, wie facettierte Datenbanken

oder Tags. Die eigentliche Informationsarchitektur ist nicht direkt für die Nutzer sichtbar.

▪ Dem Navigationsdesign/User Interface (UI), also der tatsächlichen Darstellung der abstrakten

Informationsarchitektur auf der Website. Diese umfasst im Normalfall mehrere

Navigationssysteme, etwa globale und lokale Navigation sowie eine kontextuelle Navigation.

Für die Entwicklung oder Optimierung einer nutzerzentrierten Informationsarchitektur sollten die

Nutzer miteinanbezogen werden. Hierfür kann die Methode Card Sorting angewendet werden. Durch

ein Card Sorting können folgende Fragen beantwortet werden:

▪ Wie gruppieren Nutzer die Informationen?

▪ Wie ähnlich sind die Informationsbedürfnisse der verschiedenen Nutzergruppen?

▪ Wie viele Kategorien von Informationen existieren aus Nutzersicht?

▪ Wie sollten diese Kategorien aus Nutzersicht benannt werden?

▪ Welche Informationen sind besonders oder weniger wichtig?

▪ Wie benennen die Nutzer die vorhandenen Informationen?

Page 4: BASISWISSEN CARD SORTING - eresult...Card Sorting lässt sich in verschiedene Ausprägungen unterteilen, die jeweils unterschiedliche Fragestellungen betrachten. Der Ablauf der Methode

4

Die Informationsarchitektur wird dann auf Basis der Ergebnisse des Card Sortings konzipiert bzw.

optimiert.

Durch die Anwendung von Card Sortings entstehen viele Vorteile bezüglich des

Entwicklungsprozesses:

▪ Resultierende Änderungen können frühzeitig kostengünstig vorgenommen werden, bevor darauf

aufbauende Layouts und Navigationssysteme designt werden.

▪ Treten in späteren Nutzertests Probleme bezüglich der Navigation auf, können diese besser

isoliert werden, da die Informationsarchitektur bereits verifiziert wurde. In solchen Fällen

werden Fehleinschätzungen vermieden und Anpassungen an der Gestaltung der Navigation

können fokussiert werden.

▪ Durch eindeutige Kennzahlen beim Tree Testing können verschiedene Varianten gut verglichen

werden. Erfolg und Misserfolg einer Informationsarchitektur kann valide belegt werden.

Neben den prozessualen Vorteilen bringt das Einbeziehen der Nutzer bzgl. der Informationsarchitektur

weitere Vorteile hinsichtlich der Produktqualität mit sich:

▪ Die Entwicklung oder Optimierung einer nutzerzentrierten Informationsarchitektur steigert die

Auffindbarkeit von Informationen, Funktionen und Inhalten. Dies führt zu einer effizienteren

Zielerreichung.

▪ Da typische Denk- und Vorgehensweisen der Nutzer beim Sortieren und Suchen von Inhalten

betrachtet und mentale Modelle beleuchtet werden. Diese wird bei der Entwicklung oder

Optimierung der Informationsarchitektur berücksichtig.

▪ Die Zufriedenheit der Nutzer kann auf diese Weise gesteigert und die User Experience positiv

beeinflusst werden.

▪ Dies kann z.B. zu einer Verbesserung der Conversion Rate führen.

Beispiele für mögliche Einsatzgebiete sind u.a. Listenelemente eines Online-Shops oder

Trefferliste eines Hotelportals, etc. Um diese Elemente nutzerzentriert und effizient

konzipieren oder optimieren zu können, muss die Informationshierarchie auf Basis der

Nutzeranforderungen ermittelt werden. Das bedeutet konkret die Identifizierung einer

Priorisierung der möglichen Inhalte hinsichtlich der Relevanz aus Nutzersicht. Soll ein

Teilbereich einer Seite oder Anwendung optimiert werden, in dem die Struktur und der Aufbau

Page 5: BASISWISSEN CARD SORTING - eresult...Card Sorting lässt sich in verschiedene Ausprägungen unterteilen, die jeweils unterschiedliche Fragestellungen betrachten. Der Ablauf der Methode

5

optimiert werden, macht es Sinn bei einem geschlossenen Card Sorting Gruppen wie „muss

sofort sichtbar sein“, „kann versteckt sein“ oder „brauche ich gar nicht“ vorzugeben. Dies

kann als Basis zur Konzeption bzw. zur Optimierung genutzt werden.

Neben der Verbesserung der Auffindbarkeit von Informationen und der Steigerung der

Erwartungskonformität wird die Arbeit im Team effizienter, da Aspekte wie die Relevanz einer

bestimmten Information eindeutig feststehen. So entsteht weniger Raum für Diskussionen und die

Konzeption wird zielgerichteter.

Zusammenfassung

▪ Eine gute Informationsarchitektur hilft Nutzern Inhalte schnell und einfach zu finden. Dies

beeinflusst die Gesamtbewertung einer Anwendung erheblich.

▪ Card Sorting ist eine User Research Methode, die dabei hilft Informationsarchitekturen

nutzerzentriert zu entwickeln.

Page 6: BASISWISSEN CARD SORTING - eresult...Card Sorting lässt sich in verschiedene Ausprägungen unterteilen, die jeweils unterschiedliche Fragestellungen betrachten. Der Ablauf der Methode

6

Wie funktioniert Card Sorting?

Card Sorting lässt sich in verschiedene Ausprägungen unterteilen, die jeweils unterschiedliche

Fragestellungen betrachten. Der Ablauf der Methode ist dabei abhängig von der gewählten Form.

Folgende Formen werden unterschieden und können offline (analog) oder online mit Hilfe eines Card

Sorting-Tools durchgeführt werden:

▪ Offenes Card Sorting

▪ Geschlossenes Card Sorting

▪ Hybrides Card Sorting

▪ Reverse Card Sorting/Tree Tesing

Beim Card Sorting handelt es sich um einen bottom-up Ansatz, da i.d.R. Elemente der zweiten Ebene

Elementen der ersten Ebene zugeordnet werden. Bei einem Tree Testing hingegen handelt sich um

einen top-down Ansatz, da zunächst auf der ersten Ebene eine Entscheidung getroffen werden muss,

bevor es zur zweiten Ebene geht, etc. Dies dient der Validierung einer oder mehreren existierenden

Strukturen.

Das offenen Card Sorting ist die bekannteste Card Sorting Variante. Diese gibt Aufschluss über die

mentalen Modelle der Nutzer. Probanden sortieren dabei vorgegebene Karten in Gruppen und bilden

für diese eine Benennung.

Bei geschlossenen Card Sortings hingegen wird betrachtet, ob Nutzer Inhalte in vorgegebenen

Kategorien einordnen können und ob diese aus Nutzersicht sinnvoll sind.

Eine Mischung aus einem offenen und einem geschlossenen Card Sorting stellt das hybride Card Sorting

da. Probanden sortieren Karten in vorgegebene Kategorien, dürfen aber auch neue erstellen, falls sie

keine Passende finden.

Um zu ermitteln ob Nutzer gesuchte Inhalte in einer oder mehreren Informationsarchitekturen finden

können, wird ein reverse Card Sorting / Tree Testing durchgeführt.

Die Anzahl der Probanden sollte groß genug sein, da die Ergebnisse stark variieren können. Auf diese

Weise können bei einem offenen Card Sorting die optimale Anzahl an Gruppen und deren Benennungen

und bei einem geschlossenen Card Sorting die Zuordnung in die einzelnen Kategorien identifiziert

werden. Über die optimale Anzahl an Probanden bei einem Card Sorting existieren unterschiedliche

Page 7: BASISWISSEN CARD SORTING - eresult...Card Sorting lässt sich in verschiedene Ausprägungen unterteilen, die jeweils unterschiedliche Fragestellungen betrachten. Der Ablauf der Methode

7

Empfehlungen. Jakob Nielsen1 empfiehlt eine Anzahl von 15 Probanden, um valide Ergebnisse zu

erhalten, während Tullis und Wood2 20-30 Probanden empfehlen.

Verallgemeinert lässt sich sagen, dass die Anzahl an Probanden generell höher als bei einem Usability-

Test sein sollte, da es sich um einen generativen und nicht um einen evaluierenden Ansatz handelt.

Daher ist eine höhere Streuung anzunehmen.

Eresult empfiehlt daher eine Anzahl von mindestens 10 Probanden, besser aber 15 Probanden.

Die Anzahl an Probanden bei Tree Tests wird separat im Kapitel Reverse Card Sorting / Tree Testing

behandelt.

Die Anzahl der zu sortierenden Karten bei einem Card Sorting lässt sich auf maximal 60

Karten begrenzen. Eine höhere Anzahl ist für Probanden nur schwer zu erfassen und nicht mehr

überschaubar. Die Anzahl der Karten hängt außerdem stark von der Komplexität der Begriffe

und der Vertrautheit der Probanden mit diesen ab. Benötigen viele Begriffe einer Erklärung,

können weniger Karten sortiert werden, denn es muss genügend Zeit eingeplant werden damit

sich die Probanden zumindest kurz mit jeder einzelnen Karte beschäftigen können. Für die

Durchführung eines Card Sortings mit 60 Karten sollten ca. 75 Minuten kalkuliert werden.

Sollen mehr als 60 Karten sortiert werden, gibt es verschiedene Workarounds.

Zum einen ist es möglich, nicht jedem Probanden alle Karten zu zeigen:

▪ Es kann nach Zielgruppen selektiert werden, so dass jeweils nur die für diese Zielgruppe

relevanten Karten betrachtet werden.

▪ Es können überlappende Card Sortings gebildet werden, z.B. werden 150 Karten in 4 Gruppen

mit je 50 Karten aufgeteilt.

Zum anderen ist es möglich, die Anzahl der zu sortierenden Begriffe zu reduzieren:

▪ Es können Bereiche weggelassen werden, wenn die Zuordnung völlig klar oder aus anderen

Gründen vorgegeben ist.

▪ Die Zusammenfassung ähnlicher Inhalte, wenn sie sich so stark ähneln, dass sie mit einer sehr

hohen Wahrscheinlichkeit gemeinsam gruppiert würden.

1 Jakob Nielsen: „Card Sorting: How Many Users to Test“, 19.07.2004, https://www.nngroup.com/articles/card-sorting-how-many-users-to-test/

2 Tom Tullies, Larry Wood: „How Many Users Are Enough for a Card-Sorting Study?“, 07-11.06.2004

Page 8: BASISWISSEN CARD SORTING - eresult...Card Sorting lässt sich in verschiedene Ausprägungen unterteilen, die jeweils unterschiedliche Fragestellungen betrachten. Der Ablauf der Methode

8

Offenes Card Sorting

Ein offenes Card Sorting dient dazu eine neue Informationsarchitektur zu entwickeln - es handelt sich

also einen generativen und nicht um einen evaluierenden Ansatz. Der Einsatz ist vor allem sinnvoll,

wenn Navigationspunkte oder Kategorien einer Teilseite mit weiterführenden Informationen noch nicht

feststehen.

Es werden vorgegebene Karten (Informationen, Inhalte oder Funktionen) von Probanden gruppiert.

Anschließend benennen sie die gebildeten Kategorien mit aus ihrer Sicht passenden Bezeichnungen. Es

wird ersichtlich welche Karten aus Nutzersicht logisch zusammenhängen und unter welcher

Bezeichnung sie diese Inhalte einordnen. Das mentale Modell der Probanden wird ersichtlich.

Die Methode offenes Card Sorting hat zum Ziel, dass von den Probanden zwei Ebenen erstellt

werden. Eine Ebene bilden die sortierten Karten und die andere Ebene bilden die

Bezeichnungen der jeweils gebildeten Kategorien. Ist es allerdings nötig drei Ebenen zu

bilden, existiert ein Workaround, der zusätzlich Zeit benötigt. Die Probanden sollten während

des offenen Card Sortings nicht angeleitet werden, drei Ebenen zu bilden, da sie dies

überfordern wird. In diesen Fällen werden sie versuchen mit den vorhandenen Karten

Abbildung 1: Ergebnis eines offenen Card Sortings: Die gebildeten Gruppen sind weiß und gelb die

gebildeten Benennungen (Oberkategorien).

Page 9: BASISWISSEN CARD SORTING - eresult...Card Sorting lässt sich in verschiedene Ausprägungen unterteilen, die jeweils unterschiedliche Fragestellungen betrachten. Der Ablauf der Methode

9

Hierarchien zu erzeugen, statt diese zu gruppieren. In einem solchen Fall leiden die Vorteile

eines Card Sortings und der methodische Ablauf. Daher sollten die Probanden zunächst zwei

Ebenen erstellen (Gruppierung und Benennung dieser Gruppen). Anschließend kann der

Versuchsleiter die Probanden darum bitten, die erzeugten Kategorien weiter zu unterteilen

und für diese ebenfalls Benennungen zu finden. So können drei Ebenen erzeugt werden.

Bei der Auswertung eines offenen Card Sortings sollte beleuchtet werden, welche Inhalte gemeinsam

gruppiert werden. Eine Similarity Matrix und Dendogramme bieten sich hierfür an. Unterschiedliche

Schreibweisen und andere irrelevante Unterschiede sollten sie vor der Auswertung entfernen und so die

Benennungen normalisieren.

Geschlossenes Card Sorting

Im Gegensatz zum offenen Card Sorting wird mittels geschlossener Card Sortings eine existierende

Informationsarchitektur überprüft. Möchte man diese optimieren, kann ein geschlossenes Card Sorting

als Validierung der ersten Hierarchieebene oder als zweite Iteration auf Basis eines offenen Card

Sortings erfolgen. Es kann also die Fragestellung betrachtet werden, ob (neue) Inhalte vorgegebenen

Kategorien zugeordnet werden können und ob diese aus Nutzersicht Sinn machen. Es handelt sich bei

einem geschlossenem Card Sorting daher um eine evaluierende Methode.

Bei einem geschlossenen Card Sorting ordnen Probanden vorgegebene Begriffe (Informationen, Inhalte

oder Funktionen) in vorgegebene Kategorien ein. Es wird ersichtlich, ob die Inhalte den

vorgegebenen Kategorien zugeordnet werden können, welche Begriffe nicht eindeutig zugeordnet

werden können oder welche gar nicht zugeordnet werden können. Dies gibt Aufschluss darüber, ob die

Kategorien der ersten, übergeordneten Ebene für die Nutzer Sinn ergeben und die sich dahinter

verbergenden Inhalte aussagekräftig repräsentieren.

Wenn die Hierarchie von Relevanz ist, können in einer zweiten Phase die Inhalte der

einzelnen Kategorien priorisiert werden.

Abbildung 2: Geschlossenes Card Sorting mit vorgegebenen Oberkategorien (hier als Kisten).

Page 10: BASISWISSEN CARD SORTING - eresult...Card Sorting lässt sich in verschiedene Ausprägungen unterteilen, die jeweils unterschiedliche Fragestellungen betrachten. Der Ablauf der Methode

10

Hybrides Card Sorting

Bei einem hybriden Card Sorting handelt es sich um eine Mischung aus einem offenen und einem

geschlossenen Card Sorting.

Probanden sortieren wie beim geschlossenem Card Sorting Karten in vorgegebene Kategorien. Finden

sie allerdings keine passende Kategorie, dürfen sie neue Kategorien erstellen und diese benennen.

Gruppen Card Sortings

Es gibt Fälle, in denen sehr viel Fachwissen über die zu gruppierenden Inhalte einer Domäne notwendig

ist, dass keine einzelne Person besitzt. Dies kann vor allem im B2B (Business-to-Business) Bereich oder

bei Intranets mit spezifischen Inhalten vorkommen.

Hier macht es Sinn die entsprechenden Personen das Card Sorting in kleinen Gruppen durchführen zu

lassen, so dass Sie ihr Wissen über die Inhalte teilen können und im Konsens eine

Informationsarchitektur erarbeiten.

Page 11: BASISWISSEN CARD SORTING - eresult...Card Sorting lässt sich in verschiedene Ausprägungen unterteilen, die jeweils unterschiedliche Fragestellungen betrachten. Der Ablauf der Methode

11

Reverse Card Sorting / Tree Testing

Ein Reverses Card Sorting dient dazu eine bereits existierende Struktur zu prüfen. Es kann ermittelt

werden, ob Nutzer gesuchte Inhalte in einer Informationsarchitektur finden. Ein solches Card Sorting

wird auch Tree Test genannt, da eine hierarchische Baumstrukturiert evaluiert wird. Es handelt sich um

einen evaluierenden Ansatz. Probanden erhalten kleine Aufgaben, durch die sie bestimmte

Informationen innerhalb der existierenden Struktur auffinden sollen. Dabei suchen sie innerhalb

einer reinen, hierarchischen Baumstruktur und geben an, an welcher Stelle sie die entsprechenden

Inhalte erwarten. Sie müssen für die jeweiligen Ebenen entscheiden, bevor sie in die nächste Ebene

gelangen. Es handelt sich also um einen top-down Ansatz, bei der es um die reine Evaluation der

Informationsarchitektur geht. Einflüsse wie das Navigationsdesign, Direkteinstiege auf tiefere Ebenen

und Suchfunktionen werden abstrahiert. Es können verschiedene Varianten gegeneinander getestet

werden.

Ein Tree Test ermöglicht realistische Einblicke in das Suchverhalten der Nutzer und zeigt auf,

welche der vorhandenen Strukturen das Suchverhalten der Nutzer am besten unterstützt.

Eine hohe Validität und Aussagekraft der Ergebnisse ist abhängig von den Suchaufgaben. Diese sollten

sich auf einen tatsächlichen Bedarf der Nutzer beziehen und kurz und präzise formuliert sein. Die

Verwendung der Begrifflichkeiten der Informationsarchitektur gilt es zu vermeiden, um eine

Abbildung 3: Aufgabe aus Probandensicht im Tool TreeJack bei einem Reverse Card Sorting / Tree

Testing

Page 12: BASISWISSEN CARD SORTING - eresult...Card Sorting lässt sich in verschiedene Ausprägungen unterteilen, die jeweils unterschiedliche Fragestellungen betrachten. Der Ablauf der Methode

12

Beeinflussung und Lenkung der Nutzer zu unterlassen. Um die Informationsarchitektur ganzheitlich

betrachten zu können, sollten zwei unterschiedliche Suchaufgaben pro zu untersuchenden Inhalt

gestellt werden. Es muss gewährleitet sein, dass alle zu suchenden Inhalte in allen zu testenden

Varianten existieren, damit sie gefunden werden können.

Ein Proband kann ca. 10-15 Suchaufgaben lösen, da schnell Lerneffekte einsetzen, was zu

Reihenfolgeeffekten führt. Aus diesem Grund kann ein Proband auch nur an einer Variante des Tests

teilnehmen. Die Aufgaben sollten in zufälliger Reihenfolge gestellt werden, um alle Bereiche der

Informationsarchitektur betrachten zu können. In Summe sollten pro Aufgabe 50, besser 70 – 100

Probanden am Tree Test pro Variante teilnehmen. Die Testdauer sollte 10 Minuten nicht übersteigen.

Für die Auswertung eines Tree Tests existieren drei wichtige Metriken:

▪ Erfolgsquote

Bei dieser zentralen Kennzahl handelt es sich um den Anteil derer, die die gesuchte

Information gefunden haben. Sie gibt Aufschluss über die Güte der Informationsarchitektur.

▪ Direktheit

Diese Kennzahl beschreibt den Anteil derer, die während der Suche keine Rückschritte

vorgenommen haben. Sie gibt Aufschluss darüber, wie sicher die Probanden bei ihrer Wahl

waren.

▪ Zeit

Die aufgewendete Zeit kann ebenfalls ein Maß für die Unsicherheit der Probanden sein. Sie

sollte aber nur bei auffällig hohen Werten betrachtet werden.

Neben diesen drei Metriken, ist auch interessant, welche Inhalte der Suchaufgaben an „falschen“

Stellen erwartet werden. Dies könnte ein Hinweis dafür sein, dass die Strukturierung und Benennung

der Seiten nicht dem mentalen Modell der Nutzer entsprechen. An diesen Stellen muss dann erneut

angesetzt werden, um eine erwartungskonforme Informationsarchitektur zu ermöglichen.

Zusammenfassung

▪ Es existieren verschiedene Varianten des Card Sortings: offenes Card Sorting,

geschlossenes Card Sorting, hybrides Card Sorting, Reverse Card Sorting (Tree Testing).

▪ Gruppen Card Sortings stellen eine Alternative dar, wenn enormes Fachwissen notwendig

ist.

▪ Die Methode Tree Testing ist leider noch nicht weit verbreitet. Sie bietet aber ein

großes Potential zur Evaluation von Informationsarchitekturen, da frühzeitig Probleme

identifiziert werden können.

Page 13: BASISWISSEN CARD SORTING - eresult...Card Sorting lässt sich in verschiedene Ausprägungen unterteilen, die jeweils unterschiedliche Fragestellungen betrachten. Der Ablauf der Methode

13

Offline oder Online Card Sorting

Jede Ausprägung des Card Sortings ist auf zwei Arten durchführbar:

▪ Offline (Teilnehmer sortieren physische Kärtchen auf einem Tisch)

▪ Online (Teilnehmer sortieren Kärtchen mit Hilfe eines Online-Tools im Webbrowser)

In frühen Phasen der Entwicklung oder Optimierung sind Offline Card Sortings sinnvolls, da die

Zielgruppe durch ein moderiertes Offline Card Sorting besser verstanden und beobachtet werden kann.

Ein qualitativ fundiertes Verständnis über die Nutzer und ihre mentalen Modelle ist in dieser Phase

von hoher Relevanz. Durch die Moderation beim Offline Card Sorting ist es möglich Unsicherheiten und

Nach- und Rückfragen zu stellen. Im Interview lassen sich unverständliche Begriffe, sowie zusätzlich

benötigte, oder irrelevante Inhalte erkennen.

Beim Online Card Sorting sortieren Probanden mit Hilfe eines Online-Tools Karten. Einen großen

Vorteil stellt vor allem die schnelle Analysemöglichkeit (z.B. Dendogramme oder Kreuztabellen) dar.

Aus Probandensicht ist die orts- und zeitunabhängige Teilnahme ein großer Vorteil. In der Regel sind

Online Card Sortings kostengünstiger, da ein geringerer Aufwand bzgl. Durchführungszeit und

Incentivierungskosten entstehen, so kann eine deutliche höhere Anzahl an Probanden teilnehmen.

Diese Vorteile von Online Card Sortings bringen allerdings auch Nachteile mit, die es abhängig vom

Projekt gegeneinander abzuwägen gilt. Es existiert keine direkte Kommunikation mit den Probanden,

so können Verständnisfragen nicht geklärt werden, im Zweifel sind Ergebnisse also verfälscht. Die

Probanden können außerdem keine weiteren Erläuterungen oder Informationen kommunizieren, so dass

wichtige Informationen verloren gehen können. Es ist außerdem nicht möglich Aufschluss durch eine

(Verhaltens-) Beobachtung zu erhalten.

Ein Online Card Sorting bietet sich vor allem an, wenn quantitative Daten zur Validierung zu erhoben

werden sollen. Wurde im Vorfeld also bereits User Research durchgeführt und es geht z.B. um die

Evaluierung einer bereits optimierten Informationsarchitektur, sollte die unmoderierte Online Variante

bevorzugt werden

Page 14: BASISWISSEN CARD SORTING - eresult...Card Sorting lässt sich in verschiedene Ausprägungen unterteilen, die jeweils unterschiedliche Fragestellungen betrachten. Der Ablauf der Methode

14

Zusammenfassung:

Folgende Tabelle fasst die Vor- und Nachteile von offline und online Card Sortings zusammen.

Offline Card Sorting Online Card Sorting

Vorteile: ▪ Verständnisfragen der Probanden

können geklärt werden

▪ Erläuterungen des mentalen

Modells der Probanden möglich

▪ Identifizierung irrelevanter oder

fehlender Inhalte möglich

▪ (Verhaltens-) Beobachtung

▪ Qualitatives Feedback

▪ Ständige, ortsunabhängige

Erreichbarkeit

▪ Weniger Aufwand bzgl.

Durchführungszeit und Kosten

(Incentivierung der Teilnehmer)

▪ Zeitsparende, toolgestützte (live)

online Auswertung

▪ Quantitatives Feedback

Nachteile: ▪ Aus Kostengründen nur begrenzte

Anzahl an Probanden

▪ Keine Möglichkeit Verständnisfragen

der Probanden zu klären

▪ Keine Erläuterung des mentalen

Modells der Probanden durch

Kommentare

▪ Keine (Verhaltens-) Beobachtung

Page 15: BASISWISSEN CARD SORTING - eresult...Card Sorting lässt sich in verschiedene Ausprägungen unterteilen, die jeweils unterschiedliche Fragestellungen betrachten. Der Ablauf der Methode

15

OptimalWorkshop: Das ideale Tool für Beginner und Profis

Möchte man Card Sorting online einsetzen, so steht man vor der Herausforderung zwischen all den

verschiedenen Online-Tools das Passende zu finden. Es kommen immer mehr Online-Tools auf den

Markt, die immer mehr Funktionen bieten.

Bei eresult verwenden wir OptimalSort von OptiomalWorkshop für Offline und Online Card Sortings,

sowie TreeJack für Reverse Card Sortings. Beide Tools bieten umfangreiche Durchführungs-, sowie

Analysemöglichkeiten.

OptimalSort3

Mit OptimalSort von OptimalWorkshop können offene, geschlossene und hybride Card Sortings

durchgeführt werden. Optimiert sind die Studien für PC/Laptop und Tablets. Auf mobilen Endgeräten

ist die Nutzung noch etwas problematisch.

Deutsch als Sprache wird unterstützt. Anpassungen von weiteren Texten, die den Teilnehmern

angezeigt werden, z.B. zur Einführung und Erklärung sind möglich. OptimalSort bietet ein Textfeld für

die Anleitung, die direkt im Tool eingeblendet wird, eine Willkommens-Seite, eine Danke-Seite und

weitere Schritte für die Anleitung.

Design-Anpassungen werden ebenfalls ermöglicht. Es ist z.B. möglich das eigene Logo zu verwenden

und die Farben anzupassen. Wird das Card Sorting direkt über die Webseite eingebunden, schaffen

Design-Anpassungen Vertrauen bei den Probanden, da das Tool der Webseite ähnelt.

Bei der Durchführung von Card Sortings mit OptimalSort sind die Teilnehmerzahlen und die Anzahl

der Karten unbegrenzt. Zur Auswertung stehen verschiedene Analysemöglichkeiten (z.B. Dendogramm

oder Similiarity Matrix) zur Verfügung.

Ein Muss bei der Auswertung ist die Standardisierung von Kategorienamen. Es können

Tippfehler vorkommen, die eigentlich identische Namen unterscheiden, oder auch andere

Abweichungen, die für die optimale Gruppierung nicht entscheidend sind. Die Kategorien

lassen sich bei OptimalSort nach Belieben zusammenfassen, die Standardisierung bleibt

erhalten und lässt sich auch ebenfalls rückgängig machen.

3 https://www.optimalworkshop.com/optimalsort Stand 12.2018

Page 16: BASISWISSEN CARD SORTING - eresult...Card Sorting lässt sich in verschiedene Ausprägungen unterteilen, die jeweils unterschiedliche Fragestellungen betrachten. Der Ablauf der Methode

16

OptimalSort kann an jedes beliebige Tool für Online-Fragebögen angebunden werden. Dafür wird

eine ID vom Fragebogen on OptimalSort und zurück übergeben. Somit ist es möglich die Intepretation

des Card Sortings mit den Inhalten des Fragebogens anzureichern. Es ist auch in OptimalSort selbst

möglich vor und/oder nach dem Card Sorting einen Fragebogen zu integrieren, daher ist der zuvor

beschriebene Aufwand nicht nötig und kann reduziert werden. Wurde ein Fragebogen integriert,

können die Ergebnisse des Card Sortings auf Basis der Antworten gefiltert werden.

OptimalSort ist, wie alle anderen Tools auch, darauf ausgelegt, zwei Ebenen zu erzeugen. Eine Ebene

beinhaltet die gruppierten Karten und eine Ebene besteht aus den Karten, die diese Kategorien

benennen. Eine Auswertung eines Card Sortings über drei Ebenen ist daher nicht problemlos möglich.

Es kann aber durchaus Situationen geben, in denen drei Ebenen erzeugt werden sollen. Um dies in

OptimalSort abzubilden, existiert folgende Workaround:

▪ Die erste und die zweite Ebene werden zusammengefasst.

▪ Darunter wird die dritte Ebene zugeordnet.

▪ In OptimalSort wird dies wie folgt angegebene:

Abbildung 4: Similarity-Matrix in OptimalSort. Anhand der Zahlen lässt sich erkennen welche Karten

besonders häufig zusammen gruppiert wurden.

Page 17: BASISWISSEN CARD SORTING - eresult...Card Sorting lässt sich in verschiedene Ausprägungen unterteilen, die jeweils unterschiedliche Fragestellungen betrachten. Der Ablauf der Methode

17

o „Gepäck – Handgepäck“ (1.Ebene=Gepäck/ 2.Ebene=Handgepäck) im Feld der 1. Ebene

o „Koffer“ (= 3. Ebene) im Feld der 2. Ebene

Die Einladungen an Probanden werden per URL versendet. Diese können per Passwort geschützt

werden. OptimalSort bietet, als einer der wenigen Anbieter, sogar die Möglichkeit Probanden über das

eigene OptimalWorkshop - Panel zu rekrutieren.

Ein weiteres Highlight ist die Offline-Online Card Sorting Kombination, die bisher nur

OptimalSort anbietet. Dazu können die Karten ausgedruckt werden. Diese werden zur

Sortierung durch die Probanden genutzt. Im Anschluss werden die Ergebnisse mittels Barcode

Scanner übertragen. Auf diese Weise können die Auswertungsmöglichkeiten auch bei einem

offline Card Sorting genutzt werden.

Gerne können Sie hier4 die eresult Card Sorting Demo ausprobieren. Sie bietet Ihnen die

Möglichkeiten Navigationsbegriffe aus dem Bereich Service & Hilfe eines Online-Shops zu sortieren und

mit Gruppenbezeichnungen zu versehen.

4 Eresult Card Sorting Demo: https://eresult.optimalworkshop.com/optimalsort/demo

Page 18: BASISWISSEN CARD SORTING - eresult...Card Sorting lässt sich in verschiedene Ausprägungen unterteilen, die jeweils unterschiedliche Fragestellungen betrachten. Der Ablauf der Methode

18

TreeJack5

Reverse Card Sortings können mit TreeJack auf dem PC/Laptop, am Tablet und auf dem mobilen

Endgerät durchgeführt werden.

Wie bei OptimalSort wird Deutsch als Sprache unterstützt. Anpassungen von weiteren Texten, die den

Teilnehmern angezeigt werden, sind ebenfalls möglich.

Auch Design-Anpassungen sind möglich. Es kann das eigene Logo verwendet und die Farben angepasst

werden.

TreeJack ermöglicht den Import einer Baumstruktur aus Excel – dies ist sehr praktisch und kann viel

Zeit sparen. Die Suchaufgaben können und sollten in zufälliger Reihenfolge mit TreeJack gestellt

werden. Dies wird empfohlen, um Reihenfolgeeffekten entgegen zu wirken. Die Aufgaben können

begrenzt werden – so dass Probanden z.B zufällige 10 Suchaufgaben von insgesamt 100 Suchaufgaben

erhalten.

Die Teilnehmeranzahl ist bei TreeJack nicht begrenzt. Die Studie kann händisch, durch das Eintreten

eines Datums, einer Teilnehmeranzahl oder durch eine Kombination beider beendet werden.

Zur Auswertung stehen die für Reverse Card Sorting (siehe Reverse Card Sorting / Tree Testing) drei

wichtigen Metriken zur Verfügung. Die Ergebnisse kännen per URL zugänglich gemacht werden.

Das so genannte Pietree-Diagramm visualisiert die Navigationspfade der Probanden. Es

ermöglicht einen guten Überblick, aber auch eine sehr detaillierte Betrachtung.

5 https://www.optimalworkshop.com/treejack Stand 12.2018

Abbildung 5: Kennzahlen einer Aufgabe im Überblick bei TreeJack

Page 19: BASISWISSEN CARD SORTING - eresult...Card Sorting lässt sich in verschiedene Ausprägungen unterteilen, die jeweils unterschiedliche Fragestellungen betrachten. Der Ablauf der Methode

19

Wie OptimalSort kann auch TreeJack an jedes beliebige Tool für Online-Fragebögen angebunden

werden. Dafür wird, wie bei OptimalSort, eine ID vom Fragebogen an TreeJack und zurück übergeben.

Die Inhalte des Fragebogens können die TreeJack Ergebnisse anreichern. In TreeJack kann ebenfalls

selbst vor und/oder nach dem TreeTest einen Fragebogen integriert werden.

Gerne können Sie hier6 die eresult TreeJack Demo ausprobieren. Sie bietet Ihnen die Option Inhalte

aus dem Bereich der Biologie zu suchen.

6 Eresult TreeJack Demo: https://eresult.optimalworkshop.com/treejack/54h15pbb

Abbildung 6: Visualisierte Navigationspfade in der Pietree-Auswertung von TreeJack

Page 20: BASISWISSEN CARD SORTING - eresult...Card Sorting lässt sich in verschiedene Ausprägungen unterteilen, die jeweils unterschiedliche Fragestellungen betrachten. Der Ablauf der Methode

20

Bewährter Projektablauf

Im Folgenden wird ein Einblick in den Ablauf des iterativen nutzerzentrierten Prozesses für die

Entwicklung einer Informationsarchitektur gegeben, der sich bei eresult bewährt hat. Zu beachten

ist, dass die genaue Ausgestaltung je nach Kontext variieren kann.

1. Analyse

Durch einen Content Audit wird der aktuelle Stand der Informationsarchitektur erhoben. Die

Business-Seite z.B. der Webseite wird gemeinsam mit den Stakeholdern beleuchtet.

2. Research

Ein besseres Verständnis für die Nutzer und ihrer mentalen Modelle wird durch ein moderiertes

offene Card Sorting erreicht.

3. Informationsarchitektur

Die gewonnenen Erkenntnisse dienen als Grundlage für die Konzeption der

Informationsarchitektur

4. Evaluation 1

Mittels Tree Testing wird der erste Entwurf der Informationsarchitektur durch Nutzer mit

typischen Suchaufgaben überprüft. Ist das Evaluationsergebnis zufriedenstellend kann der

Prozess fortgesetzt werden. Andernfalls muss ein Schritt zurück zum IA-Design gemacht

werden.

5. Evaluation 2

Die Informationsarchitektur wird in ein Navigationsdesign übersetzt, um im Kontext in einem

Usability-Test evaluiert zu werden z.B. der Webseite. An dieser Stelle kann, wenn nötig eine

weitere Iteration folgen.

Abbildung 7: Nutzerzentrierter Ablauf der Überarbeitung einer Informationsarchitektur

Page 21: BASISWISSEN CARD SORTING - eresult...Card Sorting lässt sich in verschiedene Ausprägungen unterteilen, die jeweils unterschiedliche Fragestellungen betrachten. Der Ablauf der Methode

21

Soll eine Informationsarchitektur optimiert oder neuentwickelt werden, müssen drei wesentliche

Entitäten betrachtet werden:

▪ Nutzer

Bedürfnisse, Suchverhalten, mentale Modelle und Erwartungen gilt es zu beleuchten.

▪ Kontext

zudem müssen Business-Ziele, Unternehmenspolitik, Technologie und Ressourcen betrachtet

werden.

▪ Inhalt

Daten und Dokumente sind ebenfalls von hoher Relevanz und dürfen keinesfalls außer Acht

gelassen werden.

Um sich angemessen mit diesen drei Entitäten auseinandersetzen zu können, sind folgende Faktoren

erfolgsrelevant:

▪ Erfahrung/Kenntnisse im Umgang mit der Methode Card Sorting und

▪ Die Fähigkeit sich in die Lage der Nutzer versetzen zu können.

Diese beiden Kernkompetenzen sind im Projektteam unabdingbar, damit das Projekt den gewünschten

Erfolg erzielt. Außerdem sollte ein hohes Maß an Wissen über die Nutzer existieren.

▪ Wer sind die Nutzer (Altersstruktur, Geschlecht, etc.)?

▪ Was sind zentrale Use Cases der Nutzer?

▪ Welche Ziele verfolgen die Nutzer?

Analyse und Content Audit

Um die Informationsarchitektur zielgerichtet mittels Card Sorting optimieren zu können, ist es

unerlässlich den Inhalt der Anwendung zu kennen und zu verstehen. Es ist möglich, dass dabei eine

Vielzahl an Stakeholdern involviert werden müssen, um die Rahmenbedingungen zu verstehen. Hierbei

handelt es sich beispielsweise um,

▪ Marketing

▪ Brand-Management

▪ SEO

▪ Content-Autoren

▪ IT/CMS

Page 22: BASISWISSEN CARD SORTING - eresult...Card Sorting lässt sich in verschiedene Ausprägungen unterteilen, die jeweils unterschiedliche Fragestellungen betrachten. Der Ablauf der Methode

22

▪ Analytics

Um zu vermeiden, dass im späteren Verlauf Probleme entstehen, sollten die Verantwortlichen

frühestmöglich involviert werden. Durch Gespräche sollten zentrale „Dos & Don’ts“ erarbeitet

werden. Im Idealprozess werden diese Stakeholder auch im späteren Verlauf der Konzeption der

Informationsarchitektur und in die Feedbackschleifen involviert.

Die bisherige Informationsarchitektur muss parallel analysiert werden. Hierfür dient das so genannte

Content Audit. Alle Inhalte werden katalogisiert, wobei der Detaillierungsgrad variieren kann.

Mindestens sollten aber folgende Informationen erfasst werden (wenn es sich um die

Informationsarchitektur einer Webseite handelt):

▪ Position innerhalb der Informationsarchitektur

▪ Seitentitel

▪ URL

▪ Kommentare zum Inhalt

Die manuelle Durchführung eines Content Audits ist sehr zeitintensiv. Daher sollte dies weitestgehend

automatisiert stattfinden. Im besten Fall können die benötigten Informationen aus dem CMS exportiert

werden. Ist dies nicht der Fall, können Website-Crawler (z.B Screaming Frog SEO Spider oder Content

Insight) Abhilfe schaffen.

Auch wenn der Content Audit automatisiert erfolgte, müssen die Inhalte genau studiert

werden. Es muss verstanden werden, welcher Content existiert und wie dieser strukturiert

ist. Dies ist unabdingbar für den nachfolgenden Schritt: das Card Sorting

Die Dokumentation des Content Audits kann durch ein Excel-Sheet erfolgen. Die Seitenstruktur kann

zur besseren Visualisierung mit einem Mindmap Tool (z.B. XMind) hierarchisch aufbereitet werden. Um

wichtige Informationen hervorzuheben können Farben und andere Markierungen verwendet werden.

Abbildung 8: Ausschnitt einer Mindmap in XMind

Page 23: BASISWISSEN CARD SORTING - eresult...Card Sorting lässt sich in verschiedene Ausprägungen unterteilen, die jeweils unterschiedliche Fragestellungen betrachten. Der Ablauf der Methode

23

Research

Das moderierte offene Card Sorting gibt Auskunft über die als zusammengehörig empfundenen Inhalte

und die aus Nutzersicht treffenden Bezeichnungen. Die Karten für das Card Sorting können

handschriftlich oder mit Hilfe eines Tools (z.B. CardMaker von Less a Mess, Volkside Template oder

OptimalSort) erstellt werden.

Ein moderiertes Card Sorting ist auf Grund der begrenzten Größe der Karten nicht so einfach zu

beobachten, wie ein Usability-Test, bei dem der Bildschirm des Probanden auf einen Bildschirm im

Beobachtungsraum gespiegelt wird. Das Abfilmen von der Decke ist ebenfalls nicht optimal und die

Karten sind im Beobachtungsraum schwer zu lesen. Aus diesem Grund wird bei eresult stets ein

Beobachter in den Raum mitgenommen. Dieser macht Notizen, damit sich der Versuchsleiter ganz auf

die Interaktion mit dem Probanden konzentrieren kann. Notiert wird u.a. welche Karten

Schwierigkeiten bei der Zuordnung bereiten oder welche Karten unklar sind. Zitate der Probanden

helfen, um allen Projektbeteiligten einen Eindruck des Card Sortings zu vermitteln.

Nach dem Card Sorting werden Fotos von der Sortierung der Probanden gemacht. Da wir bei eresult

Optimalsort nutzen, wird der Inhalt in Optimalsort zur Auswertung übertragen. Weitere Tools die bei

der Auswertung unterstützen können sind z.B., das Excel-Spreadsheet von Donna Spencer oder Syntagm

für eher fortgeschrittene Auswertungen (ebenfalls ein kompliziertes Interface).

Es gilt zu beachten, dass das Ergebnis des offenen Card Sortings nicht die neue Informationsarchitektur

darstellt, sondern Input für die Konzeption dieser.

Abbildung 9: Ein Ergebnis eines offenen Card Sortings. Blau sind die gebildeten Gruppen und gelb die

gruppierten Karten.

Page 24: BASISWISSEN CARD SORTING - eresult...Card Sorting lässt sich in verschiedene Ausprägungen unterteilen, die jeweils unterschiedliche Fragestellungen betrachten. Der Ablauf der Methode

24

Weiterführende Materialien

Nachfolgend finden Sie weiterführende Bilder, Blogartikel und Tools.

Bücher:

▪ Louis Rosenfeld, Peter Morville & Jorge Arango: „Information Architecture. For the Web and

Beyond.“, 2015

▪ Donna Spencer: „A practical Guide to Information Architecture“, 2010

▪ Donna Spencer: „Card Sorting: Designing Usable Categories“, 2009

Interessante usabilityblog.de Artikel:

▪ Steffen Heim: „Card Sorting – mit dem richtigen Vorgehen zur verständlichen

Informationsarchitektur”, 23.10.2012, http://www.usabilityblog.de/2012/10/card-sorting-mit-

dem-richtigen-vorgehen-zur-verstandlichen-informationsarchitektur/

▪ Jan Pohlmann: „Schritt für Schritt zur nutzerzentrierten Informationsarchitektur (Teil 1/2) –

Analyse und Research”, 28.06.2016, http://www.usabilityblog.de/2016/06/nutzerzentrierte-

informationsarchitektur-analyse-research/

▪ Jan Pohlamann: „Navigationsprobleme im Ansatz vermeiden durch Reverse Card Sorting”,

29.08.2013, http://www.usabilityblog.de/2013/08/navigationsprobleme-im-ansatz-vermeiden-

durch-reverse-card-sorting/

▪ Jan Pohlmann: „OptimalSort und WebSort im Vergleich – was ist das beste Online Card Sorting

Tool?“, 25.06.2013 , https://www.usabilityblog.de/optimalsort-und-websort-im-vergleich-

%e2%80%93-was-ist-das-beste-online-card-sorting-tool/

▪ Julia Beyer: „Card Sorting kann mehr …”, 14.08.2018, https://www.usabilityblog.de/card-

sorting-kann-mehr/

▪ Julia Beyer: „Card Sorting – 5 aktuelle Online Tools im Überblick”, 14.11.2018,

https://www.usabilityblog.de/card-sorting-5-aktuelle-online-tools-im-ueberblick/

Weitere interessante Links:

▪ http://www.uxmatters.com/mt/archives/2011/06/comparing-user-research-methods-for-

information-architecture.php

▪ http://www.uxbooth.com/articles/complete-beginners-guide-to-information-architecture/

▪ http://boxesandarrows.com/card-sorting-a-kitchen-taxonomy/

Page 25: BASISWISSEN CARD SORTING - eresult...Card Sorting lässt sich in verschiedene Ausprägungen unterteilen, die jeweils unterschiedliche Fragestellungen betrachten. Der Ablauf der Methode

25

Welche Card Sorting Variante sollte ich nutzen?

▪ http://boxesandarrows.com/card-sorting-a-definitive-guide/

▪ https://www.nngroup.com/articles/card-sorting-how-many-users-to-test/

▪ https://www.nngroup.com/articles/card-sorting-terminology-matches/

▪ http://boxesandarrows.com/card-based-classification-evaluation/

▪ http://measuringuserexperience.com/CardSorting/index.htm

▪ http://www.uxmatters.com/mt/archives/2015/01/learning-from-closed-card-sorts-with-

different-inputs.php

Eine Informationsarchitektur testen: Reverse Card Sorting (Tree Testing)

▪ http://boxesandarrows.com/tree-testing/

▪ http://www.measuringusability.com/blog/tree-testing-ia.php

▪ http://www.measuringusability.com/blog/cardsort-tree-test.php

▪ http://www.webcredible.co.uk/user-friendly-resources/web-usability/tree-testing.shtml

Tools

Optimal Workshop (inclusive Demos)

▪ Card Sorting: https://www.optimalworkshop.com/optimalsort

▪ Tree Testing: https://www.optimalworkshop.com/treejack

Mindmapping

▪ http://www.xmind.net

Crawler für Content Audit

▪ https://www.screamingfrog.co.uk/seo-spider/

▪ http://www.content-insight.com/

Page 26: BASISWISSEN CARD SORTING - eresult...Card Sorting lässt sich in verschiedene Ausprägungen unterteilen, die jeweils unterschiedliche Fragestellungen betrachten. Der Ablauf der Methode

26

Autorin: Julia Beyer

Senior UX Consultant bei eresult in Köln

[email protected]

0221 986564723

Julia Beyer ist seit April 2018 für die eresult GmbH am Standort Köln tätig.

Sie leitet Projekte mit unterschiedlichsten Methodenschwerpunkten und führt diese durch. Sie ist

zusätzlich im Produktmanagement für Informationsarchitektur und die Weiterentwicklung und

Durchführung der Methode Card Sorting zuständig.

eresult GmbH

Planckstr. 23

37073 Göttingen

www.eresult.de www.usabilityblog.de