Pour garantir la validité de vos résultats, examinez les indications suivantes lorsque vous collectez des données.
Des évaluateurs doivent évaluer des échantillons dans un ordre aléatoire
Pour veiller à ce que l'ordre de collecte des données n'ait aucune influence sur les résultats, chaque évaluateur doit évaluer tous les échantillons de façon aléatoire dans une répétition. Une fois que tous les évaluateurs ont évalué tous les échantillons une fois, vous réitérez le processus pour toutes les répétitions.
Vous pouvez avoir une notation de référence connue pour chaque échantillon
Une valeur de référence (également appelée valeur maître) est la notation connue et correcte d'un échantillon standard. Par exemple, vous possédez un ensemble d'échantillons de tissu standard avec une notation de la qualité d'impression correcte et connue. Vous utilisez ces échantillons pour évaluer la capacité des évaluateurs à noter correctement la qualité d'impression.
Vous devez posséder au moins 50 échantillons pour obtenir une étude adéquate
Vous avez besoin d'au moins 50 échantillons pour obtenir des estimations de concordance adéquates. Sélectionnez des échantillons dans l'étendue complète des variations de procédé. Il est préférable de posséder moins de répétitions de nombreux échantillons que disposer de nombreuses répétitions d'un nombre inférieur d'échantillons.
Les évaluateurs doivent noter chaque échantillon au moins deux fois
Pour évaluer la capacité d'un évaluateur à évaluer le même échantillon de façon régulière, chaque évaluateur doit noter chaque échantillon au moins 2 fois dans un ordre aléatoire.
Bien qu'importante, la répétition peut s'avérer fastidieuse. Lors de la planification des ressources, gardez à l'esprit qu'il est préférable d'avoir davantage d'échantillons évalués dans un ordre aléatoire avec un nombre inférieur de répétitions plutôt que davantage de répétitions d'un nombre inférieur d'échantillons évalués dans l'ordre aléatoire.
Vous devez disposer d'au moins 3 évaluateurs pour obtenir une étude adéquate
Pour obtenir les meilleurs résultats, incluez 3 à 5 évaluateurs dans votre étude. Vous devez avoir recours au minimum à 3 évaluateurs pour l'étude, sauf si le nombre d'évaluateurs utilisant le système de mesure est en réalité inférieur à 3. Si vous soupçonnez l'existence de différences notables entre les évaluateurs, vous devez envisager de vous adresser à plus de 3 à 5 évaluateurs. Si vous identifiez des différences entre les évaluateurs, comme un évaluateur dont la précision est inférieure à celle des autres évaluateurs, vous pouvez en général améliorer la cohérence des données en vous entraînant.
Choisissez des évaluateurs représentatifs de tous les évaluateurs utilisant le système de mesure. Si vous réalisez l'étude uniquement avec les meilleurs (ou les pires) évaluateurs, les résultats seront biaisés et ne fourniront aucune estimation exacte des différences entre les évaluateurs. Le meilleur moyen de garantir l'exactitude des données est de sélectionner les évaluateurs de l'étude de façon aléatoire.
Les évaluateurs doivent noter environ le même nombre d'échantillons de chaque catégorie
Pour obtenir les meilleurs résultats, vous devez disposer d'un mélange relativement équilibré d'échantillons des différentes catégories de façon à ce que vous puissiez évaluer la capacité de l'évaluateur à noter des échantillons de chaque catégorie avec une précision similaire. Si vous possédez un pourcentage inférieur d'échantillons d'une catégorie, les estimations de cette catégorie peuvent être moins précises.
Lorsque la réponse est binaire (Succès/Echec, Oui/Non par exemple), vous avez besoin de plusieurs échantillons tout juste acceptables et de plusieurs échantillons inacceptables de peu. Par exemple, un nombre raisonnable de succès devraient être acceptés de justesse.
L'analyse de concordance doit être équilibrée
Chaque évaluateur doit évaluer chaque échantillon le même nombre de fois.