экспертные методы оценки качества продукции. Формирование экспертной группы

ТЕМА: экспертные методы оценки качества продукции. Формирование экспертной группы.

 ЦЕЛИ ЗАНЯТИЯ: 1) изучение методов количественной оценки            качества экспертов при формировании экспертной группы;

2) использование методов статистической оценки качества экспертов при создании экспертной группы, предназначенной для оценки качества конкретного изделия.

 1.ОБЩИЕ ПОЛОЖЕНИЯ

 Одним из наиболее важных вопросов, которые приходится решать в процессе экспертной оценки качества продукции, является подбор экспертов. Так же как в метрологии точность результата измерения зависит от точности прибора, которым производится это измерение, так и объективность экспертной оценки, ее точность зависят в основном от квалификации эксперта, его способности к аналитическому мышлению, синтетическому обобщению, от его кругозора, эрудиции, психофизиологических способностей и т.д.

В настоящее время на практике для количественной оценки качества экспертов используются следующие методы:

  1. Эвристические, при которых значение оценок определяются человеком; методы эвристической оценки основаны на том, что представление, сложившееся о данном эксперте у окружающих (или у него самого), достаточно правильно отражает его истинное качество; эвристические оценки включают: самооценку, взаимооценку, оценку эксперта членами рабочей группы.
  2. Статические, при которых значение оценок получаются в результате обработки суждения экспертов об оцениваемой продукции.
  3. Тестовые, при которых значения оценок получаются в результате специальных испытаний, основанных на решении специально подобранных тестовых задач.
  4. Документальные, при которых значения оценок получаются на основе анализа документальных данных об экспертах.
  5. Комбинированные, при которых значения оценок получаются с помощью любой совокупности перечисленных выше методов.

 

Наиболее обоснованными в настоящее время являются статистические методы оценки качества экспертов, поэтому рассмотрим их более подробно.

К методам статической оценки относят  оценку по отклонению от среднего мнения экспертной группы Кос и оценку воспроизводимости результата Квр, которые могут быть получены после обработки результатов специальных опросов, предшествующих операции формировании экспертной группы.

В основе первого метода лежит посылка, что истинным значением определяемой экспертами величины (свойства), является значение средней оценки экспертной группы. Чем меньше отклонение значения индивидуальной оценки, назначенной экспертом, от групповой средней оценки, тем выше качество этого эксперта, которое может быть учтено путем присвоения в результате каждому эксперту соответствующего «веса» или весового коэффициента.

В том случае, когда эксперт определяет численные значения оцениваемых свойств (в баллах, долях единицы или ппроцентах), предлагается использовать в качестве оценки эксперта расстояние между «средним» рядом значений оценок и значениями оценок назначенными данным экспертом. Например:

Кос=10(1-  j)

при этом                                        n

     j=1/2А   Кi – Кij

                                                       i=1 

где Кi- среднее значение i– той оцениваемой величины (свойства);

      Кij- значение i– той величины (свойства), назначенное j –тым экспертом;                                              n

                                                          А=     Ki

                                                    i=1

В основе второго метода лежит посылка, что высоким может считаться качество такого эксперта, для которого свойственна воспроизводимость назначаемых значений оценок, т.е. значения оценок одного и того же объекта в нескольких турах должны быть достаточно близкими. В этом случае можно говорить о стабильности его мнения. Способы оценки качества эксперта по воспроизводимости результата аналогичны способам оценки по отклонению от среднего мнения.

В том случае, когда эксперты ранжируют оцениваемые величины (свойства), для количественного выражения их качества или согласованности, чаще всего на практике используется коэффициент конкордации, который вычисляется следующим образом:

                                                   n

                                             12     (Si – S)2

                                                W=        i=1                  m

                                            m2 (n3 – n) – m      Tj

                                                                       j=1

где Si – сумма рангов, присвоенных m экспертами i-тому фактору;

      S – среднее значение сумм рангов;

Величины Si и S определяются отношениями:

                                        m                                       n

Si=      Кij ;        S=     Si / n

                                        j=1                                   i=1

 

где j – номер эксперта;

      i – номер оцениваемого фактора.

 

Величина Tj определяется из выражения:

                                                 Lj

Tj=    (t3jl – tjl),

                                                 l=1

где tjl – число одинаковых рангов 1-го вида в оценках j –того эксперта;

      Lj –количество групп факторов с совпавшими рангами в оценках j –того эксперта.

Коэффициент конкордации изменяется в пределах от нуля до единицы и его значение, равное единице, соответствует полной согласованности мнений экспертов. Обычно согласованность мнений экспертов считается достаточной при W >0,5.

Согласованность мнений экспертов может быть случайной или неслучайной. В качестве количественной оценки степени этой случайности используется уровень значимости коэффициента конкордации. Этот уровень находится из таблицы на основе данных о числе степеней свободы n=1 и величины    2 (критерий Пирсона).

Величина       2 определяется по формуле:

                   n                   

              12    (Si – S)2

   2 =                 i=1                       m

           mn (n +1) – 1     Tj

                              n-1 j=1

 

Определенный таким образом уровень значимости коэффициента конкордации дает значение вероятности случайного совпадения мнений экспертов, т.е. достоверность оценок. Если согласованность мнений экспертов высокая и неслучайная, то данная экспертная группа может быть принята за основу для экспертной оценки качества продукции. Если же согласованность мнений недостаточная (W<0,5), то  анализируя оценки отдельных экспертов, выделяют эксперта (экспертов), имеющего наиболее отличающиеся оценки от общей совокупности оценок других экспертов и подсчитывают значение коэффициента конкордации опять. Эту операцию повторяют до тех пор, пока не будет достигнута приемлемая согласованность экспертных оценок. При этом рекомендуется, чтобы количество оставшихся экспертов было не менее 2/3 от первоначального состава экспертной группы. В противном случае требуется заново сформировать экспертную группу. Для решения большинства задач по экспертной оценке качества продукции, оптимальными могут считаться экспертные группы, включающие от 7 до 20 экспертов.

 

II Самостоятельная работа.

 

Задание 1. Для заданного аналога оцениваемого изделия, произвести экспертную оценку эргомических свойств, в соответствии с разработанной иерархической структурой свойств этого изделия (см. практическое занятие №2). Определить численные значения соответствующих эргономических показателей, руководствуясь следующей оценочной шкалой:

 

Оценка

Число баллов

Качество очень высокое

7

Качество высокое

6

Качество выше среднего

5

Качество среднее

4

Качество ниже среднего

3

Качество низкое

2

Качество очень низкое

1

 

Произвести необходимую статистическую обработку полученных данных с целью оценки качества каждого эксперта, участвующего в эксперементе. Результаты выполнения задания рекомендуется представить в виде следующей таблицы:

           i

   j

1

2

3

n

Число совпавших оценок

Максимальное отклонение

 

Кос

1

Кij

 

 

 

 

 

 

2

 

 

 

 

 

 

 

3

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

m

 

 

 

 

 

 

 

 

Обобщен-ная оценка (средний балл)

 

 

 

 

 

 

 

 

 

Задание 2. Используя экспресс-метод экспертной оценки качества, произвести ранжирование ряда предложенных изделий (3…5 шт.), аналогичных оцениваемому изделию, в зависимости от уровня их качества произвести необходимую статистическую обработку полученных данных с целью оценки качества каждого эксперта, участвующего в эксперементе. Результаты выполнения задания рекомендуется представить в виде следующей таблицы:

 

           i

   j

 

1

 

2

 

3

 

 

n

 

S

Макси-мальное откло-нение

Сумма отклоне-ний

Число совпавших оценок

1

Кij

 

 

 

 

 

 

 

2

 

 

 

 

 

 

 

 

3

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

m

 

 

 

 

 

 

 

 

 

Si

 

 

 

 

 

 

 

 

 

Обобщен-ная оценка (средний балл)

 

 

 

 

 

 

 

 

 

W