Моделирование и анализ данных
2019. Том 9. № 3. С. 80–93
ISSN: 2219-3758 / 2311-9454 (online)
Реализация механизмов оценки качества образовательных услуг: информационно-аналитическая система ИАС МК
Аннотация
Общая информация
Ключевые слова: удовлетворенность качеством образовательных услуг, информационно-аналитическая система, информационное обеспечение, образовательная система, иерархическая структура
Рубрика издания: Комплексы программ
Тип материала: научная статья
Для цитаты: Митин А.И., Филичева Т.А. Реализация механизмов оценки качества образовательных услуг: информационно-аналитическая система ИАС МК // Моделирование и анализ данных. 2019. Том 9. № 3. С. 80–93.
Полный текст
В статье представлены задачи оценки текущего состояния качества образовательных услуг, описаны принципы построения информационно-аналитической системы мониторинга качества образовательных услуг (ИАС МК), которая обеспечивает решение экспертно-аналитических задач, формирование рекомендаций по повышению качества для администрации образовательного учреждения.
С учетом повышения требований государства и общества к качеству предоставляемых образовательных услуг информационно-аналитическое обеспечение мониторинга качества образования призвано обеспечить эффективность управления образовательным учреждением, оперативность реагирования на вызовы современного рынка - как со стороны работодателей, так и со стороны потребителей образовательных услуг (общества, государства).
Ранее в статье [1] были предложены подходы к решению задач оценки текущего состояния качества образовательных услуг и описаны соответствующие нечетко-логические и нечетко-множественные модели. Настоящая статья описывает практическую реализацию предложенных подходов и моделей - информационно-аналитическую систему мониторинга качества образовательных услуг (ИАС МК).
Областью применения ИАС МК является: 1) определение степени достижения целей в области качества образовательных услуг; 2) оценка рисков снижения качества образовательных услуг; 3) оценка рисков недостижения поставленных целей; 4) оценка степени удовлетворенности качеством образовательных услуг.
ИАС МК характеризуется:
• видами аналитической информации, которая требуется лицу, принимающему решение (ЛПР), для определения степени достижения поставленных целей в области качества, степени удовлетворенности качеством (со стороны субъектов образовательной деятельности), рисков снижения качества образовательных услуг;
• методами и моделями мониторинга качества образовательных услуг, которые реализуют анализ качества по соответствующим характеристикам;
• совместимостью с информационной системой образовательного учреждения.
Значительные объемы информации, сложность учета внешних факторов, большое число количественных и качественных показателей, неформальных элементов обусловливают требования, предъявляемые к ИАС МК [2, 3]. Такими основными требованиями являются:
• наличие развитой информационной базы с возможностью оперативного поиска требуемой информации;
• обеспечение оперативной связи с источниками информации (субъектами удовлетворенности качеством образовательных услуг, экспертами);
• наличие диалоговых программных средств, обеспечивающих формирование рекомендаций для принятия решений на основе математических моделей анализа информации;
• наглядность представления информации в форме, удобной для восприятия (в виде таблиц, графиков, диаграмм, словесных рекомендаций);
• простота работы, достигаемая использованием доступных программных средств.
Функционально ИАС МК состоит из следующих трех подсистем (рис. 1):
• подсистема ведения данных образовательного учреждения (с учетом справочной информации, основных сведений, информации об удовлетворенности качеством образовательных услуг, совокупностей продукционных правил для формирования рекомендаций по повышению удовлетворенности качеством, уменьшению рисков снижения качества предоставляемых образовательных услуг);
• подсистема анализа основных показателей качества образовательных услуг (с учетом определения степени удовлетворенности качеством, а также возможных рисков снижения качества);
• подсистема формирования отчетности по соответствующим запросам (включающей таблицы, графики, диаграммы, комментарии, рекомендации).
Рис. 1. Функциональный состав ИАС МК
Взаимодействие методов и моделей мониторинга качества образовательных услуг (рис. 2) непосредственно определяет функционирование трех указанных выше подсистем. Первая подсистема выполняет сбор показателей, измеряющих долю соответствия поставленным целям в области качества, а также степень удовлетворенности субъектов удовлетворенности (сотрудников и профессорско-преподавательский состав, обучающихся, выпускников, работодателей) качеством образовательных услуг. Вторая подсистема позволяет провести анализ отклонений от поставленных целей в области качества и определить степень достижения этих целей с применением методов, основанных на теории нечеткого логического вывода [2, 4, 5, 6]. Второй функцией этой подсистемы является сопоставление показателей удовлетворенности качеством образовательных услуг (по каждому из направлений деятельности) с полученными от субъектов удовлетворенности оценками и формирование на основе этого сопоставления рекомендаций по направлениям, требующим корректирующих и предупреждающих действий [2, 4, 7]. Наконец, третья функция подсистемы связана с анализом рисков снижения качества образовательных услуг, рисков недостижения поставленных целей [1, 7, 8, 9]. Третья подсистема генерирует рекомендации ЛПР для принятия управленческих решений, а также формирует аналитические отчеты с подтверждающими таблицами, графиками, диаграммами, предназначенными для ЛПР.
Ядром информационного обеспечения ИАС МК является тесно связанные между собой база знаний и база данных. База знаний содержит совокупность нечетких продукционных правил по степени достижения целей в области качества и степени удовлетворенности 82
качеством образовательных услуг. Продукционные правила формируются перебором всех допустимых условий/следствий (например, ЕСЛИ <количество абитуриентов меньше установленных контрольных цифр> ТО <активизировать проведение рекламных мероприятий> ИЛИ <повысить информированность общества> ИЛИ <повысить имидж вуза> ИЛИ <снизить стоимость обучения> и т.д.) [8, 9, 10].
Кроме того, база знаний содержит информацию по когнитивным картам (КК), использующимся при оценке рисков снижения качества. Когнитивная карта представляет собой взвешенный ориентированный граф, вершинам которого сопоставлены концепты (факторы), а ребрам - веса связи между концептами [9, 10]. Анализ рисков снижения качества образовательных услуг, основанный на когнитивном подходе к моделированию и управлению, позволяет разработать формальные модели и получить количественную оценку негативных последствий, влияющих на качество образовательных услуг.
Данные мониторинга и процедуры извлечения знаний, проводимые аналитиками на этапе построения и модификации продукционных правил, позволяют экспертам сформировать список концептов когнитивной карты для исследования возможных причин несоответствия целям в области качества образовательных услуг, а также выделить наиболее проблемные показатели (концепты), риск недостижения которых достаточно велик или значения которых не соответствуют целевым. При этом совокупность продукционных правил позволяет формировать рекомендации по улучшению качества образовательных услуг при принятии управленческих решений ЛПР.
База данных организована в виде обычной реляционной БД и содержит справочники, сведения о студентах, сотрудниках, работодателях, форматы отчетов и т.д.
Взаимодействующие с ИАС МК категории пользователей (рис. 2) характеризуются следующим образом:
• Служба качества - является организатором процесса сбора и анализа информации в соответствии с регламентами по контролю качества образовательных услуг и/или запросами ЛПР, контролирует основные этапы, организует процедуру согласования мнений экспертов.
• Социологическая служба - выполняет разработку анкет для определения степени удовлетворенности качеством образовательных услуг (для разных субъектов удовлетворенности - студентов, преподавателей, работодателей и т.п.) в соответствии с поставленными требованиями и направлениями исследования, анализирует информацию, полученную при анкетном опросе.
• Эксперты в предметной области - на основе знаний о предметной области выделяют основные факторы, влияющие на качество образовательных услуг, а также устанавливают связи между ними.
• Аналитики - вырабатывают рекомендации для ЛПР, обнаруживают возможные некорректности модели или сформированной совокупности продукционных правил, принимают решение о возобновлении процесса согласования модели и продукций.
• ЛПР - является заключительным звеном в процессе принятия решений с использованием ИАС МК, выдвигает требования, учитывающиеся аналитиками при проведении моделирования и отбора рекомендаций.
Для выработки с помощью ИАС МК рекомендаций по повышению удовлетворенности качеством предоставляемых образовательных услуг, достижению целей в области качества целесообразно использовать экспертов и аналитиков, причем как в качестве экспертов, так и в качестве аналитиков допускается привлечение специалистов службы качества и социологической службы. Количество экспертов определяется в зависимости от основных целей образовательного учреждения в области качества, количества реализуемых образовательных программ и сложности структуры образовательного учреждения.
Таким образом, программные средства ИАС МК должны обеспечивать решение экспертно-аналитических задач (оценки степени удовлетворенности качеством образовательных услуг, достижения целей в области качества, рисков снижения качества) с использованием базы данных, базы знаний и средств мониторинга на основе информационного взаимодействия между участниками образовательной деятельности.
Анализ задач, которые ставились перед ИАС МК, позволил сформулировать следующий минимальный набор структурных и функциональных требований, предъявляемых к информационно-аналитическому обеспечению мониторинга качества образовательных услуг:
1. ИАС МК обеспечивает импорт результатов анкетных опросов субъектов удовлетворенности качеством образовательных услуг, анализ полученных результатов, а также режим визуального отображения полученных результатов.
2. Субъект удовлетворенности качеством образовательных услуг, как пользователь ИАС МК, имеет возможность в удобной для восприятия форме ввести ответы на вопросы анкеты.
3. Пользователи ИАС МК (социологическая служба, служба качества, аналитики) имеют возможность провести импорт необходимых для анализа результатов анкетных опросов субъектов удовлетворенности качеством образовательных услуг, получить данные о степени удовлетворенности, выработать рекомендации по повышению качества образовательных услуг и сформировать отчет.
4. ИАС МК обеспечивает анализ качества образовательных услуг и степени достижения цели в области качества с учетом задания анализируемого периода и основных показателей, характеризующих качество образовательных услуг.
5. ИАС МК позволяет аналитикам осуществлять оценку рисков снижения качества образовательных услуг, отражать возможное поведение образовательной системы в рамках анализируемого периода и формировать рекомендации по корректирующим и предупреждающим действиям с учетом рисков.
6. Основу информационного обеспечения ИАС МК составляют: а) база данных, содержащая показатели, характеризующие качество образовательных услуг и сведения об основных показателях образовательной деятельности; б) база знаний, позволяющая формировать рекомендации для ЛПР по увеличению степени удовлетворенности качеством образовательных услуг, степени достижения целей в области качества и принятию корректирующих (предупреждающих) действий по повышению качества образовательных услуг.
7. Диалоговое взаимодействие пользователей с ИАС МК осуществляется через графический интерфейс в форме, удобной для восприятия пользователем.
8. Структурно ИАС МК реализована в виде совокупности подсистем, что обеспечивает как возможность использования отдельных подсистем на этапе эксплуатации, так и расширение их функциональных характеристик в процессе совершенствования.
9. ИАС МК обеспечивает экспорт входных данных (результатов анкетных опросов субъектов удовлетворенности качеством образовательных услуг), результатов оценки степени удовлетворенности качеством образовательных услуг, результатов моделирования (графиков изменения значений для различных сценариев и т.п.) в другие программные приложения.
Разработанный механизм взаимодействия подсистем ИАС МК обеспечивает реализацию методов анализа данных мониторинга качества образовательных услуг (оценку удовлетворенности качеством образовательных услуг, степени достижения целей в области качества, рисков снижения качества) на основе использования экспертно-аналитических методов, метода когнитивного моделирования, лингвистических переменных и нечеткого логического вывода [1, 2, 4].
В частности, при анализе степени удовлетворенности качеством образовательных услуг результаты анкетных опросов, заполняемые на Web-странице сайта образовательного учреждения, созданного на основе программного продукта «Битрикс: Управление сайтом», выгружаются для дальнейшего анализа в формат Microsoft Excel в виде таблицы.
Удалённый обмен данными реализуется через ряд Web-интерфейсов для различных категорий пользователей. В основе управления сайтом заложен принцип разделения уровней прав доступа пользователей к ресурсам сайта. Каждый посетитель сайта относится к одной или нескольким группам, каждая из которых обладает определенным набором прав доступа. Зарегистрированный пользователь сайта (регистрация применяется при работе экспертов и сотрудников службы качества) обладает уникальными идентификационными данными: логином и паролем. После авторизации в системе (ввода логина и пароля в специальную форму авторизации) пользователь получает доступ к ресурсам сайта в соответствии с уровнем прав доступа его группы. В качестве примера реализации представлен фрагмент Web-страницы для оценки работодателями степени удовлетворенности качеством образовательных услуг (рис. 3)
Рис. 3. Фрагмент Web-страницы анкеты для оценки степени удовлетворенности работодателей
Результаты заполнения анкет можно просмотреть с помощью программного продукта «Битрикс: Управление сайтом» и выполнить экспорт в Microsoft Excel для дальнейшей обработки результатов.
Схема информационно-аналитического обеспечения мониторинга качества (рис. 4) отражает взаимодействие программных инструментов каждой из описанных подсистем мониторинга качества образовательных услуг. Это взаимодействие включает: 1) сбор информации о степени удовлетворенности качеством образовательных услуг, о значимости связей между концептами когнитивной модели, о состоянии процессов, обеспечивающих образовательные услуги; 2) анализ данных по удовлетворенности качеством образовательных услуг, степени достижения целей в области качества, рискам его снижения; 3) формирование рекомендаций по повышению качества образовательных услуг в виде отчетов, аналитических записок, включающих исследуемые критерии, анализ ключевых показателей, графическое отражение результатов, рекомендации для принятия управляющих воздействий ЛПР.
Рис. 4. Схема информационно-аналитического обеспечения мониторинга качества
Использование Web-сайта обеспечивает оперативное взаимодействие с экспертами, позволяет привлекать мобильных экспертов (рис. 4). Применение программного продукта «Битрикс: Управление сайтом» при создании сайта обосновано тем, что 1) процесс управления сайтом полностью автоматизирован, 2) управление сайтом возможно в многопользовательском режиме с распределением прав доступа, 3) предоставляется возможность развивать, изменять и создавать новые компоненты за счет поставки в открытых исходных текстах.
Доступ к формам посредством Web-интерфейса позволяет избежать бумажных документов при сборе информации по анкетным опросам, первичным когнитивным картам оценки рисков снижения качества образовательных услуг и, в принципе, вообще избежать первичной обработки информации в бумажном виде. С этой целью применяется модуль опросов в «Битрикс: Управление сайтом», который предназначен для сбора информации, проведения онлайновых опросов, анкетирования, маркетинговых исследований, предусматривает возможность настройки системы статистики для хранения нужного объема данных, оптимальной скорости работы, возможность экспорта любых данных из модуля статистики в формат Microsoft Excel для дальнейшего анализа.
Основные подсистемы ИАС МК реализованы на основе СУБД Microsoft Access и программных модулей на языке VBA. Применение Microsoft Access обосновано:
• высокой степенью универсальности интерфейса;
• возможностями интеграции с другими программными продуктами, входящими в состав Microsoft Office;
• набором визуальных средств разработки;
• удобством реализации базы данных (показатели, характеризующие качество образовательных услуг, сведения об абитуриентах, студентах, преподавателях и т.д.) и базы знаний (для формирования рекомендаций ЛПР по повышению качества образовательных услуг, степени достижения целей в области качества).
Программные инструменты подсистемы анализа данных ИАС МК включают Microsoft Excel, MatLab и Microsoft Access. Применение перечисленных программных инструментов обосновано широкой распространенностью, доступностью, понятным интерфейсом, совместимостью с другими программными продуктами.
При помощи стандартных функций MatLab, инструментов Database Toolbox (для работы с базами данных) и Fuzzy Logic Toolbox (для построения и анализа нечётких множеств) выполняется связь между Microsoft Excel и MatLab, которая обеспечивает обмен данными и их анализ.
В качестве примера результата работы ИАС МК рассмотрим особенности функционирования подсистемы определения степени удовлетворенности качеством образовательных услуг. Эта подсистема обеспечивает согласованные действия групп пользователей ИАС МК с целью определения степени удовлетворенности качеством предоставляемых образовательных услуг и позволяет проанализировать степень удовлетворенности качеством образовательной деятельности для разных субъектов этой деятельности (обучающихся, сотрудников, работодателей). Выяснение мнений субъектов удовлетворенности качеством образовательных услуг осуществляется посредством Web-опроса. Группы пользователей ИАС МК при реализации подсистемы определения степени удовлетворенности качеством образовательных услуг характеризуются следующим образом:
Служба качества - организует процесс сбора и анализа информации по удовлетворенности качеством образовательных услуг, реализует контроль основных этапов и осуществляет импорт данных и их конвертацию (рис. 5).
Рис. 5. Страница импорта и конвертации подсистемы определения степени удовлетворенности качеством образовательных услуг
Социологическая служба - осуществляет разработку анкетных опросов для определения степени удовлетворенности качеством образовательных услуг в соответствии с требованиями и направлениями исследования, а также обеспечивает анализ информации, полученной при анкетных опросах (рис. 6), вносит рекомендации по совершенствованию анкет и анализа результатов опроса, выполняет консультирование сотрудников службы качества и аналитиков по вопросам организации и проведения социологических опросов.
Аналитики - в соответствии с разработанными методами проводят анализ степени удовлетворенности качеством образовательных услуг (рис. 6), выполняют построение отчетов (субъект удовлетворенности, степень удовлетворенности по критериям, графическое отражение степени удовлетворенности по критериям) для более подробного анализа причин неудовлетворенности. Также в их функции входит уточнение формулировок рекомендаций по повышению удовлетворенности качеством предоставляемых образовательных услуг для всех субъектов образовательной деятельности и внесение предложений по повышению удовлетворенности качеством образовательных услуг для ЛПР (в том случае, если степень удовлетворенности не выше «частично удовлетворен и частично не удовлетворен») (рис. 7).
Рис. 6. Страница оценки степени удовлетворенности качеством образовательных услуг субъектами образовательной деятельности
Рис. 7. Страница рекомендаций по повышению удовлетворенности качеством образовательных услуг
Например, на рис. 7 приведены рекомендации по принятию корректирующих действий во взаимодействии с партнерами (образовательными учреждениями - «поставщиками» абитуриентов) для степени «частично удовлетворен и частично не удовлетворен». В качестве рекомендаций предлагается выбрать и провести предупреждающие действия из следующего перечня:
- организовать профессиональное тестирование выпускников и абитуриентов;
- разработать программы подготовительных и репетиционных курсов;
- организовать встречи (круглые столы, конференции, семинары и т.д.) преподавателей кафедр вуза с преподавателями школ, лицеев, колледжей, техникумов и т.д.
Для степени удовлетворенности, начиная со «скорее не удовлетворен», формируются рекомендации по принятию корректирующих действий. Совокупность рекомендаций по критериям удовлетворенности разрабатывается аналитиками и вносится в базу знаний. Данная совокупность рекомендаций может обновляться при внесении изменений в направления деятельности и цели в области качества.
Информация для ЛПР представляется в графическом виде с использованием трехбалльной вербальной шкалы. Графическое отражение информации в виде радарной диаграммы позволяет проследить степень удовлетворенности для субъектов, а также по критериям удовлетворенности для каждого субъекта (рис. 8).
Рис. 8. Страница удовлетворенности качеством образовательных услуг для ЛПР
Возможность графического отражения степени удовлетворенности качеством образовательных услуг позволяет наглядно отразить удачно реализуемые направления деятельности образовательного учреждения и те направления деятельности, которые требуют проведения корректирующих или предупреждающих действий со стороны ЛПР [6, 7, 9]. Красная круговая линия определяется степенью удовлетворенности «удовлетворен» и рассматривается в качестве целевого показателя по степени удовлетворенности качеством образовательных услуг.
Подсистема оценки удовлетворенности качеством образовательных услуг предоставляет:
1) аналитикам - информацию для подробного анализа степени удовлетворенности по семибалльной шкале и возможностью формирования отчета;
2) ЛПР - информацию по сигнальным показателям трехбалльной шкалы с возможностью более подробного просмотра степени удовлетворенности субъектов удовлетворенности качеством образовательных услуг;
3) ЛПР - рекомендации для принятия решений по повышению удовлетворенности качеством образовательных услуг. Предложенными рекомендациями ЛПР может воспользоваться самостоятельно при принятии решений или учесть перечень рекомендаций, который сформирован аналитиками.
Подсистема оценки рисков снижения качества профессиональной подготовки ИАС МК позволяет осуществить прогнозную оценку рисков снижения качества (с помощью когнитивного моделирования), сформировать рекомендации для ЛПР по поводу снижения негативного влияния на поведение образовательной системы.
Подсистема оценки рисков снижения качества образовательных услуг предоставляет: 1) аналитикам - информацию о факторах (концептах когнитивной карты), влияющих на качество образовательных услуг; 2) ЛПР - информацию о рекомендациях по уменьшению рисков снижения качества; кроме того, ЛПР может воспользоваться комментариями и рекомендациями аналитиков.
В заключение целесообразно перечислить выходные результаты, предоставляемые системой ИАС МК для разных категорий пользователей:
1) аналитикам информацию для подробного анализа степени удовлетворенности качеством образовательных услуг по семибалльной шкале;
2) аналитикам информацию для формирования отчета, который включает степень удовлетворенности по критериям и графическое представление;
3) аналитикам результаты когнитивного моделирования в табличном и графическом виде, рекомендации по предотвращению негативных последствий для ЛПР;
4) ЛПР - информацию по сигнальным показателям трехбалльной шкалы, с возможностью более подробного просмотра степени удовлетворенности качеством образовательных услуг для разных субъектов образовательной деятельности;
5) ЛПР - рекомендации для принятия решений по повышению степени удовлетворенности качеством образовательных услуг;
6) ЛПР - результаты когнитивного моделирования, рекомендации по снижению рисков и улучшению качества образовательных услуг.
Литература
- Митин А.И., Филичева Т.А. Оценка качества образовательных услуг: моделирование на базе теории нечетких множеств и нечеткой логики // Моделирование и анализ данных, 2016. №1. С. 3-20.
- Майорова В.И. Системный анализ проблем и моделирование процесса подготовки элитных специалистов инженерного профиля (на примере ракетно-космических специ-альностей). В 2-х ч. Ч. 2. М.: Изд-во МГОУ. 2007. 222 с.
- Митин А.И., Филичева Т.А. Продукционная модель оценки качества профессиональной подготовки и степени достижения целей в области качества // Открытое образование, 2013, №6. С. 31-35.
- Добряков А.А., Милова В.М. Экспертно-аналитический метод оценки качества образо-вательных систем на основе нечётко-множественного подхода // Качество. Инновации. Образование. 2007. № 1. С. 36–41.
- Костюкова, Т.П. Система управления рисками в образовательной деятельности – непременная часть менеджмента качества / Костюкова Т.П., Лысенко И.А. // Информа-ционные технологии в образовании / III Международная научно-практическая конфе-ренция «Информационная среда вуза XXI века» 21–25 сентября 2009 г., г. Петроза-водск. Режим доступа: http://ito.edu.ru/2009/Petrozavodsk/I/I-0-17.html (дата обращения 03.03.2019).
- Митин А.И., Филичева Т.А. Мониторинг качества профессиональной подготовки: ин-формационно-аналитический подход // Информатизация образования и науки, 2014. №1. С. 82–100.
- Митин А.И., Филичева Т.А. Модель оценки удовлетворенности качеством профессио-нальной подготовки и ее практическая реализация // Открытое образование, 2014, №1. С. 36-43.
- Митин А.И., Филичева, Т.А. Информационно-аналитический подход к мониторингу качества профессиональной подготовки. М.-Берлин: Изд-во Директ-Медиа, 2015. 65 с.
- Митин, А.И., Филичева Т.А. Оценка рисков снижения качества профессиональной под-готовки с использованием метода когнитивного моделирования // Открытое образова-ние, 2014, №2. С. 34-39.
- Силов В.Б. Принятие стратегических решений в нечёткой обстановке. - М.: ИНПРО-РЕС, 1995. 228 с.
Информация об авторах
Метрики
Просмотров
Всего: 590
В прошлом месяце: 5
В текущем месяце: 3
Скачиваний
Всего: 299
В прошлом месяце: 4
В текущем месяце: 0