To the content
1 . 2021

ASSESSMENT OF CLINICAL COMPETENCE USING OBJECTIVE STRUCTURED CONTROL BASED ON INTEGRATED MODULES

Abstract

Introduction. The Objective Structured Clinical Examination (OSCE) is an important valid mechanism for evaluating students' practical knowledge. In the Republic of Kazakhstan, the objective structured clinical examination (OSCE) is included as a mandatory component of the final control for students of intermediate and graduate courses of medical universities of the country.

Material and methods. The article traces the experience of conducting OSCE among 3rd year students of the specialty "General Medicine" of the Karaganda Medical University, Republic of Kazakhstan.

Results. The authors have shown that OSCE helps to demonstrate that students have mastered the following learning competencies in the discipline "Pathology of organs and systems": knowledge of biomedical sciences, communication skills, teamwork skills. The authors note that positive aspects of this teaching method include the ability to show students the integrated knowledge gained in the study of the discipline, while mastering skills, and teachers to objectively assess practical skills.

Conclusion. The practice of using an objective structured clinical examination (OSCE) in higher medical schools for assessing clinical competence in different countries of the world is more than 40 years. But the literature contains sporadic information about the procedure for passing practical skills in clinical disciplines in foreign medical universities, referred to as "an exam with a full description of clinical cases". Since 2014 in the Republic of Kazakhstan the OSCE has been a mandatory component of the final control for medical students studying under the bachelor's degree program in senior years and under the residency program. The difficulty lies in the integrated teaching and control of the development of clinical competence in 3rd-year students studying basic and mandatory disciplines in the pathology of eight systems: cardiovascular, respiratory, nervous, endocrine, digestive, urinary, haematological, musculo-skeletal.

Keywords:objective structured clinical examination (OSCE), 3rd-year students of the specialty "General Medicine", educational competence, final control form

Funding. The study had no sponsor support.

Conflict of interests. The authors declare no conflict of interests.

For citation: Zhautikova S.B., Abikenova F.S., Zhienbayeva K.M., Abdikadyrova H.R., Suleymenova B.M., Baryshnikova I.A. Assessment of clinical competence using objective structured control based on integrated modules. Meditsinskoe obrazovanie i professional'noe razvitie [Medical Education and Professional Development]. 2021; 12 (1): 8-18. DOI: https://doi.org/10.33029/2220-8453-2021-12-1-8-18 (in Russian)

Целью исследования стал анализ клинической компетенции с использованием объективного структурированного клинического экзамена (ОСКЭ) по интегрированной дисциплине "патология органов и систем", включающая 9 предметов: "анатомия", "гистология", "нормальная физиология", "биохимия", "патологическая физиология", "патологическая анатомия", "визуальная диагностика", "введение в клиническую медицину", "фармакология"; с использованием клинической ситуационной задачи, стандартизированных пациентов, аускультации на учебном тренажере Harwey и коммуникативного навыка.

МАТЕРИАЛ И МЕТОДЫ

Результаты сдачи ОСКЭ студентами III курса по специальности "Общая медицина" обобщены и обработаны статистически с использованием корреляционного анализа Пирсона, параметрического t-критерия Стьюдента [1-3].

В Центре практических навыков университета разворачивали 16 станций для сдачи ОСКЭ на русском, казахском и английском языках, постоянно велась видео- и аудиозапись. На каждой станции присутствовали по 2 экзаменатора. Одномоментно на каждую станцию заходили по 2 студента под определенными номерами, на компьютере были представлены 10 вариантов клинических ситуационных задач с различными синдромами и нозологическими формами по патологии 8 систем: сердечно-сосудистой, дыхательной, нервной, эндокринной, пищеварительной, мочевыделительной, кроветворной, опорно-двигательной. В условие клинической задачи был включен весь спектр лабораторного и клинико-инструментального исследования. Продолжительность сдачи клинической компетенции с использованием клинической ситуационной задачи, стандартизированных пациентов, навыка аускультации на учебном тренажере Harwey, коммуникативного навыка составляла 16 мин. По окончании экзаменаторы, проанализировав результат, заполняли оценочные листы коллегиально. Оценочные листы подвергались обработке с помощью автоматизированной системы подсчета баллов с использованием оптического распознания оценочных листов, разработанного сотрудниками Центра практических навыков.

РЕЗУЛЬТАТЫ И ОБСУЖДЕНИЕ

В Медицинском университете г. Караганды на протяжении 6 лет оценка клинической компетенции с использованием ОСКЭ студентов III курса по специальности "общая медицина" осуществляется по 9 интегрированным дисциплинам [4-7].

Анализ эффективности работы профессорско-преподавательского состава (ППС) показал отклонения в оценивании блоков дисциплин между преподавателями кафедры. Так, у 74% ППС разброс оценок варьировал от 43 до 100%, в то время как у 26% преподавателей он находился в диапазоне от 73 до 90%. Данный диапазон соответствует по балльно-рейтинговой системе оценки значениям "хорошо" и "отлично". Педагогический стаж среди первой группы респондентов составил от 5 до 37 лет, второй - от 3 до 5 лет.

В ходе анализа оценочных листов наибольшие затруднения у студентов вызвали вопросы по блокам "Патологическая физиология", "Патологическая анатомия" дисциплины "патология органов и систем" были по станциям ОСКЭ "Интерпретация и клинико-морфологическая характеристика пищеварительной системы". Значимо низкие результаты на данной станции от 43 до 47% были отмечены у 11 (10%) студентов.

Наивысшие оценки на казахском, русском, английском языках обучения наблюдались на станции ОСКЭ "Интерпретация и клинико-морфологическая характеристика нервной системы" и варьировали от 63 до 100% респондентов.

ОСКЭ помогает продемонстрировать студентам освоение компетентностей обучения, таких как знание биомедицинских наук, коммуникативные навыки, навык работы в команде, которые соответствуют стандарту образования [8-10]. Овладение коммуникативными навыками оценивалось при осмотре студентами стандартизированного пациента на станциях ОСКЭ "Интерпретация и клинико-морфологическая характеристика пищеварительной системы", "Интерпретация и клинико-морфологическая характеристика нервной системы".

Нами выявлена высокая корреляционная связь между блоками дисциплины "Патология органов и систем" и уровнем освоения компетентностей обучения знания биомедицинских наук: знание патологической анатомии и патологической физиологии (r=0,72, р<0,001) (рис. 1), заметная корреляционная связь между знанием патологической анатомии и лучевой диагностики (r=0,65, р<0,01) (рис. 2) и также заметная корреляционная связь между знанием патологической физиологии и лучевой диагностики (r=0,6 р<0,01) (рис. 3).

Рис. 1. Корреляционная связь между патологической анатомией и патологической физиологией

Рис. 2. Корреляционная связь между патологической физиологией и лучевой диагностикой

Рис. 3. Корреляционная связь между патологической анатомией и лучевой диагностикой

Аналогичная тенденция сохраняется при установлении статистической взаимосвязи (r=0,55, р<0,05) между средним баллом по разным формам итогового контроля: ОСКЭ и компьютерным тестированием по 9 интегрированным дисциплинам (рис. 4).

Рис. 4. Сравнительная корреляция между компьютерным тестированием и результатами объективного структурированного клинического экзамена по дисциплине "Патология органов и систем"

Однако между компьютерным тестированием и ОСКЭ по дисциплинам интеграции прослеживается средняя корреляционная связь (r=0,35, р<0,05) (рис. 5).

Рис. 5. Сравнительная корреляция между компьютерным тестированием и объективным структурированным клиническим экзаменом по дисциплинам интеграции

Установлено однонаправленное изменение среднего балла по дисциплинам интеграции за 3 последних учебных года у студентов, обучающихся на казахском, русском, английском отделениях (рис. 6).

Уровень освоения компетентности знания биомедицинских наук у студентов казахского и русского отделений на 8-12% выше, чем в группах английского отделения (см. рис. 6).

Рис. 6. Средний балл по результатам объективного структурированного клинического экзамена по дисциплине "патология органов и систем" у студентов казахского, русского и английского отделений

Материал к ОСКЭ по интегрированным дисциплинам соответствовал основным положениям к ОСКЭ, был достоверным, открытым, так как осуществляется аудио-и видеозапись всего процесса. Сама данная форма контроля отвечает принципам ОСКЭ: надежности, гибкости, справедливости, удовлетворенности ППС [11, 12]. ОСКЭ позволяет охватить большое количество студентов, 672 (100%) студента III курса по специальности "общая медицина"; у них оценивались навыки интерпретации механизмов развития патологического процесса с использованием анализов результатов обследования, описанием морфоструктуры пораженного органа на практике, использованием чек-листов или оценочных листов. Интегрированная дисциплина "Патология органов и систем" включает материал теоретических предметов: пререквизитов к постреквизитам - клиническим дисциплинам, следовательно, определяется их тесная взаимосвязь. Таким образом, ОСКЭ стимулирует обучающихся к изучению клинических компетентностей.

ОСКЭ - это форма экзамена с чек-листами, одинаковым набором заданий, использованием технических средств оснащения: это анатомические муляжи, гистологические снимки, макро- и микропрепараты, данные лабораторных и клинико-инструментальных исследований ЭКГ, УЗИ, МРТ, спирографии; опрос, пальпация, перкуссия и аускультация стандартизированных пациентов и аускультация на учебном тренажере Harwey (видео- и аудиозапись ответа) [13-15]. Преподаватель, имея перед собой лист ответа, не имеет права задавать студентам наводящие вопросы. Таким образом, исключается фактор несправедливого оценивания, который бывает при традиционной форме экзамена.

Удовлетворенность ОСКЭ определялась по данным анкетирования ППС и студентов.

Анкета ППС по результатам проведения ОСКЭ включала следующие вопросы:

1. Проведен ли инструктаж для экзаменаторов по общим правилам проведения ОСКЭ и системе оценивания?

2. Какие ошибки наиболее часто совершала команда студентов?

3. Были ли затруднения в выборе индивидуальной оценки студентов?

4. Достаточно ли времени было выделено на оценивание студентов?

5. Испытывали ли вы дискомфорт и усталость при проведении ОСКЭ?

6. Были ли вы удовлетворены проведением ОСКЭ?

92% респондентов ответили, что им доступно объяснили правила проведения ОСКЭ и систему оценивания. 87% преподавателей сумели легко использовать электронный чек-лист, также они заметили, что сотрудники Центра практических навыков в любую минуту были готовы оказать помощь решить проблемы системы оценивания обучающихся. 89% опрошенных преподавателей заметили, что выделенного времени на разбор заданий ОСКЭ было достаточно, это объясняется предварительным пилотированием станций ОСКЭ. У 75% респондентов со стажем работы от 5 до 30 лет не возникло проблем с оцениванием, в то время как у 25% преподавателей со стажем работы менее 3 лет были затруднения при выставлении индивидуальной оценки студентам. На третий вопрос лишь 16% преподавателей в возрасте от 59 лет и старше ответили "недостаточно", 84% респондентов ответили положительно и объяснили свой ответ удобной шкалой оценок в чек-листе и использованием планшетов при выставлении оценок. 24% преподавателей обратили внимание на доминирование одного из экзаменуемых при пассивности другого. 70% респондентов отметили большую загруженность педагогическим процессом и появление усталости после ОСКЭ. Данное обстоятельство можно объяснить тем, что ОСКЭ проводится в конце учебного года и наслаивается на аудиторные занятия. 87% преподавателей высказались в пользу ОСКЭ как важного рычага в оценивании практических навыков студентов. В проведении ОСКЭ были задействованы опытные педагоги кафедры. При анализе оценок значительных отклонений в оценивании знаний и навыков студентов между отдельными педагогами не наблюдалось.

ЗАКЛЮЧЕНИЕ

Следовательно, педагогическая технология оценки итогового контроля знаний обучающихся - ОСКЭ - позволяет мобилизоваться студентам и продемонстрировать интегрированные знания по 9 дисциплинам при освоении клинической компетенции, а преподавателям объективно оценить практические навыки. Качество оценивания зависит от стажа работы ППС. Проведение ОСКЭ дало положительную обратную связь как со стороны студентов, так и со стороны преподавателей. Таким образом, ОСКЭ является достоверным методом оценивания знаний и навыков с высочайшей степенью надежности. По сопоставлению с классическими тестовыми экзаменами, которые доминируют в институтах в качестве итогового контроля знаний, ОСКЭ обеспечивает более достоверную оценку компетентностей. Экзаменатор заблаговременно продумывает оглавление экзамена для испытания конкретных познаний, умений, способностей и уровень его трудности. Оценивание уровня освоения компетентностей не зависит от определенного экзаменатора, что, собственно, гарантирует более беспристрастную оценку и ее верность. С другой стороны, выявлены и отрицательные стороны ОСКЭ.

1. Как и любая другая форма экзамена, ОСКЭ - это стресс как для студентов, так и для неопытных преподавателей.

2. Экзамен создает дополнительную нагрузку на преподавателей, так как проводится во время учебного процесса. Для подготовки к ОСКЭ работники кафедры тратят существенно больше времени, чем при привычном экзамене, что значительно повышает нагрузку на экзаменаторов.

3. Не дает представления о согласованной деятельности органов и систем как целого организма.

4. В связи с отсутствием практических навыков у студентов ОСКЭ вызывает затруднения, так как студент в конце семестра демонстрирует лишь теоретические знания.

5. Кроме психологических аспектов, негативно влияющих на сдачу ОСКЭ, есть и социально-коммуникативные факторы: межличностные отношения преподавателей со студентами, а также влияние социальной среды на студентов.

6. Во время проведения ОСКЭ могут быть проблемы с материально-техническим обеспечением - технические неполадки, неисправность материала.

References

1. Oyvin I.A. Statistical processing of experimental research results. Pathologicheskaya fiziologiya i experimental’naya terapiya [Pathological Physiology and Experimental Therapy]. 1960; (4): 76–85. (in Russian)

2. Fletcher R., Fletcher S., Wagner E. Clinical epidemiology. the basics of evidence-based medicine. Moscow: Media Sfera, 1998: 345 p. (in Russian)

3. Khan K.Z., Ramachandran S., Gaunt K., Pushkar P. The Objective Structured Clinical Examination (OSCE): AMEE Guide No. 81. Part II: Organization & administration. Meditsinskoe obrazovanie i professional’noe razvitie [Medical Education and Professional Development]. 2014; (2): 23–40. (in Russian)

4. Kurkin A.V., Esimova R.Zh., Dzhumabaeva S.K., Nurseitova K.T. Objective structured clinical exam integrated with biomedical disciplines. Mezhdunarodniy zhurnal eksperimental’nogo obrazovaniya [International Journal of Experimental Education]. 2017; (3): 30–3. (in Russian)

5. Balkizov Z.Z., Semenova T.V. Objective structured clinical examination. Guide. Meditsinskoe obrazovanie i professional’noe razvitie [Medical Education and Professional Development]. 2016; (3): 27–51. URL: https://cyberleninka.ru/article/n/obektivnyy-strukturirovannyy-linicheskiy-ekzamen-rukovodstvo-2016 (in Russian)

6. Zhautikova S.B., Abikenova F.S. On the experience of introducing modern methods of education into the educational process of the Department of Pathological Physiology of Karaganda State Medical University. Sovremennye problemy nauki i obrazovaniya [Modern Problems of Science and Education] (electronic journal). 2018; (5). URL: http://www.science-education.ru/ru/article/view?id=28113 (in Russian)

7. Shchastny A.T., Rednenko V.V., Konevalova N.Yu., Poplavtsev E.V. Prospects for the introduction of an objective clinical exam at the Vitebsk State Medical University. Vestnik Vitebskogo gosudarstvennogo meditsinskogo universiteta [Bulletin of Vitebsk State Medical University]. 2017; 16 (4): 111–8. (in Russian)

8. Frazer R.C., Mckinley R.K., Mulholland H. Consultation competence in general practice: establishing the face validity of prioritized criteria in the Leicester assessment package. Br J Gen Pract. 1994; 44 (380): 109–13.

9. Ponnamperuma G.G., et al. The long case and its modification a literature review. Med Educ. 2009; 43 (10): 936–41.

10. Gleeson F. Assessment of clinical competence using the Objective Structured Long Examination Recon (OSLER). Med Teach. 1997; 19: 7–14.

11. Harden R.M., Gleeson F.A. Assessment of clinical competence using an objective structured clinical examination (OSCE). Med Educ. 1979; 13 (1): 41–54.

12. Troncon L.E.A., et al A standardized, structured long-case examination of clinical competence of senior medical students. Med Teach. 2000; 22 (4): 380–5.

13. Sood R. Long case examination – can it be improved? J Indian Acad Clin Med. 2001; 2 (4): 251–5.

14. Hamdy H., et al. Undergraduate medical education in the Gulf Cooperation Council: a multi-countries study (Part 2). Med Teach. 2010; 32 (2): 290–5.

15. Wass V., van der Vleuten C. The long case. Med Educ. 2004; 38 (11): 1176–80.

All articles in our journal are distributed under the CC BY-NC-ND 4.0 (Creative Commons Attribution-NonCommercial-NoDerivatives 4.0 International)

CHIEF EDITOR
CHIEF EDITOR
Balkizov Zalim Zamirovich
Secretary General of the Russian Society of Medical Education Specialists, Director of the Institute of Training of Medical Education Specialists of the Russian Medical Academy of Continuing Professional Education, 125993, Moscow, Russian Federation, Professor of the Department of Vocational Education and Educational Technologies of the N.I. Pirogov RNIMU of the MOH of Russia, CEO of GEOTAR-Med, Advisor President of the National Medical Chamber, Moscow, Russian Federation

Journals of «GEOTAR-Media»