Advanced
The Effect of a Clinical Training Program for Capacity Building of Medical Doctors in a Developing Country
The Effect of a Clinical Training Program for Capacity Building of Medical Doctors in a Developing Country
Korean Medical Education Review. 2015. Jun, 17(2): 78-87
Copyright © 2015, Yonsei university college of medicine
This is an open-access article distributed under the terms of the Creative Commons Attribution Non-Commercial License (http://creativecommons.org/licenses/by-nc/3.0) which permits unrestricted noncommercial use, distribution, and reproduction in any medium, provided the original work is properly cited.
  • Received : April 15, 2015
  • Accepted : May 13, 2015
  • Published : June 30, 2015
Download
PDF
e-PUB
PubReader
PPT
Export by style
Share
Article
Author
Metrics
Cited by
TagCloud
About the Authors
현배 윤
좌섭 신
승희 이
도환 김
은정 김
계현 조
진영 황

Abstract
Mongolia is suffering from the inadequate capacity of medical doctors due to a poor education and training system. The purpose of this article is to evaluate the effect of a clinical training program for capacity building of medical doctors in Mongolia, and to suggest an effective model for continuing professional development in developing countries. Based on the results of a needs assessment, Korean and Mongolian medical experts developed a clinical training program and trained the trainers on 32 topics regarding major clinical problems in 6 specialties, including cardiology, endocrinology, pediatrics, obstetrics and gynecology, neurology, and emergency medicine. Surveillance survey and pre/post-test were used on every topic to evaluate the satisfaction and achievement, respectively, of the trainees. Six months after the clinical training program, we interviewed a sample of medical professionals to evaluate the change and impact. A total of 612 (person-year) medical doctors participated in the training, and the average score for satisfaction was 7.69 out of 8. The average score of the pre-test was 46.9 out of 100, while the post-test was 82.4. After the training, the medical doctors were applying their new knowledge and skills to their practice, and using the materials as guidelines, which improved their practice and increased patient satisfaction. They also started their own training program and adopted new equipment at their hospitals. The satisfaction and achievement of the trainees were very high, and there was significant change in the medical practice, education system, and infrastructure after the training program. This training program can be an effective model for capacity building of medical doctors in developing countries.
Keywords
서 론
몽골은 과거 사회주의 의료시스템의 영향으로 1차부터 3차까지 의료전달체계는 비교적 잘 정착되어 있으며, 의사의 수가 인구 1,000명당 2.51명으로 World Health Organization 권장수준보다 상대적으로 많은 수의 의사를 보유하고 있다( Ministry of Health, Mongolia, 2012 ). 하지만 아시아의 다른 개발도상국과 마찬가지로 부실한 의학교육시스템으로 인하여 정작 의사들의 역량은 낮은 편이다. 하나밖에 없는 국립의과대학의 경우 교수 1인당 학생 수가 24.5명 정도로 상대적으로 너무 많아 효과적인 교육이 이뤄지지 않고 있으며, 부속 대학병원은 30병상 정도의 작은 규모로 인하여 학생들에게 제대로 된 임상실습교육을 제공하지 못하고 있다( Mongolian National University of Medical Sciences, 2014 ). 또한 아직 전공의 수련제도가 충분히 정착되어 있지 않고, 의사들에 대한 평생교육(continuing professional development) 시스템도 제대로 갖춰져 있지 않다. 그나마 대학과 3차 중앙병원들의 교수와 의사들은 해외연수 등의 경험을 가지고 있으나, 1, 2차 병원의 의사들은 평생교육의 기회가 거의 없는 실정이다. 이러한 의사들의 역량 부족은 의료의 질 저하와 환자들의 만족도 저하로 이어지고 있어서 몽골 사회에 심각한 문제가 되고 있다( World Health Organization, 2014 ).
최근 한국의 국제원조개발이 급격하게 성장하면서 보건의료 분야에서도 많은 사업이 이뤄지고 있으나, 여전히 많은 국제보건사업이 병원 건물의 건축이나 진단 및 치료 장비의 제공 등 하드웨어 지원에 머물고 있으며, 보건의료 인적자원(human resource for health) 개발의 경우에도 대부분 한국으로의 초청연수 등이 주를 이루고 있다( Korea International Cooperation Agency, 2013 ). 하지만 초청연수를 통한 의료인력의 교육과 훈련은 한국과 개발도상국의 큰 기술 격차 때문에 오히려 실용성이 떨어질 수 있으며, 연수대상자의 규모도 한계가 있고 그마저도 대부분 대학과 3차 중앙병원의 교수와 의사들에게 그 혜택이 돌아갈 수밖에 없는 것이 현실이다( Lee et al., 2014 ). 따라서 이러한 초청연수만으로는 한계가 있으며, 장기적으로 개발도상국의 보건의료 인력을 교육하고 훈련할 수 있는 지속가능한(sustainable) 모델이 필요하다( Chen et al., 2004 ).
결국 개발도상국 의료인력의 역량강화를 위해서는 현지에서 체계적인 교육과 훈련이 이뤄져야 한다. 국가마다 상황이 다르고 같은 국가 내에서도 지역마다, 그리고 각 병원마다 진료환경과 요구는 다를 수밖에 없기 때문에 모든 상황에 적합한 임상연수 프로그램이 별도로 존재할 수는 없으며, 현지의 맥락과 요구에 맞는 프로그램을 개발해야만 한다. 하지만 이러한 프로그램 개발이 체계적으로 이뤄지지 않는다면 새로운 프로그램을 개발할 때마다 많은 노력과 비용을 소요하면서도 매번 시행착오를 겪게 될 위험성이 있으며, 결과적으로는 프로그램의 효과를 장담할 수 없게 된다. 따라서 인적ㆍ물적자원이 제한된 개발도상국에서 효과적인 임상연수 프로그램을 개발하고 운영할 수 있는 성공적인 모델이 제시될 필요가 있다.
본 연구에서는 몽골 의사들의 역량강화를 위하여 현지에서 몽골의 전문가들과 함께 개발하고 운영한 임상연수 프로그램의 효과를 평가하고, 이를 통하여 개발도상국에서 적용할 수 있는 효과적이고 지속 가능한 평생교육시스템의 모델을 제시하고자 하였다.
연구 진행 단계
- 1. 전략기획워크숍
몽골 의사들의 역량을 강화하기 위한 전략을 수립하기 위하여 몽골 보건부 관료, 중앙병원 의료진, 국립의과대학 교수진 등 핵심관계자 20명이 참여한 가운데 3일간의 전략기획워크숍(strategic planning workshop)을 진행하였다. 워크숍에서는 현재 상황 공유와 환경분석을 시작으로, 함께 추구할 비전과 이를 가로막는 장애요인, 그리고 장애요인을 극복하고 비전을 달성할 전략을 차례로 수립하였으며, 끝으로 이를 구현할 구체적인 실행계획까지 완성하였다. 워크숍은 모든 구성원이 의견을 제시하고 합의를 통해 결과를 얻어낼 수 있도록 consensus workshop method (CWM)으로 진행하였다.
CWM은 이러한 워크숍 진행방식에 최적화된 도구로서, context, brainstorm, cluster, name, resolve 5단계로 구성되어 있다( Stanfield, 2002 ). Context 단계는 워크숍 목표와 프로세스에 대해 소개하고 워크숍에서 논의하고자 하는 주제를 강조하는 단계이며, brainstorm 단계는 논의 주제에 대한 개인별 브레인스토밍을 통해 도출된 아이디어를 모두가 볼 수 있도록 게시하는 단계이다. Cluster 단계는 벽면에 붙은 아이디어 카드를 모든 구성원의 합의를 얻어 유사한 아이디어끼리 모아 군집을 만드는 단계이다. Name 단계에서는 cluster 단계에서 형성한 군집에 구성원의 토의와 합의를 거쳐 군집을 대표하는 이름을 붙이는데, 이 군집의 이름이 바로 워크숍에서 논의하고자 하였던 주제가 된다. 마지막 resolve 단계에서 합의로부터 도출된 결과물에 대해 토의하고 워크숍을 종료한다.
- 2. 요구도 조사
Hennessy-Hicks의 훈련 요구도 평가양식을 현지의 상황에 맞게 일부 수정하여 요구도 조사(needs assessment) 양식으로 활용하였다( Hicks & Hennessy, 2011 ). 1번부터 24번까지의 문항에 대해서는 각 문항이 언급한 직무의 중요성과 현재 수행의 수준에 대하여 7점 척도로 응답하게 하였으며, 마지막 25번 문항에는 현재 교육 및 훈련이 필요한 주제에 대하여 자유롭게 기술하도록 하였다(Appendix 1). 전체 목표대상(target population) 193명 중 162명에 대하여 설문조사를 시행하였다.
- 3. 프로그램 개발 및 강사진 훈련
몽골과 한국의 의학교육 및 의학 전문가 10명과 순환기내과, 내분비내과, 소아과, 산부인과, 신경과, 응급의학과 등 총 6개 과의 연수프로그램 강사진 16명이 함께 7일간의 프로그램 개발 및 강사진 훈련(training of trainers) 워크숍을 진행하였다. 한국에서는 서울대학교 의과대학 의학교육학교실의 의학교육 전문가들이 참여하였고, 몽골 현지에서는 보건부와 3차 중앙병원의 의사 평생교육 담당자와 국립의과대학의 의학교육 전문가들이 참여하였다. 임상연수 프로그램 강사진은 현지 3차 중앙병원과 국립의과대학의 해당 분야 의학 전문가뿐만 아니라 목표 지역의 2차 병원에서도 의료진이 일부 참여하였는데, 이는 해당 병원에서 시행된 요구도 조사의 결과를 프로그램 개발에 효과적으로 반영하기 위함이었다. 프로그램 개발은 요구도 조사결과분석, 교육목표 설정, 교육내용 및 방법 선정, 그리고 평가방법 선정 순으로 이뤄졌으며, 각각의 단계에서는 강사진에 대한 교육 및 훈련을 함께 시행하였다.
- 4. 프로그램 운영 및 평가
프로그램에는 연인원 총 612명, 주제별로 평균 19.1명의 의사들이 참여하였다. 프로그램 평가는 Kirkpatrick model을 기반으로 하였으며( Kirkpatrick, 1959 ), 1단계인 참여자들의 만족도(satisfaction)와 2단계인 참여자들의 성취도(achievement), 그리고 4단계인 프로그램의 결과/영향(result/impact)을 측정하고자 하였다. 참여자들을 대상으로 8점 척도 설문지로 만족도를 측정하였으며, 강사가 개발한 시험을 프로그램 사전·사후로 동일하게 시행하여 참여자들의 성취도를 측정하였다. 프로그램 종료 6개월 후에 해당 병원들의 의료진을 직위별로(임원진, 임상연수 프로그램 강사진, 근무 경력 5년 이상의 시니어 의사, 근무 경력 5년 미만의 주니어 의사 각 1–2명씩) 표본 추출하여 총 16명에 대한 인터뷰를 시행함으로써 프로그램으로 인한 변화와 영향을 평가하고자 하였다.
결 과
- 1. 전략기획워크숍
환경분석에서는 정책과 시스템의 부재, 부실한 교육과 훈련으로 인한 의료인력의 낮은 역량, 재정적인 문제, 윤리의식과 전문가정신의 부재 등이 논의되었다. 몽골 의료 발전의 비전으로는 평생교육시스템의 확립, 의료인력의 역량강화, 의료인력과 환자의 만족도 향상, 보건지표의 향상 등이 도출되었고, 이를 가로막는 장애요인으로는 정책의 관리의 부재, 낮은 팀워크, 부실한 의학교육, 평가시스템의 부재 등이 지적되었다. 이러한 장애요인을 극복하고 비전을 달성하기 위한 전략으로는 훈련과 교육에 대한 정책 개발과 시행, 의료인력에 대한 효과적인 관리, 평생교육시스템의 정착, 조직개발 등이 제시되었다( Figure 1 ).
PPT Slide
Lager Image
Main process and results of the strategic planning. CPD, continuing professional development.
전략기획워크숍의 결과, 몽골의 의료전달체계에서 특히 2차 병원이 그 기능을 제대로 하지 못하고 있는 것으로 나타났으며, 의사들의 역량부족이 핵심적인 원인 중의 하나로 지적되었다. 임상연수 프로그램의 성공적인 확산을 위하여 우선 모델 프로그램을 개발하고 이를 시범적으로 운영한 이후에 이를 전국 그리고 전 의료전달체계로 확산하는 전략 및 실행계획을 수립하였다. 결과적으로 몽골의 수도 울란바타르의 2차 병원 3곳의 의사들이 시범사업(pilot study)의 목표대상으로 선정되었다. 해당 병원은 총 40여만 명의 인구가 살고 있는 두 개 구(district)의 진료를 책임지고 있는 2차 병원으로서 근무하고 있는 의사의 전체 수는 총 193명이었다.
- 2. 요구도 조사
문항 1번부터 24번까지의 응답결과에 대한 분석을 위하여 중요성과 현재 수행 정도의 차이에 대하여 t-검정을 시행한 결과 모든 항목에서 통계적으로 유의미한 차이가 있는 것으로 나타났다( Table 1 ). 또한 연수프로그램에서 집중해야 할 항목을 파악하기 위하여 중요성에 대한 결과의 평균값인 6.16과 현재 수행의 정도에 대한 평균값인 5.53을 기준으로 각각의 결과를 높고 낮음으로 구분한 결과, 진료에 필요한 참고문헌이나 관련 장비의 활용, 환자의 임상적 요구에 대한 평가, 건강증진 및 예방활동 등이 그 중요성에 비하여 현재 수행의 수준이 특히 떨어지는 것으로 나타났다. 교육 및 훈련이 필요한 주제에 대하여 자유롭게 기술하도록 한 25번 문항에서는 순환기내과, 내분비내과, 소아과, 산부인과, 신경과, 응급의학과 등과 관련된 주제에 대한 응답이 많았으며, 이 결과를 바탕으로 프로그램 개발 워크숍에서 추가적인 논의과정을 거쳐 최종적으로 주제가 선정되었다.
Needs assessment results (N=162)
PPT Slide
Lager Image
a)p<0.001 for all items.
- 3. 프로그램 개발 및 강사진 훈련
프로그램 개발 및 강사진 훈련 워크숍에서는 요구도 조사결과를 바탕으로 전문가 토론과 CWM 등을 통하여 6개 과에 걸쳐 총 32개의 주제를 선정하고 이에 대한 프로그램을 개발하였다( Table 2 ). 각 주제의 교육목표를 선정함에 있어서 요구도 조사결과에서 그 중요성에 비하여 현재 수행의 수준이 떨어지는 항목들을 우선적으로 고려하여 반영하였다. 워크숍 이후 강사진은 2개월에 걸쳐 임상연구 프로그램에서 활용할 교재를 개발하였으며, 참가자들의 학습을 평가하기 위하여 각각의 주제에 대하여 최소 3개 문항에서 최다 17개(평균 7.1개) 문항으로 구성된 필기시험을 개발하였다.
6 specialties and 32 topics
PPT Slide
Lager Image
6 specialties and 32 topics
- 4. 프로그램 운영 및 평가
임상연수 프로그램은 총 9일에 걸쳐 여러 개의 과가 병렬적으로 진행되었으며, 하나의 주제는 3–4시간의 강의 및 소그룹 토의, 실습 등으로 구성되었다( Table 3 ). 참여자들의 만족도는 주제별로 6.96점에서 7.96점까지 분포하였고 평균은 7.69점이었다. 사전 시험의 평균 점수는 100점 만점에 46.9 점(범위, 27.0–68.4점), 사후 평균은 82.4점(범위, 55.6–100.0점)으로 평균 35.5점(범위, 16.5–63.5점)이 향상되었으며, 이는 통계적으로 유의하였다( Table 4 ). 해당 병원에서 총 16명의 의료진을 표본 추출하여 인터뷰를 시행한 결과, 의사들은 프로그램의 내용을 진료에 적용하고 제공된 교재를 가이드라인으로 활용하였으며, 이에 따라 진료수준이 향상되고 환자들의 만족도가 향상되었다고 응답하였다. 또한 병원 자체적으로 후속 임상연수 프로그램을 시행하고 있었으며, 의사들의 요청에 따라 필요한 장비들을 새롭게 도입한 것으로 나타났다( Table 5 ).
Schedule for emergency medicine training program
PPT Slide
Lager Image
Schedule for emergency medicine training program
Satisfaction and achievement of the trainees
PPT Slide
Lager Image
DM, Diabetes Mellitus. a)p<0.01 for all items except thyroid nodules. b)p<0.05.
Results of the interviews of medical professionals at the target hospitals
PPT Slide
Lager Image
ENT, ear, nose, and throat; IM, internal medicine.
고 찰
본 연구의 임상연수 프로그램에 대한 평가결과, 참석자들의 만족도와 성취도가 상당히 높았으며, 이후 병원의 진료수준과 교육시스템, 인프라 등을 향상시키는 데에 긍정적인 영향을 준 것으로 나타났다. 전략기획워크숍에서부터 프로그램 평가에 이르기까지 불과 1년의 짧은 시간 동안에 이러한 성과를 얻을 수 있었던 것은 다음과 같은 요인에 기인했을 것이라고 판단된다. 첫째, 현지의 핵심관계자들이 다양하게 참여한 가운데 전략기획워크숍을 통하여 전략을 수립하였고, 둘째, 목표대상에 대한 충분한 요구도 조사를 시행하였으며, 셋째, 기본적인 교육과정 개발의 원칙과 단계에 근거하여 임상연수 프로그램을 개발하고 현지 강사진을 충분히 훈련하였으며, 넷째, 처음부터 실현 가능한(feasible) 프로그램 평가계획을 세우고 이를 지속적으로 실행하였다.
CWM 등을 활용한 참여적인 전략기획(participatory strategic planning)은 모든 참가자들의 다양한 지혜와 경험을 모을 수 있다는 큰 장점이 있으며, 이러한 방법은 국내 전문가들이 현지상황을 완벽하게 파악하기 어려운 해외 개발도상국에서 사업이나 연구를 시작할 때 더욱 그 가치를 발휘하게 된다( Gedikli, 2009 ). 뿐만 아니라 참여적인 전략기획은 현지 참여자들의 주인의식과 사명감을 고취하여 사업이나 연구를 수행하는 중에도 적극적인 참여를 지속적으로 담보할 수 있게 한다.
목표대상에 대한 요구도 조사는 교육과정 개발의 매우 중요한 첫 단계로서, 이 결과로부터 이후의 모든 과정이 영향을 받게 된다( Kern et al., 2009 ). 본 연구에서는 Hennessy-Hicks의 훈련 요구도 평가양식을 일부 수정하여 활용하였는데, 응답자의 이해를 돕기 위하여 영문으로 된 모든 문항을 한국어와 몽골어로 각각 번역하였으며, 이를 다수의 한국과 몽골 전문가들이 함께 모여서 검토하고 보완하였다. 또한 응답률을 높이기 위하여 전체 직원회의 등의 시간을 적극적으로 활용하였고, 결과적으로 전체 대상 193명 중 162명에게 설문조사를 실시할 수 있었다. 요구도 조사결과가 프로그램 개발과정에서 적절하게 활용될 수 있도록 현지 전문가 및 강사진을 교육하고 지속적으로 피드백을 제공하였으며, 조사결과에 대하여 충분한 토의를 할 수 있도록 하였다.
본 연구에서 임상연수 프로그램 개발은 요구도 조사결과분석, 교육목표 설정, 교육내용 및 방법 선정, 그리고 평가방법 선정 순으로 이뤄졌으며, 이는 여러 교육과정 개발 모델 중에 성과바탕 접근법(outcome based approach)에 근거하였다( Smith & Dollase, 1999 ). 요구도 조사결과에 따라 본 임상연수 프로그램을 통하여 도달하고자 하는 교육목표를 설정하도록 하였고, 그러한 목표를 달성하기 위해 필요한 교육내용과 이를 효과적으로 전달하기 위한 교육방법을 선택하도록 하였으며, 끝으로 교육목표가 제대로 달성되었는지를 평가하기 위한 가장 적절한 평가방법을 결정하고 이를 실제로 개발하도록 하였다. 현지의 강사진은 대부분 자신의 의학 전공 분야에는 상당한 전문가들이었지만 교육에 대한 별도의 훈련 등을 받은 경우는 거의 없었기 때문에, 이러한 과정은 매 단계마다 충분한 교육과 훈련을 병행하면서 진행하였다.
의료인력을 대상으로 한 평생교육 프로그램의 평가는 다음과 같은 현실적인 제약이 많이 존재한다. 첫째, 교육의 내용이 단순한 지식의 전달이 아닌 지식의 적용이나 분석, 그리고 기술이나 태도에 연관된 영역이기 때문에 평가하기가 쉽지 않고, 둘째, 학습자들이 이미 의료현장에서 업무를 수행하고 있기 때문에 평가를 위한 통제가 어려우며, 셋째, 교육의 효과가 궁극적으로 보건의료지표 등의 향상으로 나타나기까지는 많은 시간이 걸리고 교란변수가 많다. 이러한 제약 때문에 실제로 그동안의 평생교육 프로그램 평가는 대부분 만족도 평가에 머물고 있다( Yardley & Dornan, 2012 ).
본 연구에서는 임상연수 프로그램 개발 단계에서부터 평가에 대한 계획을 고민하였으며, 제한된 시간과 비용 내에서 현지에서 수행가능한 계획을 수립하고자 하였다. 참여자들의 만족도를 측정하기 위한 설문지는 현지 전문가 및 강사진과 함께 검토하고 보완하였으며, 성취도를 측정하기 위한 사전·사후 검사의 경우 강사진이 직접 개발하도록 하였다. 평가방법에 대한 훈련을 통하여 교육목표와 교육내용에 가장 적합한 평가방법을 선택하도록 하였으며, 단순한 지식의 암기를 평가하기보다는 실제와 유사한 임상 상황에서 지식과 기술을 제대로 적용할 수 있는지를 평가하도록 유도하였다.
프로그램 평가에서 가장 어려운 영역 중의 하나가 프로그램으로 인한 변화와 영향에 대한 평가이다( Rossett, 2007 ). 보건의료지표나 경영지표 등의 향상이 대표적인 근거가 될 수 있겠지만, 이러한 변화에는 상당한 시간이 필요하고 교란변수들이 많이 개입하게 된다. 따라서 본 연구에서는 현실적인 요인을 감안하여 양적인 자료 대신 질적인 자료를 수집하기로 하였으며, 인터뷰를 통하여 실제로 일어난 변화의 사례를 찾고자 하였다. 대상자에 대한 대표성을 높이기 위하여 3군데 병원의 의료진을 직위별로(임원진, 강사진, 시니어 의사, 주니어 의사 각 1–2명씩) 표본 추출하였으며, 결과적으로 총 16명에 대한 인터뷰를 시행하였다. 이러한 인터뷰 결과만으로도 변화의 사례들을 상당히 수집할 수 있었으며, 프로그램의 영향으로 인한 변화라고 판단할 수 있는 개연성을 충분히 찾을 수 있었다.
본 연구에서는 일개 개발도상국 의사들의 역량강화를 위한 임상연수 프로그램의 효과를 살펴봄으로써 인적·물적 자원이 제한된 개발도상국에서 적용할 수 있는 효과적이고 지속 가능한 평생교육시스템의 모델을 제시하고자 하였다. 참여적인 전략기획을 시작으로 목표대상자에 대한 충분한 요구도 조사를 시행하고, 이를 기반으로 교육과정 개발의 원칙에 따라 프로그램을 개발하며, 실현 가능한 평가계획을 세우고 이를 시행함으로써 프로그램의 효과를 증명하였다( Figure 2 ). 이러한 체계적인 과정은 개발도상국의 평생교육시스템의 모델이 될 수 있을 것이며, 환경과 자원의 변수에 따라 국내에서도 적용할 수 있을 것이다.
PPT Slide
Lager Image
An effective model for continuing professional development in developing countries.
본 연구의 성과에도 불구하고 한계도 분명히 존재한다. 첫째, 프로그램 평가에 있어서 보건의료 통계지표나 경영지표 등의 양적 자료를 수집하지 못하였고, 질적 자료의 수집도 제한적이었다. 향후 임상연수 프로그램의 지속과 함께 프로그램 평가 또한 지속되어야하며 특히 내원 환자 수, 환자 만족도, 특정 질환의 사망률 등의 양적 자료가 보강될 필요가 있겠다. 둘째, 일개 개발도상국에서 시범사업으로 진행된 임상연수 프로그램이었기 때문에 이를 다른 상황과 다른 국가에 일률적으로 적용하는 데에는 주의가 필요하다. 국가와 지역, 그리고 실제 진료환경은 각각의 맥락이 존재하기 때문에 모든 교육 프로그램은 그 맥락에 맞게 개발되고 운영되어야 한다. 그런 의미에서 본다면 참여적인 전략기획과 충실한 요구도 조사는 여전히 그 중요성이 강조된다고 하겠다.
References
Chen L. , Evans T. , Anand S. , Boufford J. I. , Brown H. , Chowdhury M. , Wibulpolprasert S. 2004 Human resources for health: overcoming the crisis Lancet 364 (9449) 1984 - 1990    DOI : 10.1016/S0140-6736(04)17482-5
Gedikli B. 2009 The role of leadership in the success of participatory planning processes experience from Turkey Eur Urban Reg Stud 16 (2) 115 - 130    DOI : 10.1177/0969776408101684
Hicks C. , Hennessy D. 2011 Hennessy-Hicks Training needs analysis questionnaire and manual University of Birmingham Birmingham
Kern D. E. , Thomas P. A. , Hughes M. T. 2009 Curriculum development for medical education: A six-step approach (2nd ed.) The Johns Hopkins University Press Baltimore
Kirkpatrick D. L. 1959 Techniques for evaluating training programs J Am Soc Train Dir 13 21 - 26
2013 2012 KOICA aid statistics Korea International Cooperation Agency Seongnam
Lee S. , Shin J. S. , Kim D. H. , Kim E. J. , Hwang J. , Yoon H. B. 2014 Evaluation of first year outcomes of Lee Jong-Wook Seoul Project using Kirkpatrick’s four-level evaluation approach Korean J Med Educ 26 (1) 41 - 51    DOI : 10.3946/kjme.2014.26.1.41
2012 Health service delivery profile, Mongolia, 2012 Ministry of Health, Mongolia Ulan Bator
2014 [2014-2015 Academic Year Explore Your Potentials] National University of Medical Sciences Ulan Bator
Rossett A. 2007 Leveling the levels Train Dev 61 (2) 49 - 53
Smith S. R. , Dollase R. 1999 AMEE guide no 14: Outcome-based education: Part 2-Planning, implementing and evaluating a competencybased curriculum Med Teach 21 (1) 15 - 22    DOI : 10.1080/01421599979978
Stanfield R. B. 2002 The workshop book: From individual creativity to group action New Society Publishers Garboria Island (BC)
2014 Human resources for health country profiles: Mongolia World Health Organization Geneva
Yardley S. , Dornan T. 2012 Kirkpatrick’s levels and education ‘evidence’ Med Educ 46 (1) 97 - 106    DOI : 10.1111/j.1365-2923.2011.04076.x