교수님, 코로나19 때의 수업 중단이 읽기 능력을 떨어뜨렸나요?
문헌 기반 가상 대담입니다. 교육·사회불평등 연구자 바스티안 베트호이저(Bastian A. Betthäuser)와 동료들의 2023년 메타분석을 중심으로 편집부가 대화를 구성했습니다. 실제 인터뷰나 감수, 연구자의 직접 발언이 아닙니다. OECD 결과와 가상 사례는 별도로 구별합니다.
첫 질문 — 학교가 문을 닫았던 시기의 성적 변화는 누구의 이야기일까요?
제5회에서 같은 글을 종이와 화면으로 읽었을 때 평균 결과가 달라질 수 있다는 연구를 살펴봤어요. 그런데 코로나19 때에는 수업이 온라인으로 바뀌기도 하고 등교가 중단되기도 했잖아요. 그 시기 읽기 능력이 떨어졌다면 화면 때문이라고 할 수 있지 않을까요?
그러려면 먼저 두 가지 질문을 나눠야 해요. “그 기간에 학생들의 학습 진전이 얼마나 달라졌는가”와 “그 가운데 수업 중단, 화면 읽기, 가정환경 중 무엇이 얼마만큼 원인이었는가”예요. 첫째를 확인했다고 둘째의 원인별 몫을 곧바로 계산할 수는 없어요.
그러면 실제로 무엇이 확인됐나요?
제가 설명의 중심에 놓을 자료는 2023년 《네이처 인간 행동》(Nature Human Behaviour)에 실린 42개 연구, 15개국의 체계적 문헌 검토와 메타분석이에요. 연구진은 코로나19 시기 학생들의 학습 진행을 다룬 실증연구를 찾고, 서로 다른 평가 결과를 비교 가능한 표준화 효과크기로 바꿔 종합했어요.
15개국의 연구를 모았다는 말이군요. 어떤 학생의 어떤 과목을 살펴봤나요?
여러 나라의 학령기 학생을 대상으로 한 연구이고, 수학과 읽기를 함께 포함해요. 국가·시기·교육 여건의 구성은 균등하지 않아요. 연구자가 무엇을 측정했는지부터 정확하게 읽어야 해요.
42개 연구를 합쳤더니 실제로 얼마나 달라졌나요?
여기서 학습 결손은 비교 기준에 비추어 기대한 만큼 학습이 진전되지 못한 정도를 뜻해요. 이미 배운 내용을 모두 잊었다는 뜻은 아니에요. 연구진이 보고한 전체 학습 결손의 통합 효과크기는 코언의 d = −0.14, 95% 신뢰구간 −0.17 ~ −0.10이었습니다. 효과가 처음 시기에 나타나 이후에도 지속되는 경향이 관찰되었습니다. 특히 사회경제적으로 불리한 환경의 학생에게 더 큰 결손이 나타났고, 종합하면 읽기보다 수학에서 결손이 더 크게 나타났습니다.
숫자에 마이너스가 있으니 성적이 14% 감소했다는 뜻인가요?
14% 감소가 아니에요. 여러 연구의 점수 차이를 표준편차 단위로 맞춘 수치예요. 표준편차는 점수가 평균 주변에 얼마나 흩어져 있는지를 나타내요. 가령 가상의 읽기 검사에서 두 집단의 평균이 70점과 67.2점이고 두 집단에 공통으로 쓸 표준편차가 20점이라면, 평균 차이 −2.8점을 20점으로 나눈 값이 −0.14예요. 이 예의 원점수 차이는 2.8점이지요. 실제 논문은 여러 검사의 결과를 종합했어요. 연구 논문은 이것을 통상 1년의 학습 진전에 견주어 설명하기도 하지만, 그 환산도 평균적인 학습 증가율을 가정한 비교예요. 모든 학생이 똑같이 몇 달을 잃었다는 실제 출석 기록이나 개인별 예측값이 아니에요.
읽기에서도 결손이 관찰됐지만, 수학 쪽에서 더 크게 나타났다는 것이군요.
맞아요. 연구는 과목 사이의 크기 차이를 비교했고, 읽기에서 아무 변화가 없었다고 하지 않았어요. 과목마다 학교 수업에 의존하는 정도나 가정에서 할 수 있는 활동이 달라 이런 차이가 생겼을 가능성은 생각해 볼 수 있어요. 이것은 편집부가 제시한 검토 가설이며, 지금 확인한 공개 초록만으로 그 작동 원인을 확정할 수는 없어요.
세 종류의 연구 결과는 각각 무엇을 보여 주나요?
생각그림 · 연구 결과의 범위
아래에서 자료를 선택하고 해석 가능한 범위를 확인하세요.
| 카드 | 원자료가 직접 보고한 것 | 이 카드만으로 알 수 없는 것 |
|---|---|---|
| A. 메타분석의 d = −0.14 | 여러 나라의 학습 진전 관련 연구를 합친 평균 표준화 차이 | 개별 학생의 시험 점수가 14점 또는 14% 떨어졌는지 |
| B. 읽기보다 수학에서 큰 결손 | 연구에 포함된 과목별 통합 추정의 차이 | 모든 국가·학년에서 똑같은 과목 차이가 있었는지 |
| C. 불리한 사회경제적 환경의 학생에게 더 큰 결손 | 연구에 포함된 집단별 차이의 경향 | 어느 한 가정의 사정이나 개별 학생의 결과 |
A의 숫자를 “한국 15세 청소년의 읽기 점수가 14점 떨어졌다”라는 설명으로 바꾸면 잘못이군요.
두 번 바꾸었기 때문이에요. 여러 나라의 읽기·수학을 합친 학습 결손을 한국의 읽기 점수로 바꾸었고, 표준화 효과크기를 평가의 점수 단위로 바꾼 셈이에요.
PISA 2022의 읽기 점수 하락과 방금 연구는 무엇이 다른가요?
그렇다면 한국뿐 아니라 여러 나라의 15세 학생을 비교하는 PISA 조사도 보죠. 2022년 점수가 떨어졌다고 들었어요.
OECD가 2023년 12월 5일 발표한 PISA 2022 설명에 따르면, 조사에 참여한 곳은 81개 국가·경제권, 약 70만 명의 15세 학생이었어요. OECD 평균 읽기 성적은 2018년보다 약 10점 낮아졌고, 수학은 약 15점 하락했어요. 이 점수 차이는 조금 전의 표준화 효과크기 d와 단위가 달라요.
그럼 2022년 성적 하락의 원인은 코로나19라고 말할 수 있나요?
OECD는 팬데믹이 영향을 미쳤을 가능성을 중요하게 다루지만, 성적 하락은 팬데믹만으로 모두 설명할 수 없다고 명시했어요. 일부 학업 성취 추세는 이미 2018년 이전부터 하락하고 있었기 때문이에요. 감염병 이전에 나타난 흐름과 이후의 추가 변화를 나누어 살펴야 해요.
“코로나19 이후 점수가 낮아졌다”와 “코로나19 때문에 그 점수만큼 낮아졌다”는 다르네요.
정확히 그 지점이 중요해요. 변화가 나타난 시기와 변화를 만든 원인을 같게 놓으면, 이미 진행되던 변화까지 전부 하나의 사건 탓으로 돌리게 돼요.
팬데믹 이전의 추세를 왜 함께 살펴야 하나요?
생각그림 · 관찰 기간과 원인 설명
편집부 가상 사례이며 실제 국가·PISA 자료가 아닙니다.
기간을 누르면 해당 구간이 강조되고 점수 차이가 표시돼요. 점수 차이를 알 수 있어도, 그 차이를 만든 원인까지 이 그래프에서 알 수는 없어요.
2016년과 2018년에 이미 하락한 가상 상황에서, 2018년과 2022년의 차이를 전부 코로나 때문이라고 쓰면 그 이전 추세를 놓치는군요.
맞아요. 그리고 기간을 나누었다는 이유만으로 이전 추세가 이후에도 같은 속도로 이어졌으리라고 확정할 수는 없어요. 그 역시 따로 확인해야 하는 가설입니다.
수업이 끊긴 시간만 늘어나면 학습 결손을 설명할 수 있을까요?
연구가 보여 준 사회경제적 차이는 어디에서 생겼을까요? 원격 수업을 하려면 기기나 인터넷이 있어야 한다는 점이 먼저 떠올라요.
기기와 연결 상태는 중요한 검토 대상이에요. 다만 42개 연구를 종합한 결과로 모든 차이를 그 둘 때문이라고 단정할 수는 없어요. 학습 공간, 주변에서 도움을 받을 기회, 보호자의 근무 조건, 학교의 지원 방식, 건강과 심리적 어려움 등 여러 조건을 살펴야 해요. 각각이 얼마나 기여했는지 확인하려면 그 조건을 측정하고 비교한 연구가 필요합니다.
학교 문이 같은 기간 닫혔어도 학생마다 배울 수 있었던 여건은 달랐을 수 있겠네요.
맞아요. 또 메타분석에 포함된 연구는 고소득 국가에 치우쳐 있었고, 저소득 국가의 학습 추이를 파악할 근거는 부족하다고 저자들이 밝혔어요. 세계 모든 학교의 동일한 결과라고 확대하면 안 돼요.
그래서 읽기 능력 저하를 조사할 때에는 ‘팬데믹 때문에 문해력이 모두 나빠졌다’보다 “어느 연령의 학생이, 어떤 평가에서, 언제부터, 어떤 조건에서 달라졌는가?”를 묻는 편이 정확하군요.
네. 지금까지의 자료가 확인한 평균적인 변화를 인정하고, 원인을 더 좁혀 설명하려면 무엇이 필요한지 남겨 두어야 해요. 비교 가능한 이전·이후 자료, 학생의 여건, 학교의 수업 방식, 동일한 역량을 측정하는지 여부가 그 출발점이지요.
수업 중단의 영향을 더 정확히 알려면 무엇을 비교해야 하나요?
그렇다면 학교가 닫힌 날을 세는 것만으로는 읽기 능력에 미친 영향을 알기 어렵겠네요. 무엇을 더 비교해야 하나요?
등교 중단 전에 읽기 성취가 어떻게 변하고 있었는지, 중단 뒤에는 어떤 수업과 지원을 받았는지 함께 살펴야 해요. 가령 두 지역의 등교 중단 기간이 비슷해도 한 지역에서는 교사와의 연락이 계속되고 다른 지역에서는 학습 자료를 받기 어려웠다면, 두 지역을 같은 조건으로 볼 수 없어요. 이것은 비교에 필요한 조건을 설명한 가상 사례이지, 특정 나라에서 확인한 결과는 아니에요.
지원이 잘 된 지역의 성적이 덜 떨어졌다면 지원의 효과라고 바로 결론내릴 수 있나요?
그 지역은 감염 상황이나 학생의 가정 여건도 달랐을 수 있어요. 비교 집단의 이전 추세와 여건을 확인하고, 관찰한 차이를 어떤 가정 아래 지원의 효과로 해석하는지 밝혀야 해요. 반대로 이런 구별이 어렵다는 이유로 등교 중단의 영향 가능성을 없다고 단정해서도 안 돼요. 평균적인 결손이 관찰됐다는 결과와 각 원인의 기여를 분리해 확인해야 해요.
오늘 자료에서 확인한 변화와 아직 남은 질문은 무엇인가요?
처음에는 화면으로 수업한 일을 떠올렸는데, 이제는 두 자료에서 실제로 확인한 변화부터 말해 볼 수 있겠어요. 어디까지 설명하면 정확할까요?
메타분석은 코로나19 시기에 학령기 학생의 학습 진전이 둔화했고, 그 정도가 과목과 사회경제적 여건에 따라 달랐다는 근거를 모았어요. PISA는 서로 다른 시점의 15세 학생 집단에서 OECD 평균 성취가 낮아졌음을 보여 줘요. 그러나 두 결과만으로 한국 학생의 읽기 능력 변화에서 등교 중단이나 화면 읽기가 어느 정도 영향을 주었는지 계산할 수는 없어요.
그렇다면 어느 부분을 더 조사해야 하나요?
같은 읽기 능력을 비교할 수 있는 평가 자료에 학생의 학습 기회와 학교의 지원 자료를 연결해야 해요. 팬데믹 이전의 변화와 이후의 변화를 나누고, 가정의 소득 자체와 실제로 도움을 받은 경험도 구별해야 해요. 오늘 확인한 집단 차이는 그런 조사에서 누구의 어떤 여건을 더 자세히 살필지 알려 줘요.
어떤 자료를 어디까지 확인했나요?
1. Bastian A. Betthäuser, Anders M. Bach-Mortensen & Per Engzell (2023), “A systematic review and meta-analysis of the evidence on learning during the COVID-19 pandemic” / 「코로나19 시기 학습에 관한 근거의 체계적 문헌 검토와 메타분석」, Nature Human Behaviour 7, 375–385, https://doi.org/10.1038/s41562-022-01506-4 — 공개 초록과 공개 그림 설명을 대조했습니다. 유료 본문의 방법·결과·논의 전체 및 42개 원자료를 재분석한 것은 아닙니다. 42개 연구·15개국, d·신뢰구간, 과목별·집단별 차이와 제한의 해설에 사용.
2. OECD (2023-12-05), “Decline in educational performance only partly attributable to the COVID-19 pandemic” / 「학업 성취 하락의 일부만 코로나19 팬데믹으로 설명 가능」, https://www.oecd.org/en/about/news/press-releases/2023/12/decline-in-educational-performance-only-partly-attributable-to-the-covid-19-pandemic.html — PISA 2022의 조사 규모·2018~2022 OECD 평균 읽기·수학 점수 변화·해석 범위를 확인.
3. OECD, “Student performance (PISA)” / 「PISA 학생 학업 성취」, https://www.oecd.org/en/topics/student-performance-pisa.html — 조사 대상의 연령과 평가 영역 및 팬데믹 전 추세에 관한 공식 설명 확인.
4. 교수와 사회자 대사, 가상 점수 그래프(100·96·89·91), 가상 비교 사례와 생각그림은 편집부의 교육적 재구성이다. 연구자의 직접 인용이나 실제 한국 학생의 성적이라고 표시하지 않는다.