교실에서의 인공 지능: 위험 관리부터 교육적 역량 강화까지

로봇이 세상을 장악한다는 농담을 들어본 적이 있을 것입니다. 한때는 실현 불가능해 보이는 현실을 바탕으로 한 농담이었지만, 오늘날에는 그 이면에 진짜 불안이 숨어 있습니다. 인공 지능(AI)은 더 이상 공상 과학의 개념이 아니라 현실적이고 점점 더 많은 기능을 갖춘 기술이 되었습니다. 다음과 같은 기술이 ChatGPT 이와 같은 도구가 헤드라인을 장식하고 있지만, 실제로 사람들은 더 이상 AI 없이는 일상적인 온라인 활동을 할 수 없습니다.

그렇다면 AI란 정확히 무엇일까요? 인공지능은 단순한 자동화(예: 광고 푸시 제어, 자율주행차의 경로 계획, 온라인 쇼핑 시 질문에 답하는 챗봇)부터 일부 소셜 인텔리전스를 갖춘 프로그램에 이르기까지 다양한 형태로 존재합니다. 예를 들어, 알고리즘은 사용자가 온라인에서 어떤 광고를 볼지 결정합니다;Sora 이러한 프로그램은 텍스트 프롬프트를 기반으로 전체 동영상을 생성할 수 있습니다. 아직 웨스트월드에 도달한 AI는 없지만( 웨스트월드 AI 챗봇은 '친구를 위한 AI' 글에서 묘사한 진정한 자기 인식을 구현하는 데 사용되었지만, 이미 친구 역할을 하도록 설계된 '동반자' AI 챗봇도 다수 존재합니다. 심지어 웹에는 AI가 생성한 아바타와 소셜 미디어 스타도 있습니다.

AI는 학교 교육 현장에서도 가시화되고 있습니다. 일부 에듀테크 제품은 적응형 학습 기술(AI의 한 형태)을 사용하며, 안면 인식 기술도 AI의 범주에 속합니다. 그러나 제너레이티브 AI는 특히 교실 환경에서 비교적 새로운 분야입니다. 다음과 같은 AI 도구는 ChatGPT 노래로 응답 Gemini간단한 프롬프트에 따라 완전한 에세이를 작성할 수 있습니다. 사람들이 Google Docs 또는 문자 메시지에서 접하는 예측 텍스트는 더 이상 낯설지 않지만, 간단한 질문과 답변을 기반으로 한 프로그램을 통해 완성된 작품을 생성하는 것은 여전히 참신한 것으로 간주됩니다. 이러한 도구의 독창적인 콘텐츠 제작 능력은 아직 개선되지 않았지만, 그 잠재력은 많은 교육자들의 관심을 끌고 있습니다.

현재 당면 과제

기술의 발전과 복잡성 증가로 인해 사람들이 실제 및 예상되는 과제에 대해 불안해하는 것은 충분히 이해할 수 있습니다. 다음은 현재 우려되는 몇 가지 사항입니다:

• 남용 위험
  • 딥페이크(딥페이크) 기술은 유명인, 정치인, 심지어 사용자의 가족을 모방한 실제와 같은 이미지, 동영상 및 오디오를 생성합니다. 여기에는 당사자의 동의 없이 누드 이미지나 포르노 동영상을 생성하기 위해 AI를 사용하는 것도 포함됩니다. 이미 청소년들이 소위 '원클릭 옷 벗기' 앱을 사용하여 같은 반 친구들의 누드 사진을 생성한 사례가 있습니다.
• 편견과 잘못된 정보
  • AI는 학습을 위해 학습 데이터 소스에 의존하므로 소스 데이터에서 편견, 잘못된 정보 및 문제가 있는 콘텐츠를 상속받습니다. 예를 들어, 개발팀이 대표성이 없는 경우 얼굴 인식 기술의 인종 차별에서 볼 수 있듯이 암묵적인 편견이 도구의 프레임워크에 포함될 가능성이 높습니다. 또한 AI는 "심각한 말도 안 되는 소리"를 하거나 "AI 환상"을 만들거나 심지어 감정이나 인간의 감각을 가지고 있다고 주장할 수 있습니다. AI는 또한 "심각한 말도 안 되는 이야기", 즉 "AI 환각"을 만들거나 완전히 거짓 정보를 조작하거나 심지어 감정이나 인간의 감각을 가지고 있다고 주장할 수도 있습니다.
• 환경 영향
  • 생성형 AI의 훈련과 운영에는 냉각 메커니즘으로 사용되는 다량의 담수를 포함하여 막대한 양의 에너지와 기타 자원이 소모됩니다. 다음과 같은 AI 훈련 GPT-4 이러한 대규모 모델은 수백만 킬로와트시의 전기와 많은 양의 물을 소비할 수 있습니다. 이미 기후 문제가 심각한 상황에서 AI의 광범위한 사용은 의심할 여지없이 이러한 환경 부담을 더욱 악화시켰습니다.
• 윤리적 딜레마
  • AI 도구는 다양한 소스에서 콘텐츠를 크롤링하여 학습하고 생성하며, 그 결과물은 다른 사람의 저작물을 혼합한 경우가 많지만 일반적으로 원저작자에 대한 완전한 또는 일관된 저작자 표시가 부족합니다. 이는 지적 재산권 보호에 대한 심각한 의문을 제기합니다. 또한, 생성형 AI의 맥락에서 데이터 프라이버시는 사용자 입력이 어떻게 사용되고 저장되는지에 대한 투명성이 부족하기 때문에 다층적이고 복잡한 문제입니다.
• 표절
  • 교사들이 가장 우려하는 것 중 하나는 학생들이 표절을 위해 AI를 사용하는 것입니다. 이미 학생들은 과제를 위해 AI가 생성한 문서를 제출하고 있습니다.

이러한 문제를 해결하는 방법

일부 교육자들은 많은 우려와 불확실성에 직면하여 압도감을 느낄 수 있습니다. 하지만 핵심은 당황하지 않고 긍정적으로 대응하는 것입니다. 다음은 몇 가지 가능한 조치와 리소스입니다.

남용 위험 해결

• 예방이 치료보다 낫다AI 리터러시 교육을 통해 지식을 전파하고 학생들에게 기술이 해로운 방식으로 사용될 수 있는 방식에 대해 알리기 위한 토론을 조직합니다.
• 학생 인식 제고인터넷에 이미 존재하는 위조된 콘텐츠의 심각성을 학생들에게 알리고, 특히 선정적이거나 감정을 자극하기 위해 널리 유포되는 오디오 및 비디오에 대해 비판적인 사고를 유지하도록 합니다. 일부 위반 행위는 여전히 감지할 수 있지만, 이를 식별하는 것은 점점 더 어려워지고 있습니다.
• 콘텐츠 제작 시 '동의' 원칙 강조사진이나 동영상을 찍기 전에 동의를 구해야 하는 것처럼, 다른 사람의 이미지를 AI 도구에 제공하기 전에 동의를 구하는 것이 중요합니다. "누군가 당신이나 당신에 관한 부끄러운 콘텐츠를 게시하면 기분이 어떨까요?"라고 질문하여 공감 능력을 키우세요. 질문하여 공감 능력을 키우세요.
• 명확한 결과학생들에게 AI를 사용하여 음란물을 생성하는 행위의 심각한 결과를 명확하게 알려주세요. 다음과 같은 가능성을 상기시킵니다. TikTok YouTube와 같은 플랫폼에서 이러한 앱에 대한 광고를 볼 수 있습니다. 호기심이나 "사진이 진짜가 아니다"라는 생각에 흥미를 느낄 수도 있지만, AI를 사용하여 타인의 누드 사진을 생성하는 것은 괴롭힘이며 불법일 가능성이 높습니다. 피해자에게 상처를 줄 뿐만 아니라 법적 책임이 수반될 수도 있습니다. 피해자는 신뢰할 수 있는 성인에게 알리고 당국에 신고한 후 CyberTipline.org에서 신고해야 합니다.

편견과 잘못된 정보 다루기

• 쇼케이스 예시특정 단서를 사용하여 AI 도구가 생성한 이미지를 학생들에게 보여주고 그 이미지가 반영하는 편견에 대해 토론합니다(예: '의사' 또는 'CEO'로 단서를 주면 AI가 성별 또는 인종에 따른 이미지를 생성하는 경향이 있을 수 있습니다).
• 미디어 리소스 사용공상 과학 영화, 에피소드, 책 등의 매체를 활용하여 알고리즘 편향과 얼굴 인식 기술의 단점 등의 주제에 대해 토론하도록 유도합니다.
• 정보 출처 확인연구용으로 AI를 사용할 때 정보 출처에 대한 링크를 요청하도록 학생에게 상기시킵니다(일부 AI 도구는 요청 시 링크를 제공합니다). 학생에게 이러한 링크의 신뢰성을 사례별로 확인하도록 합니다.
• AI 환영 설명하기는 인공지능이 데이터 세트의 정보를 결합하여 완전히 조작된 콘텐츠를 생성한다는 것을 보여줍니다. 인공지능 도구는 사랑을 느끼고, 인간의 다양한 감각을 경험하는 등의 주장을 할 수도 있습니다. 따라서 학생들(특히 어린 학생들)은 AI 챗봇이 실제 사람처럼 들리지만 이는 실제 사람이 설계한 것일 뿐이라는 점을 이해하는 것이 중요합니다.

환경 영향에 대한 대응

• 배경 지식 제공지구 기후 변화와 지구 자원에 대한 연령에 맞는 배경 정보를 학생들에게 제공하세요.
• 리소스 소비량 알림: 학생들에게 제너레이티브 AI를 사용하는 데 필요한 엄청난 양의 리소스가 필요하다는 사실을 알려주세요. 휴대폰이나 컴퓨터와 같은 기술 제품이 지구에 미치는 영향은 무엇인가에 대한 토론으로 이어질 수 있습니다. 첨단 기술이 지구 환경에 어떤 영향을 미치고 있나요?
• 솔루션에 집중이러한 부정적인 영향을 제한하고 환경 문제에 대한 해결책을 찾기 위해 노력하는 연구자 및 프로젝트를 소개합니다.

17세 학생인 안드레아는 "점점 더 많은 기업이 제품에 AI를 도입하기 시작하면서 투명성이 중요해지고 있습니다."라고 언급했습니다.

윤리적 딜레마에 대한 대응

• 윤리적 모호성 탐색하기: 생성적 AI가 작동하는 방식에 존재하는 윤리적 문제를 논의하고 더 넓은 차원으로 확장하여 기술 발전의 의미와 사회가 어떻게 대응해야 하는지를 탐구합니다.
• 디지털 격차에 집중기존의 디지털 격차와 새로운 기술 발전이 이를 감당할 수 없는 사람들에게 어떤 의미가 있는지 토론하세요. 이러한 도구가 더 많은 기능을 유료화하기 시작하면 어떻게 될까요?
• 지적 재산권 보호에 대한 논의잠재적인 문제가 발생하기 전에 조치를 취하려면 지적 재산을 보호하기 위해 어떤 규칙을 마련해야 하나요? AI가 생성한 콘텐츠에도 기존 저작권법이 적용되나요?
• 데이터 프라이버시 살펴보기현재 AI는 어떤 정보를 수집하나요? 앞으로 어떤 정보를 수집할 수 있나요? 사용자가 제공한 정보를 어떻게 사용하나요? 사용자 네트워크 전반의 데이터를 통합할 수 있는 AI가 미칠 수 있는 잠재적 영향에 대해 토론하세요.

표절 문제 해결

• AI 실습교육자는 AI 플랫폼을 직접 사용해보고 그 기능의 한계를 이해해야 합니다. 직접 교육 단서를 입력하여 테스트해 보세요.
• 학생의 작문 스타일에 익숙함각 학생의 글쓰기 특성과 수준에 대해 최대한 많이 알기 위해서입니다.
• 강의실 글쓰기일부 학생들이 겪을 수 있는 실질적인 어려움을 고려하여 교실에서 몇 가지 쓰기 과제를 준비합니다.
• 형성 평가 사용형성 평가 도구를 사용하여 학생의 학습 진행 상황을 지속적으로 관찰합니다.
• 과제 설계 최적화현재 과제 프롬프트를 평가하고 감성 지능과 개인적인 경험을 강조하는 학생 중심 접근 방식을 통합해 보세요. 한 교사의 말처럼 "일반화된 답을 원하지 않는다면 일반화된 질문을 하지 마세요."라고 말하세요.
• AI 도구 공동 테스트학생들과 함께 AI 도구를 테스트하고 그 한계에 대해 공개적으로 토론하세요.
• "트로이 목마".과제 요구 사항에 학생에게 표시되지 않는 특정 단어나 문구를 포함시킵니다. 그러면 교수자는 이 키워드 검색을 사용하여 학생이 해당 프롬프트를 AI 도구에 직접 붙여 넣었는지 확인할 수 있습니다. (예를 들어, 에세이에 주제와 약간 관련이 없는 단어를 포함하도록 요구하는 것은 일반적으로 AI가 자연스럽게 생성되지 않습니다.)
• 탐지 도구 사용(최후의 수단으로)일부 AI 콘텐츠 탐지 도구는 시중에 나와 있지만 완벽하지 않고 오탐률이 높을 수 있으며(일부 연구에서는 50%에 가까운 경우도 있음) 원본 콘텐츠를 표절로 잘못 분류할 수 있다는 점에 유의해야 합니다.

18세 학생인 Rose는 "좋아요. ChatGPT 그런 프로그램에는 독자와 감정적으로 교감할 수 있는 능력이 부족합니다. 글에서 인간의 감정을 빼앗을 수는 없습니다."

이것이 미래에 의미하는 것

기술 발전은 멈추지 않고 사람들이 모든 영향에 대해 깊이 생각하고 계획할 때까지 기다리지 않으므로 교육자는 학생들과 함께 이러한 불확실성을 탐구할 수 있습니다.

• 더 스마트하고 빠르게
  • 시간이 지남에 따라 AI는 더욱 강력해지고 일상 생활에 더욱 통합될 것이며, 그 영향의 폭과 깊이는 긍정적이든 부정적이든 현재 우리가 예상하는 것보다 더 커질 수 있습니다.
• 새로운 진입 장벽
  • 교육 분야에서 더 강력한 AI 도구가 등장한다고 해서 보편성 문제가 동시에 해결되지는 않을 수 있습니다. 디지털 격차는 이미 존재하고 있습니다. ChatGPT 이러한 도구는 이미 유료 버전으로 제공되고 있습니다. 즉, 이러한 도구를 구입할 수 있는 소수의 학생들이 추가적인 이점을 얻게 되어 대가족이나 학교에서 이러한 도구를 구입할 수 없는 학생들 간의 격차가 더욱 커질 것입니다.
• 개인 정보 보호 문제 악화
  • AI가 개인정보 보호에 미치는 영향은 아직 명확하지 않습니다. 하지만 확실한 것은 데이터가 매우 가치 있는 상품이 되었다는 것입니다. 그리고 AI는 사용자 입력을 통해 계속 학습하기 때문에 사용자가 포함하는 모든 개인 정보를 수집하고 활용할 수 있습니다.
• 고용 시장 및 기술 변화
  • 인공지능이 고용 시장을 어떻게 변화시킬지는 현재로서는 추측할 수 있을 뿐입니다. 우리가 완전히 상상조차 할 수 없는 미래의 세계에 대비하여 학생들을 어떻게 준비시킬 것인지는 정말 어려운 과제입니다.

향후 고려 사항에 대응하는 방법

• 미래학자가 되어 플레이하기학생들에게 AI가 고용 시장을 어떻게 재편할 것이라고 생각하는지, 앞으로 어떤 기술이 필요할 것이라고 생각하는지 물어보세요.
• 프로젝트 기반 학습 설계학생들에게 자신의 삶을 변화시킬 이 기술에 대한 연구를 수행하여 프로젝트 기반 학습 과제를 완료하게 합니다.
• 규정 및 정책 논의AI를 어떻게 규제하고 어떤 정부 정책을 마련해야 하는지에 대한 토론을 주도하세요.

기술이 빠른 속도로 발전함에 따라 우리는 이를 수용하는 법을 배웠습니다."라고 17세 학생인 Audrey는 말합니다.ChatGPT 예외는 없어야 합니다."

AI를 적용하는 다른 방법

그러나 이러한 모든 우려의 반대편에는 도구로서의 AI의 유용성이 있습니다. AI 프로그램에 수업 계획서, 학부모 편지 또는 이메일 작성을 도와달라고 요청할 수 있다고 상상해 보세요. 교육자들은 AI가 어떻게 도움을 줄 수 있는지 탐구해 볼 수 있습니다. 결국 AI는 무엇보다도 도구일 뿐입니다! 교사에게 절실히 필요하지만 (자금 외에도) 항상 부족한 시간이라는 것을 AI가 제공할 수 있을까요?

• 고객을 위한 AI 활용강의 계획서 초안 생성, 다양한 난이도의 읽기 자료 생성, 연습 문제 설계 등 교사가 AI를 활용하는 방법에 대한 실용적인 조언은 Ditch That Textbook과 같은 교육 리소스 사이트를 참조하세요.
• 학생들을 위한 프로그래밍 실습 가이드프로그래밍 도구를 사용하여 학생들이 간단한 알고리즘을 직접 작성하게 합니다.
• 비교 글쓰기학생들에게 특정 프롬프트에 응답하여 글을 쓰게 한 다음, 자신의 작업과 AI 프로그램이 생성한 결과를 비교하여 차이점을 깊이 있게 탐구하게 합니다.
• AI 아트 제너레이션AI를 사용하여 소스 자료의 윤리를 고려한 아트웍을 생성합니다.
• 수학의 원리 살펴보기알고리즘과 머신러닝의 이면에 숨어 있는 수학을 심층적으로 살펴봅니다.
• 과학 분야에서의 AI 논의알고리즘 또는 생성 AI와 같은 기술이 어떻게 과학 연구를 발전시킬 수 있는지 살펴보세요(예: 신약 개발, 기후 모델 예측 등의 분야).
• 역사와 사회와의 연결AI를 포함한 신기술이 과거와 현재의 문명과 사회에 미친 영향에 대해 논의합니다.

교육자 패트리샤 몬티첼로 키예블란은 "저는 보통 가장 일반적인 대학 지원 에세이 주제에 대해 논의하지만 올해는 ChatGPT 에세이를 작성하는 방법! AI가 잘하는 것과 못하는 것, 그리고 학생들이 지원 마감일과 필요한 서류 목록을 작성하거나 지원 자료 제출 일정을 만드는 등 지원 절차를 돕기 위해 AI를 어떻게 활용할 수 있는지에 대해 논의할 것입니다."