수원학교폭력변호사 AI가 쓴 생기부, 교사 검토 땐 문제없다?

페이지 정보

작성자 이길중 작성일25-10-12 06:55 조회1회 댓글0건

본문

수원학교폭력변호사 정부가 지난달 공개한 인공지능(AI)기본법에 생활기록부 작성 등 교육 분야의 ‘학생평가’를 파급효과가 큰 고영향 AI로 분류하면서도, 교사의 최종 검토만 있으면 고영향 AI 규제를 피할 수 있게 가이드라인을 마련했다. AI 활용 추세를 막을 수는 없지만, 고영향 AI 규제를 쉽게 피해갈 수 있게 만들 경우 학생평가에 대한 교사의 주도권과 책임을 약화시킬 수 있다는 우려도 제기된다.
2일 취재를 종합하면 지난달 초 공개돼 의견수렴 중인 AI기본법 하위법령집에는 교육분야 고영향 인공지능의 세부 예시가 담겼다. AI기본법은 보건의료 등 10개 영역에 고영향 인공지능을 규정했는데 교육의 학생평가가 여기에 포함됐다. 가이드라인은 학생평가를 고영향 AI로 분류한 이유로 ‘학생평가 결과가 입시·취업 등에 활용되면 학생의 학습권 등 기본권에 위험을 초래할 우려가 높다’는 점을 꼽았다.
내년 1월 시행될 AI기본법에서 정의한 고영향 AI는 ‘사람의 생명, 신체의 안전과 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 AI 시스템’을 뜻한다.
AI기본법 가이드라인은 기초학력 진단평가, 생기부 작성, 지필·수행평가에 활용되는 AI만 고영향 AI 여부를 따져본다고 규정했다. 또 유아 학생평가나 초등학생의 생기부에 활용되는 AI 프로그램은 고영향 AI에서 제외한다고도 했다. 가이드라인은 “유아의 기본권에 중대한 영향을 미친다고 보기 어렵다” “초등생 생기부는 활용이 제한적”이라는 이유를 들었다.
가이드라인에서 쟁점이 되는 부분은 단서 규정이다. 가이드라인은 초중고 기초학력 진단검사에서 AI가 문제 출제, 평가기준 수립, 평가 시행과 분석을 했더라도 반드시 고영향 AI는 아니라고 설명한다. 교사가 ‘수정·보완하는 등 최종 검토’를 한다면 고영향 AI로 보지 않는다. 또 AI를 활용해 지필·수행평가 출제와 평가를 하거나 생기부를 쓰더라도 교사가 최종 검토를 한다면 고영향 AI가 아니라고 규정한다.
일각에선 가이드라인 초안을 그대로 적용할 경우 학생평가용 AI가 교사의 최종검토 여지만 일부 남겨두면 사실상 고영향AI 규제를 피할 수 있는 것 아니냐고 우려한다. 정현선 경인교대 교수는 “교사가 수정보완한다는 것이 구체적으로 무엇을 뜻하는지 규정이 상세하지 않다”며 “데이터의 편향성을 어떻게 검증할 것인지도 모호하다”고 했다.
AI기본법이 산업계 기반으로 만들어졌기 때문에 교육 분야까지 포괄하기는 어렵다는 분석도 있다. 지난달 책 <인공지능 교육과 법>을 펴낸 이영호 LKB평산 변호사는 “AI기본법은 산업계에 초점을 맞춰 제정돼 교육 영역까지 규율하기엔 한계가 뚜렷하다”며 “교육기본법이 규정한 교육의 권리·의무에 따라 학생평가를 다룬 AI는 모두 고영향 AI으로 보는 것이 맞다”고 말했다.
교육부는 “교사가 개입하지 않는 학생평가 AI가 고영향 AI”이라면서 평가 권한과 책임은 앞으로도 교사에게 있다는 입장을 밝혔다. 교육부 관계자는 “생기부 작성시 챗GPT와 같은 범용 AI를 활용할 때에도 윤문 정도만 하도록 가이드라인을 이미 내린 상황”이라며 “AI기본법은 사업자 규제를 다루고 있어서, 교육부는 법령 시행 후 쟁점이 될 수 있는 교사의 책무성과 의무 등을 검토 중”이라고 말했다. 한국지능정보사회진흥원 관계자도 “학생평가시 AI가 보조도구 역할에 충실해야 하는데 그렇지 못하면 고영향 AI로 보는 것”이라며 “평가의 최종 권한과 책임은 교사에게 있다는 점은 달라지지 않는다는 의미가 있다”고 말했다.
이재명 대통령은 2일 인공지능(AI) 투자를 위해 금산분리 완화를 검토하겠다고 밝힌 것과 관련해 “독점의 폐해가 없는 매우 특수한 영역에 한정해서 우리 사회의 논의가 필요하다는 사회적 제안이었다”고 밝혔다.
이 대통령은 이날 오후 용산 대통령실에서 열린 수석보좌관회의에서 “고정된 도그마를 벗어나 사회적 논의의 필요성을 제안한 만큼 충분한 논의가 뒤따르기를 바란다”며 이같이 말했다고 강유정 대통령실 대변인은 밝혔다.
강 대변인은 “매우 특수한 영역에 한정해 금산분리 예외 조항을 말할 수 있다(는 의미)”라며 “강조한 부분은 ‘매우 제한된 영역’이란 표현이었다. 이 부분에서 충분히 논의해야 하고 실용주의적 관점에서 접근해야 한다고 말씀하셨다”고 전했다.
앞서 이 대통령은 전날 “독점의 폐해가 나타나지 않는 범위에서, 또 다른 영역으로 규제 완화가 번지지 않도록 하는 안전장치가 마련된 범위 내에서 현행 규제를 재검토할 수 있다”며 AI 산업 투자에 한해 금산분리 완화를 검토하겠다고 밝혔다.
김용범 대통령실 정책실장은 전날 브리핑핑에서 “모든 나라들이 반도체를 전략 산업으로 지원하고 있다. 전략 산업은 통상적으로 우리가 알아 왔던 그냥 산업 정책이 아니라, 국가의 명운을 건 산업이라는 뜻”이라며 “새로운 시대 환경에 맞춰 관련 제도도 충분히 재검토를 해야 하는 것”이라고 설명했다.