Generative AI Data Rubric (생성형 AI 데이터 루브릭)

개요

생성형 AI가 에듀테크 제품에 빠르게 들어오고 있다. 그런데 기관 입장에서는 어떤 도구가 AI를 쓰는지, 학생의 입력이 어디로 가는지, 거부할 수 있는지를 알기 어렵다. 개인정보처리방침에 AI에 관한 언급이 아예 없는 경우도 많다. 정보가 없으면 기관은 도입을 막거나 그냥 받아들이거나 둘 중 하나를 택하게 된다.

TrustEd Apps Generative AI Data Rubric은 교육 분야에서 생성형 AI 데이터를 윤리적이고 생산적이며 안전하게 사용하기 위한 토대를 제공하려고 만들어졌다. 고지 정책과 투명성을 다루며, AI를 쓴다는 선언, 옵트인 및 옵트아웃, 데이터 출처의 품질, 편향 통제, 데이터 소유권을 살펴보도록 이끈다. 공급사를 위한 자기평가 도구이며 상호운용성 명세가 아니다.

현재 이 루브릭은 프라이버시 절 하나만 담고 있다. 데이터 품질, 유효성, 소유권과 생성형 AI 데이터 관행의 그 밖의 사안을 다루기 위해 적어도 한 개 절이 더 추가될 예정이다. 원문 스스로 이를 「도입 단계의 프로젝트」로 규정한다.

평가 대상과 범위

심사 대상은 공급사가 제품에서 생성형 AI를 어떻게 쓰고 그 사실을 어떻게 문서화했는가다. AI 모델의 성능이나 정확도를 시험하는 것이 아니라, 개인정보처리방침, 이용약관, AI 정책 같은 문서와 제품의 고지 및 선택권 설계를 본다.

현재 범위는 생성형 AI 데이터 프라이버시 한 영역이다. 원문은 향후 확장 계획을 명시한다 — 데이터 출처, 데이터 유효성과 편향, 지식재산권, 사용자 프롬프트 데이터를 비롯해 AI 사용 시의 그 밖의 데이터 사안까지 평가하는 더 포괄적인 도구를 개발하기 위해 기획 단계에 있다.

이 루브릭의 쓰임새는 세 가지로 제시된다. AI 데이터 관행을 평가하고 논의하는 공통 틀, 공급사가 자기 조직의 AI 사용을 자기평가해 관행을 성숙시키는 틀, 그리고 기존 프라이버시 및 보안 문서 안에 AI 데이터 사용 정보를 포함해야 한다는 근거다. 마지막 쓰임새는 AI 정책이 아직 없는 조직이 정책 수립 논의를 시작하는 출발점으로도 쓰인다.

평가 항목

프라이버시 절이 기대하는 바는 다섯 가지다.

• AI 사용 알림: 생성형 AI가 사용될 때 사용자에게 알리는가
• 선택권: 옵트인 또는 옵트아웃 선택지를 제공하는가
• 정책 반영: 개인정보처리방침 안에 AI 사용에 관한 정보가 담겨 있는가
• 데이터 출처: AI가 사용하는 데이터의 출처를 식별하는가
• 내부 및 제3자 구분: AI가 내부 도구인지 제3자 도구인지 고지하며, 그에 따른 데이터 프라이버시 및 소유권 사안을 다루는가

이 다섯 가지는 모두 「밝히고 있는가」를 묻는 형태다. 특정 기술이나 모델을 요구하지 않고 투명성과 사용자 선택권을 기준으로 삼는다는 점이 이 루브릭의 성격을 보여 준다. 상세 문항은 프라이버시 절 문서가 정본이며, 별도로 발행된 AI-Generated Content Best Practices 문서와 AI Preparedness Checklist가 함께 참조된다.

판정 방식과 결과 공개

작성은 TrustEd Apps Directory의 제품 페이지에서 이루어진다. 「App Vetting Reviews」 섹션에서 AI Rubric 항목을 추가하고, 제품 정보를 입력한 뒤 자기평가 문항에 응답해 저장한다. 자기평가는 한 번에 전부 작성해 완료해야 한다. 각 문항의 비고란에 근거 자료로 메모와 링크를 함께 넣을 것이 강력히 권장된다.

제출된 자기평가는 1EdTech이 검토한 뒤 공개한다. 공개 범위는 두 단계다. 일반 대중은 TrustEd Apps Directory에서 어떤 제품이 자기평가를 마쳤다는 사실까지 볼 수 있고, 상세한 결과는 1EdTech 회원만 열람할 수 있다. 회원은 Directory와 TrustEd Apps Management Suite(TAMS)에서 보고서를 확인한다.

갱신 시점은 다른 루브릭과 조금 다르다. 연 1회 권장에 더해, 제품에서 AI 사용 방식을 변경하거나 AI 데이터 정책 및 계약을 변경할 때마다 다시 자기평가하도록 안내한다. AI 관련 변경이 잦은 제품의 특성을 반영한 것이다.

수행 주체

공급사의 자기평가다. 1EdTech이 심사해 발급하는 인증이 아니다.

원문은 이 도구를 「self assessment tool for suppliers」로 규정하며, 절차 안내도 「누가·왜·어떻게 자기평가를 제출하는가」로 구성되어 있다. 따라서 정확한 표현은 **「자기평가를 완료하고 공개했다」**이며, 「인증을 취득했다」 및 「certified」 같은 표현은 성립하지 않는다.

1EdTech이 개입하는 지점은 제출된 자기평가를 검토한 뒤 공개하는 단계다. 이는 게시 전 확인이며, 1EdTech이 제품을 독립적으로 심사해 판정을 내리는 절차와는 다르다.

작성 자격은 1EdTech Contributing, Affiliate, TrustEd Apps Alliance 회원 조직에 한정된다. 비회원은 작성할 수 없으며, 제품마다 각각 제출한다.

같은 블록의 다섯 항목 가운데 1EdTech이 직접 심사해 인증을 발급하는 것은 Data Privacy Rubric 하나뿐이다. 이 루브릭을 포함한 나머지 셋은 자기평가다.

관련 표준 및 루브릭

• Data Privacy Rubric: 개인정보처리방침과 이용약관을 심사한다. 이 루브릭이 「AI 사용 사실을 개인정보처리방침에 담으라」고 요구하는 지점에서 두 도구가 직접 이어진다. 다만 그쪽은 1EdTech이 심사해 인증을 발급한다는 점에서 수행 주체가 다르다.
• Security Practices Rubric: 보안 실무 관행을 다루는 자기평가 도구다. 작성 절차와 공개 방식이 같다.
• Accessibility Rubric: 접근성 성숙도를 다루는 자기평가 도구다. 같은 TrustEd Apps 프로그램의 구성 요소다.
• Security Framework: 1EdTech 스펙이 공통으로 따르는 기술 계층의 보안 패턴이다. AI 기능이 외부 서비스와 통신할 때의 인증 및 인가가 그 위에 놓인다.
• Caliper: 학습 활동 데이터를 이벤트로 기록한다. AI 기능이 학습 데이터를 다룰 때 그 데이터가 어디에서 오는지를 확인하는 층이다.

국내 활용 시나리오

국내 대학이나 교육청이 AI 기능이 포함된 도구를 도입할 때, AI 사용 여부와 데이터 처리 방식을 공급사에 개별 질의하는 경우가 많다. 이 루브릭의 다섯 항목을 조달 질의서의 공통 항목으로 삼으면 기관마다 다른 질문을 던지는 대신 같은 기준으로 비교할 수 있다.

국내 에듀테크 기업이 제품에 생성형 AI를 도입하면서 AI 정책 문서를 아직 갖추지 못한 경우, 이 루브릭의 항목을 정책 수립의 출발점으로 쓸 수 있다. 원문도 이 쓰임새를 명시한다.

원고와 홍보 문구를 쓸 때 주의할 점이 있다. 이 루브릭의 결과는 자기평가 공개이지 인증이 아니다. 「AI 인증 취득」처럼 표기하면 사실과 어긋난다. 또한 이 루브릭은 현재 프라이버시 절 하나만 다루므로, 작성 사실이 AI 전반의 안전성이나 품질을 보증하지 않는다. 국내 개인정보 보호 법령 적합성은 별도 검토가 필요하다.

원문 자료

• 게이트웨이: https://www.1edtech.org/standards/ai-rubric
• Generative AI Data Rubric 프라이버시 절: https://www.1edtech.org/sites/default/files/media/docs/2023/Data-Privacy_AI-Rubric.pdf
• AI-Generated Content Best Practices: https://www.imsglobal.org/resource/AI-Generated_Content_Best_Practices/v1p0
• AI Preparedness Checklist: https://www.1edtech.org/resource/ai-checklist
• TrustEd Apps 프로그램: https://www.1edtech.org/program/trustedapps
• TrustEd Apps Pledge: https://www.1edtech.org/trustedapps/pledge

이 요약은 1EdTech의 공개 자료를 바탕으로 1EdTech Korea가 작성했습니다. 기술적 세부사항은 원문 스펙을 기준으로 합니다.