캐나다 정부가 16세 미만 아동의 소셜 미디어 사용을 금지하고 AI 챗봇에 대한 새로운 규칙을 도입하는 법안을 발의했다. 이 법안이 통과되면 캐나다 국경을 넘어 기술 기업들이 젊은 사용자를 위한 플랫폼 설계 방식과 대화형 AI 배치 방식을 재고하도록 압박할 수 있다.
법안의 주요 내용
제안된 법안은 소셜 미디어 접근과 인공지능이라는 두 가지 영역을 겨냥한다. 소셜 미디어의 경우 16세 연령 제한은 절대적이다. 부모 동의나 교육적 사용에 대한 예외는 없다. 기업은 사용자의 연령을 확인해야 하며, 이는 수년간 플랫폼을 곤란하게 만든 요구사항이다. AI 측면에서는 챗봇을 규제하며, 사용자가 봇과 상호작용 중임을 투명하게 공개하고 미성년자로부터 데이터를 수집하는 방식을 제한할 가능성이 높다.
누가 이 규칙을 집행할지는 아직 미지수다. 법안은 아직 지정되지 않은 규제 기관에 감독 권한을 부여하지만, 세부 사항은 부족하다. 비판론자들은 특히 연령 확인(기술적 및 프라이버시 측면에서 까다로운 분야)과 관련된 집행 메커니즘을 둘러싼 격렬한 논쟁을 예상한다.
오타와가 지금 움직인 이유
캐나다 의원들은 플로리다주의 14세 미만 금지부터 영국의 온라인 안전법까지 청소년 소셜 미디어 사용을 억제하려는 글로벌 노력을 지켜봐 왔지만, 이 법안은 아동 안전과 AI 거버넌스를 결합하여 더 나아간다. 시점은 뒤따르기보다는 선도하려는 의지를 시사한다. 유럽과 미국의 규제 기관은 여전히 챗봇 규제 방법을 고민하고 있으며, 캐나다는 먼저 규칙을 문서화하고 있다.
법안 내용에는 특정 사건이 언급되지 않았다. 정부는 소셜 미디어와 AI 시스템이 사용자를 끌어들이도록 설계되었으며 아동이 특히 취약하다는 광범위한 우려에 대응하는 것으로 보인다.
메타, 틱톡, 구글 및 소규모 업체들에게 준수는 큰 변화를 의미한다. 연령 확인 시스템은 비용이 많이 들고 완벽하지 않다. 대부분의 플랫폼은 현재 사용자가 스스로 나이를 입력하는 방식에 의존하며, 이는 쉽게 속일 수 있다. 새로운 법은 정부 발급 신분증 요청이나 얼굴 연령 추정 등 신뢰할 수 있는 방법을 강제할 것이다.
챗봇 운영자(OpenAI의 ChatGPT나 Snap의 My AI 등)는 모델이 미성년자에게 유해한 콘텐츠를 노출하거나 불필요한 데이터를 수집하지 않도록 해야 한다. 이는 16세 미만 사용자의 특정 대화를 제한하거나 기능을 완전히 비활성화하는 것을 의미할 수 있다.
준수하지 않는 기업은 높은 벌금에 직면할 수 있지만, 공개 요약에는 정확한 처벌이 명시되지 않았다. 법안은 곧 전체 내용이 작성될 예정이며, 업계 로비스트들은 이미 주장을 다듬고 있다.
글로벌 도미노 효과
캐나다는 소셜 미디어 기업에게 큰 시장(약 3800만 명)은 아니지만, 규제 움직임은 종종 해외로 파급된다. 법안이 의회 토론을 통과하면 다른 국가들이 이를 템플릿으로 삼을 수 있다. 유럽연합은 이미 미성년자를 대상으로 하는 플랫폼에 더 엄격한 규칙을 부과하는 디지털 서비스법을 갖추고 있지만, 캐나다의 접근 방식은 의무 세트보다는 완전한 금지라는 더 직접적인 방식이다.
이러한 단순함은 장점이자 약점이 될 수 있다. 금지는 이해하기 쉽지만, 프라이버시를 침해하지 않고 집행하기는 어렵다. 프라이버시 감시 기관들은 연령 확인이 어떻게 작동할지, 확인 과정에서 수집된 데이터가 어떻게 처리될지에 대해 우려를 제기할 것이다.
이 법안은 AI 개발자에게도 신호를 보낸다. 소셜 미디어와 동시에 챗봇을 규제하는 것은 오타와가 이 둘을 연결된 것으로 본다는 것을 시사한다. 둘 다 젊은 마음을 조종할 수 있는 참여 엔진이다. 이러한 프레이밍은 다른 관할권이 자체 AI 법을 초안할 때 영향을 미칠 수 있다.
법안은 이제 캐나다 하원의 위원회 검토에 들어간다. 수정안이 나올 가능성이 높다. 야당은 아직 확고한 입장을 정하지 않아 일정은 불확실하다. 기술 기업들은 증언을 제출할 기회를 갖게 된다. 프라이버시 옹호자들은 데이터 수집에 대한 더 엄격한 제한을 요구할 것이다. 그리고 부모들은 법이 실제로 자녀를 더 안전하게 만드는지, 아니면 단지 규제되지 않은 인터넷 공간으로 밀어내는지 지켜볼 것이다.
몇 달 내에 표결이 이루어질 수 있지만, 진정한 시험은 집행이다. 캐나다가 금지를 집행할 수 없다면 법은 상징적 제스처가 된다. 집행할 수 있다면, 나머지 세계가 이를 복사하려 줄을 설 것이다.
