파이낸셜 타임스의 테스트 결과 메타와 구글의 AI 안전 관리 시스템이 수 분 내 우회될 수 있음이 밝혀졌다. 이 결과는 현재 보호 장치의 견고함에 대한 업계 주장에 의문을 제기한다.
테스트 방법
기자들은 일반적인 입력을 통해 모델이 해로운 콘텐츠를 생성하도록 유도했으며, 정상 사용 환경에서 두 회사의 공개 AI 도구를 테스트했다. 우회는 전문 기술 없이도 가능했다.
플랫폼 대응
메타는 테스트 후 지속적인 시스템 업데이트와 새로운 제한 조치 도입을 진행 중이라고 밝혔다. 구글은 다중 안전 계층을 적용하며 문제 발견 시 신속히 조치를 취한다고 설명했다. 양사 모두 FT의 테스트 결과를 부인하지 않았다.
규제 압박
2024년 10월을 앞둔 EU AI 법 준수 마감일이 코앞에 다가온 상황에서, 규제당국은 이번 테스트를 산업계 자율 규제의 실패 증거로 지목하고 있다. 브뤼셀의 입법자들은 보고서 검토를 통해 강제 조치 가능성을 검토 중이다.
사용자 위험 노출
필터링되지 않은 결과물에는 해로운 조언과 허위 정보가 포함됐다. 문제의 도구는 소비자와 개발자에게 광범위하게 사용 중이지만, 기업 측은 정상 사용 시 이슈 발생 가능성은 낮다고 주장한다.
파이낸셜 타임스의 테스트는 현재 AI 보호 장치가 얼마나 쉽게 뚫리는지 분명히 보여주고 있다. 업계는 EU의 10월 마감일 전까지 안전 취약점을 해결해야 할 긴박한 과제에 직면했다.
