펜타곤이 군사용 AI 챗봇 그록(Grok)과 챗GPT(ChatGPT)를 도입해 300만 명의 인력에게 제공하고 있다. 이번 조치는 작전 효율성을 높이기 위한 것이지만, 동시에 데이터 보안과 군대 내 AI의 윤리적 경계에 대한 새로운 의문을 제기한다.
전군에 걸친 배포
그 규모는 과장하기 어렵다. 군인, 해군, 공군, 민간인 등 300만 명이 챗봇에 접근할 수 있게 된다. 이는 많은 국가의 인구보다 큰 규모의 인력이다. 펜타곤은 이 도구들이 정확히 어떤 작업을 처리할지 밝히지 않았지만, 일상적인 업무를 간소화할 잠재력은 분명하다. 메모 작성, 보고서 요약, 질문 응답 등이 챗봇이 처리할 수 있는 작업의 예다.
이번 배포는 시범 프로그램이나 소규모 테스트가 아니다. 전면적인 통합이며, 지금 진행 중이다. 펜타곤은 상용 AI를 인력에게 제공함으로써 군대를 더 빠르고 민첩하게 만들 수 있다고 확신하고 있다.
효율성 논거
이번 조치의 근거는 명확하다. 군대는 서류 작업에 의존하며, 서류 작업은 시간이 걸린다. 그록과 챗GPT 같은 AI 도구는 몇 초 만에 정보를 처리할 수 있어, 인력이 더 복잡한 작업에 집중할 수 있게 해준다. 펜타곤은 이 통합이 작전 효율성을 향상시킬 수 있다고 밝혔으며, 이것이 핵심 주장이다.
하지만 효율성만이 고려 사항은 아니다. 이 도구들은 상용 제품으로, 군대의 독특한 환경을 위해 만들어진 것이 아니다. 따라서 펜타곤은 자체 기준을 훼손하지 않으면서 이 도구들을 사용하는 방법을 찾아야 한다.
보안 및 윤리적 우려
우려는 현실적이다. 군사 데이터는 민감하며, 유출 시 일반 기업의 정보 유출과는 비교할 수 없을 정도로 심각한 결과를 초래할 수 있다. 챗봇은 인터넷에 연결되어 있어 데이터가 어디로 가는지에 대한 의문이 제기된다. 군인이 기밀 정보를 챗봇에 입력하면, 누가 그것을 볼 수 있을까? 펜타곤은 이 질문에 답하지 않았다.
또한 윤리적 측면이 있다. 군대에서의 AI는 단순히 효율성만의 문제가 아니다. 의사 결정의 문제다. 챗봇이 표적 명령 초안을 작성하거나 정보를 분석하는 데 도움을 준다면, 그 결과에 대한 책임은 누구에게 있을까? 이 도구들은 도덕적 판단을 내리도록 설계되지 않았으며, 군대는 그 출력에 얼마나 비중을 둘지 결정해야 한다.
이번 배포에는 이러한 문제에 대한 지침서가 포함되어 있지 않다. 펜타곤은 전진하고 있지만, 의문은 사라지지 않는다. 군인이 보고서를 작성하는 데 도움을 줄 수 있는 동일한 도구가 허위 정보를 생성하거나 데이터를 조작하는 데 사용될 수도 있다. 전투 지역에서 챗봇의 잘못된 답변은 치명적인 결과를 초래할 수 있다.
펜타곤은 이제 효율성 향상과 보안 및 윤리적 위험 사이의 균형을 맞추는 과제에 직면해 있다. 그 균형을 어떻게 처리하느냐에 따라 이번 배포가 성공이 될지, 부담이 될지가 결정될 것이다.
