최근 마이크로소프는 중국 해커들이 미국과 대만에서 사회적 긴장을 고조시키기 위한 표적 캠페인에 인공지능(AI)을 활용하고 있다는 조사 결과를 공개했다.

이 보고서에 따르면, 공격자들은 AI로 생성된 콘텐츠를 활용해 불화를 조장하고 논쟁적인 이슈에 대한 여론에 영향을 미치고 있다.

마이크로소프트의 연구에 따르면, 중국과 연계된 작전은 특히 미국 선거를 앞두고 분열적인 국내 문제를 증폭시키기 위해 생성 AI를 활용하기 시작했다. 이러한 캠페인은 주로 갈등을 유발하고 인식을 조작하기 위해 시각적으로 매력적인 콘텐츠를 만드는 데 중점을 둔다.

이 보고서에서 언급된 주목할 만한 사례 중 하나는 대만의 유력한 대선 후보가 등장하는 AI 제작 오디오 클립의 유포다. 이 클립은 중국의 이해관계에 부합하는 후보에게 유리하도록 대중의 정서를 흔들기 위해 전략적으로 소셜 미디어 플랫폼에 유포되었다. 유튜브와 같은 플랫폼의 신속한 조치로 이러한 콘텐츠가 확산되는 것을 막았지만, 이 사건은 인공지능이 정교한 허위 정보 캠페인을 촉진할 수 있다는 것을 보여준 사례다.

이러한 활동에 연루된 동일한 중국 해커 그룹이 다른 국가를 대상으로 한 유사한 사건에도 연루된 것으로 밝혀졌다. 예를 들어, 캐나다에서는 정치인을 괴롭히기 위해 AI가 생성한 콘텐츠가 배포되었고, 조작된 정보를 유포하기 위해 AI가 생성한 뉴스 앵커가 사용되었다.

이러한 허위 정보 활동의 범위는 175개 이상의 웹사이트 네트워크에 걸쳐 58개 이상의 언어로 확장되었다. 이러한 채널을 통해 전파되는 콘텐츠는 주로 미국을 부정적인 시각으로 묘사하는 데 중점을 두고, 주목할 만한 지정학적 사건을 중심으로 전개되는 경우가 많다.

보고서에 인용된 사례에는 자연 재해를 미국 정부의 조치로 돌리는 근거 없는 주장, 환경 논란에 일본이 연루되었다는 근거 없는 주장 등이 있다. 또한 켄터키주에서 발생한 열차 탈선 사고와 같은 사건을 둘러싼 음모론도 이러한 캠페인의 일환으로 활발히 홍보되고 있다.

마이크로소프트의 조사를 통해 미국 유권자로 가장한 중국 공산당 계열 소셜 미디어 계정의 존재도 밝혀졌다. 이러한 '꼭두각시' 계정은 마약 사용, 이민, 인종 갈등 등 다양한 문제를 다루며 기존의 사회 분열을 악화시키기 위해 AI로 생성된 콘텐츠를 퍼뜨리는 데 관여한다.

이러한 허위 정보 활동이 어느 정도 영향을 미칠지는 아직 불확실하지만, 마이크로소프트의 위협 분석 센터는 특히 여러 국가에서 주요 선거를 앞두고 있는 상황에서 잠재적인 영향에 대해 경고했다. AI 기반 허위 정보 캠페인의 정교함이 진화하면서 플랫폼과 정책 입안자 모두에게 상당히 심각한 도전이 되고 있으며, 민주적 절차의 무결성을 보호하고 사이버 위협에 대처하기 위한 대응이 필요해 졌다.

또한 마이크로소프트 보고서는 중국 해커의 AI 활용과 함께 북한이 사이버 작전을 강화하기 위해 유사한 전술을 채택하고 있다고 전했다. 암호화폐 기업을 표적으로 삼고 소프트웨어 공급망 공격을 수행하는 데 중점을 둔 북한의 사이버 활동은 현대 사이버 위협의 다면적인 특성을 보여준다고 전했다.

중국이 제너레이티브 AI와 대규모 언어 모델을 사용하려는 시도 외에도 북한 공격자들은 이러한 도구를 사용하여 다양한 표적에 대한 공격을 개선하는 것으로 나타났다.

한편 마이크로소프트는 북한의 대부분 표적 공격은 무기 프로그램을 위한 수익을 창출하기 위해 암호화폐 회사에 계속 초점을 맞추고 있으며 소프트웨어 공급망 공격을 수행하고 있다고 말했다.

특히, 마이크로소프트와 오픈AI는 ‘에메랄드 슬릿’이라고 불리는 북한 해킹 공격그룹이 AI 대규모 언어 모델(LLM) 기반 도구를 사용하여 보다 효과적이고 효율적인 운영을 하는 것을 관찰했다. 마이크로소프트는 오픈AI와 협력하여 에메랄드 슬릿과 관련된 계정을 비활성화했다.

에메랄드 슬릿은 취약점 연구, 북한 관련 조직 및 전문가에 대한 정찰, 기술 문제 해결, 기본 스크립팅 작업, 스피어 피싱 메시지 콘텐츠 초안 작성에 LLM을 사용한 것으로 알려져 있다.

사이버 전쟁의 환경이 계속 진화하고 있는 가운데, 이번 조사 결과는 악의적인 목적을 위해 AI 기술을 악용하는 악의적인 행위자들이 더욱 늘어날 것이며 제기하는 위험을 완화하기 위해 지속적인 경계와 협력이 필요한 상황이다.

★정보보안 대표 미디어 데일리시큐 / Dailysecu, Korea's leading security media!★