2024-07-19 12:10 (금)
“안전한 생성형 AI 활용, AI 위험 관리 프레임워크 개발 필요해”
상태바
“안전한 생성형 AI 활용, AI 위험 관리 프레임워크 개발 필요해”
  • 길민권 기자
  • 승인 2024.05.24 15:01
이 기사를 공유합니다

각국 정보기관들은 다양한 업무에서 생성형 인공지능(AI)을 활용하고 있다. 인간과 유사한 텍스트, 이미지 등 콘텐츠를 생성할 수 있는 이 혁신적인 기술은 정보 수집, 분석, 활용 방식을 혁신할 가능성을 가지고 있다. 그러나 이러한 기관들이 생성형 AI의 능력을 인정하면서도, 동시에 사이버 보안 위협, 윤리적 딜레마, 규제 문제를 해결해야 하는 복잡한 상황에 직면하고 있다고 보안전문가들은 말하고 있다.

■정보작전에서의 생성형 AI의 가능성

정보작전에서 생성형 AI는 이미 인상적인 결과를 내고 있다. 예를 들어, 실리콘 밸리의 한 회사는 AI를 사용해 불법 중국 펜타닐 밀매 네트워크를 적발했고, 인간이 분석했을 때보다 두 배 많은 기업과 400% 더 많은 개인을 적발하는 데 성공했다. 즉 방대한 데이터를 종합하여 실행 가능한 정보를 제공하는 AI의 잠재력을 활용한 것이다.

또한, AI의 예측 능력은 매우 유용한 것으로 입증되었다. 선도적인 AI 기업인 롬버스 파워는 생성형 모델을 사용하여 러시아의 우크라이나 전면 침공을 80%의 확률로 몇 달 전에 예측한 바 있다. 이러한 예측 도구는 미국 기관에 북한의 미사일 발사와 중국의 우주 작전 임박을 경고하는 데에도 활용되고 있다.

■사이버 보안 위협의 증가

그럼에도 불구하고, 생성형 AI의 도입은 사이버 보안 위협을 증가시키고 있다는 견해도 만만치 않다. 국가안보국(NSA)은 AI 시스템이 사이버 공격의 주요 표적이 될 가능성이 있다고 경고했다. 악의적인 행위자들은 AI를 이용해 민감한 데이터를 훔치거나 결과를 조작하거나, 심지어 AI 모델을 활용해 그들의 사이버 공격 전략을 강화할 수도 있다.

또 생성형 AI가 잘못된 정보를 생성할 수 있다는 것이다. CIA의 CTO인 난드 멀찬다니는 '미친 술 취한 친구'에 비유하며, 생성형 AI가 생성하는 정보의 신뢰성을 보장하기 위해 엄격한 감독이 필요하다고 강조했다.

또한 정보수집에서 생성형 AI를 사용하는 것은 특히 프라이버시와 데이터 보안 측면에서 중요한 윤리적 및 법적 문제를 야기할 수 있다는 것이다. 애스펜 연구소의 글로벌 사이버 보안 그룹은 AI의 잠재력을 활용하면서도 위험을 완화하기 위한 균형 잡힌 규제가 필요하다고 강조했다. 그들은 데이터 프라이버시, 윤리적 사용, AI가 적에 의해 무기화될 가능성 등을 다루는 포괄적인 거버넌스 프레임워크가 필요하다고 권고하고 있다.

한편 전 세계적으로 AI 사용을 효과적으로 규제하려는 노력이 진행 중이다. 미국에서는 국가표준기술연구소(NIST)가 AI 관련 위험을 관리하기 위한 지침을 제공하는 ‘AI 위험 관리 프레임워크(AI RMF)’를 개발했다. 또 유럽 연합의 AI 법안과 국제 ISO 42001 표준 또한 강력한 규제 프레임워크를 마련하기 위해 노력하고 있다. 이러한 움직임은 AI 기술이 책임감 있고 안전하게 배포되도록 하는 것을 목표로 하고 있다.

이런 상황에서도, 각국 정보 기관들은 AI를 통합하기 위해 전략적 움직임을 보이고 있다. CIA가 운영하는 생성형 AI 시스템인 오시리스(Osiris)는 데이터를 종합하고 더 깊은 통찰력을 제공해 분석가를 돕지만, 인간의 판단을 대체하지는 않는다. 이 시스템은 여러 AI 모델을 통합해, 인간의 역량을 강화하는 가상 비서로서의 AI의 잠재력을 보여준다.

AI 전문가들은 “생성형 AI가 정보 작전에서 완전한 능력을 발휘하려면, 기관들은 혁신과 보안 사이의 균형을 맞춰야 한다. 여기에는 AI 시스템을 사이버 위협으로부터 보호하기 위한 강력한 안전장치를 구현하고, AI 결정 과정의 투명성을 보장하는 것이 중요하다. AI의 강점을 활용하면서도 그 취약점을 해결하여 책임감 있게 국가 안보를 강화하는 것이 중요하다”고 강조하고 있다.

★정보보안 대표 미디어 데일리시큐 / Dailysecu, Korea's leading security media!★

■ 보안 사건사고 제보 하기

▷ 이메일 : mkgil@dailysecu.com

▷ 제보 내용 : 보안 관련 어떤 내용이든 제보를 기다립니다!

▷ 광고문의 : jywoo@dailysecu.com

★정보보안 대표 미디어 데일리시큐 / Dailysecu, Korea's leading security media!★