2024-02-25 00:25 (일)
생성형 AI가 어떠한 방식으로 해커를 양성하고 지원하는가
상태바
생성형 AI가 어떠한 방식으로 해커를 양성하고 지원하는가
  • 길민권 기자
  • 승인 2023.08.24 10:26
이 기사를 공유합니다

트렌드마이크로, 악성 AI 대응 위한 고객 보호 세부 사항 발표

트렌드마이크로(지사장 김진광)가 인공지능(AI) 기술 고도화로 인해 심화되는 보안 위협으로부터 고객들을 보호하기 위한 자사의 지속적인 노력에 관한 세부 사항을 발표했다.

존 클레이(Jon Clay) 트렌드마이크로 위협 인텔리전스 부문 부사장은 “전 세계를 강타하고 있는 챗GPT(ChatGPT)와 같은 AI 도구들은 이미 기회주의적인 위협 주체들에 의해 기업 보안의 허점을 파고드는 데 악용되고 있다. 트렌드마이크로는 자체적인 AI 활용을 통해 강화한 ASRM(Attack Surface Risk Management, 공격 표면 위험 관리)과 XDR(eXtended Detection and Response, 확장된 탐지 및 대응), 그리고 혁신적인 연구 결과를 토대로 이러한 위협을 완화하는 데 앞장서고 있다”고 말했다.

트렌드마이크로는 2023년 상반기 동안 글로벌 고객들을 위해 약 730억 건의 위협을 차단했으며, 이는 전년 대비 약 16% 증가한 수치이다. 이러한 결과는 트렌드마이크로의 고도화된 위협 탐지 능력을 입증하는 동시에 오늘날 사이버 보안 위협 환경의 방대한 규모를 보여준다.

트렌드마이크로는 최근 연구를 통해 사이버 보안 위협 주체들이 어떻게 ‘딥페이크(Deepfake)’로 알려진 AI 음성 복제 기술과 생성형 AI를 결합해 ‘가상 납치’ 공격에 활용하는지 규명했다. 챗GPT는 대량의 데이터 세트를 필터링하고 융합해 피해자를 선정하는 데 이용되며, 딥페이크 기술은 범죄자들이 피해자들을 속이고 자녀가 납치되었다고 믿게끔 만들어 몸값을 요구하는 데 사용된다.

이미 오픈소스 생성형 AI 플랫폼에 ‘웜GPT(WormGPT)’와 ‘프로드GPT(FraudGPT)’ 같은 악성 AI 도구들이 구축돼 사이버 범죄의 확산을 촉진하고 해커들의 생산성과 공격 성공률을 높이는 데 이용되고 있다.

트렌드마이크로의 또 다른 연구는 생성형 AI가 어떠한 방식으로 해커를 양성하고 지원하는 데 악용될 수 있는지 아래와 같이 제시하고 있다.

▲악성 다형성(polymorphic) 코드 개발

▲탐지 가능성이 더 낮은 멀웨어(malware) 생성

▲BEC(Business Email Compromise, 비즈니스 이메일 침해)를 목적으로 한 매우 설득력 있는 다국어 피싱 메시지, 웹페이지, 스캠 메일 작성

▲해킹 도구 제작

▲취약점 탐색

▲코딩 및 해킹 방법 학습 지원

▲사기에 악용될 수 있는 카드 데이터 탐색

이와 같은 기능들은 악의적인 개발자에 의해 지속적으로 고도화되고 있으며, 구독 기반 요금제로 제공돼 진입 장벽을 더욱 낮춘다. 이와 같은 악성 AI의 개발과 배포는 이로 인한 실제 피해가 발생하기 전에 사이버 공격 위협을 조기에 탐지하고 대응해야 한다는 조직 보안팀에 대한 압박을 가중하고 있다.

트렌드마이크로의 통합 사이버 보안 플랫폼 ‘트렌드 비전 원(Trend Vision One)’은 자체 생성형 AI를 ‘컴패니언(Companion)’ 가상 어시스턴트 형태로 활용해 SOC(Security Operation Center, 보안 운영 센터) 분석가들이 AI 기반 공격의 속도와 다형성에 대응할 수 있도록 지원한다. 트렌드 비전 원은 다음과 같은 기능을 제공한다.

-경보에 대한 사용자의 원활한 이해를 돕는 워크벤치(workbench) 기능은 위협 조사에 소요되는 시간을 줄여 경보당 평균 3분을 절감하고 일주일에 수 시간을 아낄 수 있게 한다.

-커맨드 라인(command-line) 기능은 복잡한 스크립트를 간소화해 분석가의 시간을 절약한다. 사용자는 수동 검색이나 전문 도구 사용 시보다 최대 40분의 생산성 향상을 얻을 수 있다.

-검색 쿼리 생성기(search query generator)는 사용자가 필드 이름과 연산자, 값을 찾는 데 적합한 검색 쿼리를 작성하도록 도와 최대 1시간을 절약할 수 있게 한다.

트렌드마이크로는 지난 2005년부터 BEC 공격을 탐지하도록 설계된 도구 등 AI 기반 솔루션 개발에 앞장서 왔다. 클라우드 앱 보안 플랫폼에 포함된 ‘라이팅 스타일 DNA(Writing Style DNA)’ 기능은 사용자의 이전 메시지에서 ‘통상적인’ 이메일 작문 스타일을 학습해 이메일이 이 기준에서 벗어날 때 플래그를 표시한다. 이러한 방식을 통해 2022년 한 해 동안 13만 건 이상의 BEC 공격을 차단한 바 있다.


◆하반기 최대 정보보호 컨퍼런스 PASCON 2023 개최-보안교육7시간 이수 가능

○ 주최: 데일리시큐

○ 후원: 과학기술정보통신부, 개인정보보호위원회, 한국인터넷진흥원, 한국정보보호산업협회, 한국화웨이

○ 참석대상: 공공기관·공기업·정부산하기관·금융기관·의료·교육·일반기업 정보보호 담당자, 개인정보보호 담당자, IT담당자 등 1,000여 명 참석

(※보안실무자가 아니면 참석금지)

○ 일시: 2023년 9월 5일 화요일(오전9시~오후5시30분)

○ 장소: 더케이호텔서울 2층 가야금홀 전관

○ 솔루션전시회: 국내·외 최신 개인정보보호 및 정보보호 솔루션

○ 참가기업 : △한국화웨이 △좋을 △블랑코코리아 △클라우드네트웍스 △굿모닝아이텍 △노르마 △오픈텍스트 △넥스원소프트 △모니터랩 △옥타코 △트렌드마이크로 △지란지교에스앤씨 △파수 △롤텍 △아이티원 △이지시큐 △엠클라우독 △퓨쳐시스템 △씨디네트웍스 △센티널테크놀로지 △다크트레이스(Darktrace) △지란지교데이터 △에프원시큐리티 △에스에스알 △인스피언 △스콥정보통신 △한국전자인증 △디지서트 △엘세븐시큐리티 △트리니티소프트 △스냅태그 △KISIA 

○ 보안교육인증: 공무원 및 기업 정보보호/개인정보보호 교육 및 자격증 유지 교육시간 7시간 수료증 발급

○ 참석문의: 데일리시큐 길민권 기자/ mkgil@dailysecu.com

○ 사전등록클릭

○ 공공, 기업 보안책임자/실무자가 아니면 참석이 금지됩니다. 

★정보보안 대표 미디어 데일리시큐 / Dailysecu, Korea's leading security media!★

■ 보안 사건사고 제보 하기

▷ 이메일 : mkgil@dailysecu.com

▷ 제보 내용 : 보안 관련 어떤 내용이든 제보를 기다립니다!

▷ 광고문의 : jywoo@dailysecu.com

★정보보안 대표 미디어 데일리시큐 / Dailysecu, Korea's leading security media!★