샌즈랩, 사회 문제로 대두된 딥페이크 등 AI 악용 범죄 대응 기술 개발 나서

샌즈랩(대표 김기홍)이 인공지능(AI) 기술의 악용을 막기 위한 플랫폼 개발에 박차를 가하고 있다. 최근 사회적 문제로 대두된 딥페이크, 피싱, 가짜 뉴스 생성 등 AI를 활용한 신종 디지털 범죄에 대응하는 기술 개발이 핵심이다.

샌즈랩은 지난 4월, 과학기술정보통신부와 정보통신기획평가원이 발주한 100억 원 규모의 '정보보호 핵심 원천기술 개발사업'을 수주했다. 이 프로젝트는 AI 역기능 억제를 위한 사이버 보안 특화 RAG 기반 sLLM 모델 개발과 국민 체감형 플랫폼 구축을 목표로 한다. 샌즈랩은 이 사업을 통해 엘지유플러스, 포티투마루, 로그프레소, 한국과학기술원(KAIST)와 함께 공동 연구개발을 진행 중이다.

특히, 샌즈랩은 '생성형 AI 역기능 탐지 대응 기술'이 적용된 국민 체감형 플랫폼을 개발하고 있다. 이 플랫폼은 피싱 공격, 가짜 뉴스 생성, 악성코드 대량 생산, 음성 합성, 딥페이크 이미지/영상 제작과 같은 AI 악용 범죄를 탐지하고 대응할 수 있는 기술을 탑재할 예정이다.

샌즈랩은 딥페이크 탐지 기술에 집중하고 있다. 엘지유플러스와 공동 연구 중인 이 기술은 심층 학습 기반 알고리즘을 통해 더욱 정밀하게 딥페이크를 탐지할 수 있도록 개발되고 있다. 생성적 적대 신경망(GAN) 기술에 대항하기 위해 적대적 학습 방법을 적용하고, 멀티 모달 데이터 분석을 통해 탐지 정확도를 높일 계획이다.

또한, 실시간 비디오 스트리밍이나 소셜 미디어 플랫폼에서의 즉각적인 딥페이크 탐지를 위해 모델의 경량화 및 최적화 기법을 적용할 예정이다. 이를 통해 탐지 정확도는 유지하거나 향상시키면서도 복잡도는 최소화할 수 있을 것으로 기대된다.

샌즈랩 관계자는 "샌즈랩은 페타바이트(Petabyte) 규모의 데이터셋을 보유하고 있어 사이버 보안 특화 AI 모델과 sLLM의 자체 개발이 가능하다"며, "향후 글로벌 빅데이터 시장에서 데이터셋 판매 또한 기대하고 있다"고 밝혔다.

이번 플랫폼 개발로 샌즈랩은 AI 악용 범죄에 대한 실질적인 대응책을 제시하고, 디지털 범죄 근절에 기여할 것으로 전망된다.

[PASCON 2024] 하반기 최대 사이버보안 컨퍼런스 초대!(보안담당자 7시간 보안교육이수)

▶주최: 데일리시큐

▶후원: 과학기술정보통신부, 개인정보보호위원회, 한국정보보호산업협회

▶대상: 정부·공공·공기업·정부산하기관·금융·의료·교육·일반기업 개인정보보호 및 정보보안 담당자 1,000여명 (단, 현업 보안실무자 이외 프리랜서, 학생, 일반인 등은 보안과 관련 없는 자는 참석 금지)

▶일시: 2024년 9월 10일 화요일 오전 9시~오후 5시

▶장소: 더케이호텔서울 2층 가야금홀+거문고홀A 및 로비

▶인원: 개인정보보호 및 정보보안 실무자 1,000여 명

▶전시회: 국내외 최신 보안솔루션 전시회(30여개 기업 참여)

▶참가비: 무료/1일 주차권 지급/점심식사는 제공하지 않습니다.