지란지교데이터(대표 조원희)는 챗GPT 오남용으로 인한 기밀정보 및 개인정보 유출을 방지하기 위해 챗GPT 모니터링 기능을 포함한 인공지능 기반 데이터 보호 솔루션 ‘AI필터(FILTER)’를 출시했다고 밝혔다.

챗GPT와 같은 대언어 모델(LLM) 기반 생성형 인공지능 서비스는 학습된 데이터를 기반으로 사용자 질문에 답변한다. 특히 사용자의 질문과 답변에 대한 평가를 학습함으로써 답변 수준을 지속적으로 높이는 것이 특징이다. 하지만 사용자의 질문을 학습한다는 점에서 기업의 기밀정보가 학습돼 불특정 다수에게 공개될 수 있다는 우려 역시 제기되고 있다.

정보보호 분야 일각에서는 "챗GPT API를 이용함으로서 업무 효율을 높여야 하는데 이럴 때 최소한 챗GPT로 보내는 질의와 응답 내용 모니터링은 필요할 수밖에 없다"고 지적한 바 있다.

지란지교데이터의 인공지능 기반 데이터 보호 솔루션 AI필터는 챗GPT에 입력하는 내용(프롬프트)을 모니터링함으로써 사내 기밀정보가 유출되지 않도록 방지하는 것이 가능하다. 챗GPT에 작성되는 질의와 응답 내용을 모니터링하며, 지정된 키워드나 문장 패턴 등이 탐지될 때 차단하는 기능을 제공한다.

AI필터의 챗GPT 모니터링 주요기능은 사내 챗GPT 인터넷 네트워크 차단, 회사 기밀정보 및 개인정보 보호를 위한 질의와 응답 내용 필터링 등이다.

더불어 지란지교데이터는 사내에서 챗GPT 등 생성형 인공지능 서비스는 물론, 번역 서비스에서도 기밀 및 개인정보 유출을 방지할 수 있는 업무 전용 웹포털을 개발해 제공할 예정이다.

AI필터는 API 방식으로 제공하는 것이 특징이다. 지란지교데이터의 데이터 및 개인정보 보호 제품군 필터 시리즈는 물론 협업툴, 그룹웨어 등 다양한 솔루션과의 연동을 통해 개인정보 및 기업 주요정보 유출을 방지할 수 있다.

지란지교데이터 조원희 대표는 “챗GPT로 인한 정보 유출을 방지하기 위한 가장 쉬운 방안은 챗GPT 접속을 차단하는 것이다. 하지만 이는 인공지능 기술을 활용함으로써 얻을 수 있는 업무효율성 향상 등의 이점을 포기하는 것과 같다. 단순히 차단할 것이 아니라 정보를 보호하면서 챗GPT를 활용할 수 있는 방안을 모색해야 한다”고 말했다.

이어 “지란지교데이터의 인공지능 기반 데이터 보호 솔루션 AI필터는 API 연동으로 다양한 솔루션에도 적용할 수 있다. 이를 챗GPT에 적용함으로써 기밀정보 및 개인정보 유출은 막고, 인공지능 서비스 활용으로 인한 이점은 모두 누릴 수 있을 것이다”라고 말했다.

★정보보안 대표 미디어 데일리시큐!