테스트웍스(대표 윤석원)는 오늘, 한국소프트웨어테스팅협회(회장 장일수)가 주관하는 소프트웨어 테스팅 컨퍼런스 BeSTCon(Better Software Testing Conference, 이하 베스트콘) 2024에 참가해 ‘AI-SW 안전성 인증(AISC)’에 대해 소개했다고 밝혔다.
테스트웍스는 이번 행사에서 ‘AI 신뢰 및 안전을 위한 AI-SW Safety & Testing’을 주제로 홍보 부스를 운영하고 발표 세션에 참가했다.
테스트웍스 AI 기능 안전 센터를 리드하고 있는 김병철 센터장(동아대학교 산업경영학과 교수)은 “AI 기술이 발전하고 사회 전반에 걸쳐 더 많은 영향을 미치면서 신뢰할 수 있는 AI를 구축하는 것이 더 중요한 이슈가 되고 있다”며 발표 세션을 진행했다.
‘신뢰할 수 있는 AI’는 AI 시스템이 안전하고 윤리적이며 공정하게 설계되고 운영될 수 있도록 보장하는 개념이다. 김병철 센터장은 이와 관련하여 공정성, 책임성, 투명성, 안전성, 프라이버시 및 보안, 윤리적 사용, 지속 가능성을 포함한 15개 리스크 항목에 대해 짚어가며, 각 항목이 부족할 경우 초래될 수 있는 AI 리스크와 해결하고자 하는 노력에 대해 설명했다.
특히, 김병철 센터장은 “안전하지 않은 AI는 생명과 직결된 사고로 이어질 수 있기 때문에 AI 시스템이 예측 불가능한 행동을 하지 않도록 설계되는 것이 중요하며, 동시에 사용자의 안전을 위협하지 않아야 한다”라고 설명하며 “예를 들어, 자율주행차나 의료 시스템 등의 산업에서는 특히 높은 안전 기준을 충족해야 한다”고 강조했다. 또한, 이를 배경으로 AI에 대한 시스템적 결함 및 랜덤 하드웨어 결함 없이 안전성이 확보되고 있는지 시험, 심사, 평가하여 적합성 증서를 부여하는 AISC(AI-SW SAFETY CERTIFICATION) 제도에 대해서도 소개했다.
AISC는 AI와 SW의 안전성을 보장하기 위해 AI-SW 전문 검증 및 KOLAS 국제공인시험기관인 테스트웍스, 네덜란드 인증기관인 Kiwa, SW 관련 협회인 한국정보산업연합회 3개 기관이 공동으로 글로벌 표준에 근거하여 Safety Integrity Level(안전성 무결성) 수준에 따라서 인공지능 안전경영 프로세스, 인공지능 안전수명주기, 품질레벨 요구사항인 안전성수준, 성능수준, 공정성 수준(AISL, AIPL, AIFL)에 적합할 경우 인증서를 발행하는 인증 제도이다.
테스트웍스는 AI 초기 시장부터 ‘신뢰할 수 있는 AI’를 위한 기술적, 윤리적 측면을 다각도로 고려하며, AI가 사회 전반에 걸쳐 긍정적인 영향을 미칠 수 있도록 개발과 운영에 도움이 될 수 있는 AI 학습용 데이터 구축, AI 데이터 및 모델 검증, AI 모델 개발, SW 테스팅, AI 반도체 검증과 관련한 솔루션 및 서비스를 제공하고 있다.
◆2024 인공지능 보안 컨퍼런스 AIS 2024 개최(보안교육 7시간 이수)◆
-인공지능 기반 보안기술과 보안위협 대응 정보 공유-
-공공, 금융, 기업 정보보호 담당자 700여명 참석예정-
-일 시: 2024년 11월 5일(화) 09:00~17:00
-장 소: 더케이호텔서울 2층 가야금홀
-주 최: 데일리시큐
-참석대상: 정부, 공공, 금융, 기업 정보보호 담당자만 참석 가능(보안과 관련없는 자는 참석 불가)
-참가기업 모집: 국내외 인공지능, 보안자동화 기반 보안전문기업
-참가문의: 데일리시큐 길민권 기자 / mkgil@dailysecu.com
-참석자 사전등록: 클릭
(사전등록 필수, IT보안 관계자만 참석가능)
★정보보안 대표 미디어 데일리시큐 / Dailysecu, Korea's leading security media!★