GenAI-Keeper Series
AI 보안 필터링 서비스(AI-Based Security Filtering Service)
개요
Overview
GenAI-Keeper Series는 생성형 AI 모델이 오염되거나 이용자에게 잘못된 정보 및 악성코드 등이 제공되는 것으로부터 생성형 AI 모델과 이용자를 보호합니다. 클라이언트형, 게이트웨이형, API형 등으로 구성되어, 고객의 니즈에 따라 설치･운영 할 수 있으며, 다양한 생성형 AI 모델을 지원합니다.
필요성
-
모델 오염 위험 방지
생성형 AI가 악성 데이터나 편향 데이터를 학습해 잘못된 결과를 제공할 수 있음
-
잘못된 정보 제공 예방
이용자가 AI를 통해 의사결정을 할 때 오류나 불확실성을 최소화
-
보안 위협 대응
악성코드, 피싱 링크, 악의적 요청 등 사이버 위협 차단 필요
-
규제 및 신뢰 확보
기업･기관등이 AI를 안전하게 운영하고 신뢰성 있는 서비스를 제공할 수 있도록 지원
주요기능
-
생성형 AI 모델을 대상으로 한 적대적 공격 탐지 및 방어
- 모델 입력･출력에 대한 적대적 공격(Adversarial Attack) 시도를 실시간으로 감지
- 공격 패턴 분석과 방어 메커니즘 적용으로 모델 오염 방지
- AI 모델이 의도치 않은 결과를 생성하지 않도록 사전 차단 기능 제공
-
생성형 AI 관련 데이터 무결성 보장
- 학습 데이터와 모델 출력 데이터의 정확성·무결성 검증
- 데이터 변조나 오염 가능성을 최소화
- 신뢰할 수 있는 AI 기반 의사결정 환경 제공
-
개인정보/기밀정보 유출방지
- 입력 데이터 및 출력 결과에서 개인식별정보(PII)·기업 기밀 정보 탐지 및 자동 마스킹
- 내부 데이터가 외부로 유출되지 않도록 보호
- 규제 준수 및 기업 신뢰성 강화
-
가짜뉴스⋅악성코드⋅딥페이크⋅금칙어 노출 방지
- 생성되는 콘텐츠에서 허위 정보, 악성 코드, 딥페이크 이미지/영상, 금칙어 자동 탐지
- 사용자 및 시스템이 위험 콘텐츠에 노출되지 않도록 사전 필터링
- 안전하고 신뢰할 수 있는 AI 서비스 환경 유지
기대효과
신뢰성 확보
AI 모델과 사용자가 안전하고 신뢰 가능한 환경에서 활동 가능
보안 강화
악성코드 및 위협으로부터 AI 서비스 보호
업무 효율 향상
AI 활용 중 발생할 수 있는 오류·위험 최소화
규제 준수 지원
데이터 보호 및 안전 AI 운영을 위한 정책 대응 가능
사용자 만족도 향상
안전하고 정확한 AI 서비스 제공으로 신뢰도 증가