정부의 보안 특화 AI 모델은 언제 개발되나?

과학기술정보통신부가 밝힌 목표는 2026년 안이다. 현재 개발 중인 독자 AI 파운데이션 모델에 사이버보안 데이터를 추가 학습하는 방식이 제시됐다.

보안 특화 AI는 어떤 일을 할 수 있나?

소프트웨어 취약점 후보 탐색, 악성 행위 패턴 분류, 보안 로그 요약과 대응 우선순위 제안 등에 활용할 수 있다. 다만 실제 차단이나 패치 결정은 전문가 검증과 별도 안전장치가 필요하다.

알려진 취약점뿐 아니라 새로운 공격 유형을 찾아내는 비율, 정상 활동을 공격으로 잘못 분류하는 오탐률, 최신 위협 데이터 반영 속도와 폐쇄망 환경의 재현성을 함께 봐야 한다.

사이버보안 특화 AI 모델은 보안 데이터와 공격·방어 지식을 집중 학습해 취약점 탐지와 위협 분석을 돕는 인공지능이다. 정부는 현재 개발 중인 국내 독자 AI 파운데이션 모델에 보안 데이터를 추가 학습해 2026년 안에 특화 모델을 내놓겠다고 밝혔다.

하반기 경제성장전략에는 AI 사이버보안 특화 독자 파운데이션 모델 개발이 성장동력 과제로 포함됐다. 범용 모델을 처음부터 다시 만드는 대신 국내 모델의 언어·추론 역량 위에 보안 도메인 지식을 얹는 접근이다.

보안 특화 모델의 직접적인 활용처는 코드와 설정에서 취약점 후보를 찾고, 대량의 관제 로그를 요약하며, 공격 징후의 우선순위를 제안하는 업무다. 반복 분석을 자동화하면 보안 담당자는 정밀 조사와 대응 결정에 더 많은 시간을 쓸 수 있다.

다만 AI가 제안한 취약점이 실제 공격으로 이어지는지, 제시한 수정이 새로운 문제를 만들지 확인하는 절차는 남는다. 모델이 공격 코드를 과도하게 생성하거나 민감한 보안 정보를 외부로 노출하지 않도록 사용 권한과 결과 검토 체계도 함께 설계해야 한다.

보안 모델은 학습 데이터가 오래되면 빠르게 진화하는 공격 기법을 놓칠 수 있다. 공개 취약점 데이터뿐 아니라 악성코드 행위, 침해사고 로그, 안전하게 재현한 공격 시나리오를 지속적으로 갱신해야 실무 가치가 생긴다.

평가 지표도 단순 정답률만으로는 부족하다. 탐지하지 못한 공격과 정상 행위를 공격으로 잘못 본 오탐을 나눠 측정하고, 한국어 보안 문서·국내 소프트웨어 환경·폐쇄망에서도 같은 수준의 결과가 나오는지 검증할 필요가 있다.

정부는 독자 AI 파운데이션 모델의 다음 평가 결과를 8월에 공개할 계획이다. 이 기반 모델의 추론·코딩 성능이 확인돼야 보안 데이터 추가 학습의 출발점도 구체화될 수 있다.

연말에는 개발 완료 여부보다 실제 공격 재현 환경에서의 탐지 성능과 안전성 공개가 더 중요하다. 공공기관과 민간 보안관제 현장에서 제한적으로 검증하고, 전문가가 오류 유형을 확인할 수 있는 평가 보고서가 뒤따라야 정책이 제품과 운영 개선으로 이어진다.