깃허브 시큐리티 랩, C 및 C++ 대상 자율형 퍼징 파이프라인 공개

자율 퍼징 등장과 배경

깃허브 시큐리티 랩의 안토니오 모랄레스 연구원은 2026년 9월 24일, C 및 C++ 프로젝트를 위한 자율형 퍼징 파이프라인인 퍼징 태스크플로를 공개했다. 이 도구는 깃허브 시큐리티 랩 태스크플로 에이전트 프레임워크를 기반으로 구축되었으며, 사용자가 저장소 식별자만 입력하면 진입점 식별부터 하네스 작성, 퍼징 실행, 커버리지 분석, 충돌 분류, 취약점 보고서 생성까지 전 과정을 사람의 개입 없이 완수한다. 복잡한 초기 설정 없이 대규모 언어 모델이 전체 퍼징 수명 주기를 자율적으로 운영하도록 설계된 것이 특징이다.

지속적 퍼징 시스템이 널리 도입된 환경에서도 중요한 소프트웨어 결함이 여전히 방치되는 근본 원인은 지속적인 인력 투입의 한계에 있었다. 코드 커버리지 현황을 꾸준히 감시하고, 도달하지 못한 코드 영역을 공략할 새로운 하네스를 작성하며, 도출된 충돌 결과를 일일이 분석하는 작업에 전문 연구원의 시간이 병목으로 작용했기 때문이다. 이번 프로젝트는 보안 전문가가 수작업으로 수행하던 반복적이고 번거로운 분석 업무를 대규모 언어 모델 기반 에이전트에 위임하여 테스트 확장성을 극대화하려는 배경에서 출발했다.

삼계층과 이중 빌드 구조

파이프라인의 전체 아키텍처는 실행 스크립트, 단계별 태스크플로 설정 명세, 모델 컨텍스트 프로토콜 기반 도구군이라는 세 가지 계층으로 명확히 구분된다. 대규모 언어 모델 에이전트는 무엇을 테스트하고 하네스를 어떻게 수정할지 결정하는 정책 판단을 맡고, 실제 컴파일과 테스트 엔진 구동은 표준화된 프로토콜 도구가 담당하여 책임과 권한을 엄격하게 분리했다. 각 파이프라인 단계는 데이터를 메모리에서 직접 교환하지 않고 독립된 관계형 데이터베이스 파일을 통해 영속적으로 공유함으로써 상태 관리의 안정성을 확보했다.

생성된 각 테스트 하네스는 테스트 엔진 전용 바이너리와 소스 코드 수준의 커버리지 측정 전용 바이너리로 나누어 각각 빌드된다. 테스트 엔진의 내부 계측 방식은 탐색 분기를 유도하는 데는 효과적이지만 사람이 직접 확인 가능한 소스 줄 단위 커버리지 보고서를 생성하지는 못하기 때문이다. 에이전트의 기본 모델로는 내부 보안 검증을 안정적으로 통과한 클로드 소네트 5가 채택되었으며, 개발자는 설정 파일을 조정하여 필요에 따라 다른 모델을 지정할 수 있다.

동적 커버리지와 구조 인식

시스템의 핵심인 커버리지 피드백 루프는 반복 단계마다 테스트 실행 시간을 점진적으로 두 배씩 늘리는 전략을 사용한다. 시간 예산은 30초에서 출발하여 60초, 120초, 240초, 480초, 960초 순으로 증가하며, 단일 대상당 최대 약 32분 동안 퍼징을 수행한다. 초기에는 적은 비용으로 쉽게 확보할 수 있는 코드 경로를 빠르게 흡수하고, 후반부에는 뚫기 어려운 조건문을 돌파하기 위해 더 많은 연산 시간을 부여하는 구조다. 또한 연속 두 번의 반복에서 코드 줄 기준 커버리지 증가폭이 기본 설정인 1퍼센트 절대치에 미치지 못하면 정체 상태로 판정하여 불필요한 자원 낭비 없이 탐색을 즉시 종료한다.

단순 바이트 무작위 변이만으로는 통과하기 어려운 복잡한 형식을 처리하기 위해 네 가지 상호 보완적인 구조 인식 기법이 탑재되었다. 제이슨, 엑스엠엘, 정규표현식 등 인식 가능한 데이터 형식에는 사전 정의된 전용 사전과 맞춤형 변이기를 적용하고, 알려지지 않은 형식은 소스 코드와 헤더 파일을 분석하여 문자열 및 32비트 정수형 상수를 자동으로 추출해 토큰으로 활용한다. 나아가 미도달 분기 주변의 비교 구문을 동적으로 추적하여 새로운 상수를 사전에 지속적으로 추가하며, 축소 도구로 크기를 관리하는 지속적 말뭉치 디렉터리를 두어 이전 실행에서 얻은 입력 자산을 영구 보존한다.

충돌 분석과 보안상 한계

퍼징 과정이 끝난 후에는 충돌 입력 최소화 도구와 메모리 오류 탐지기를 연계한 자동 트리아지 단계가 이어진다. 스택 프레임의 템플릿과 세부 수식어를 정리한 정규화 해시를 통해 중복된 충돌을 하나로 통합하고, 과거 발생한 오류가 상위 코드베이스의 최신 변경으로 해결되었는지 자동으로 재검증한다. 에이전트는 공개 인터페이스로부터의 호출 경로를 역추적하여 실제 취약점, 라이브러리 강화 필요, 하네스 자체 결함, 메모리 부족, 시간 초과, 단언문 실패, 중복 오류 등 7가지 판정을 내리며, 파일 및 줄 번호와 근본 원인 분석, 단일 패치 차이점, 회귀 테스트 초안을 담은 보고서를 작성한다.

운영 편의를 위해 파이프라인 구동 시 로컬 웹 대시보드가 백그라운드에서 자동 실행되어 실시간 관제 기능을 제공한다. 개발자는 브라우저를 통해 하네스별 실행 상태, 인라인 추세선이 포함된 커버리지 변화표, 충돌 빈도 히트맵, 반복 타임라인을 한눈에 파악할 수 있다. 이에 따라 C 및 C++ 프로젝트 관리자는 기존에 퍼징을 전혀 적용하지 못했던 프로젝트에 손쉽게 보안 테스트를 도입하거나, 기존 퍼징의 커버리지 한계를 돌파하여 숨은 결함을 발굴하는 데 큰 도움을 받을 수 있다.

다만 이 시스템을 실제 환경에 적용할 때는 명확한 보안상 제약과 동작 특성을 사전에 숙지해야 한다. 파이프라인이 컨테이너 격리 장치 없이 호스트 환경에서 컴파일러와 임의의 빌드 명령을 직접 수행하므로, 프롬프트 주입 공격이 발생할 경우 실행 사용자 권한 내에서 모든 명령이 실행될 위험이 존재하여 반드시 일회용 가상 머신이나 임시 개발 환경에서 실행해야 한다. 아울러 에이전트가 생성한 수정 패치와 취약점 판정은 대규모 언어 모델의 코드 이해도 한계로 인해 오류를 포함할 수 있으므로, 최종 결론이 아닌 전문가 검토가 필요한 초기 분석안으로 다루어야 한다.