ARTEX란? AI가 스스로 하는 자율 모의해킹 오픈소스

📌 3줄 요약
1. ARTEX는 LLM 멀티 에이전트가 스스로 목표를 쪼개고 실제 도구를 실행해 모의해킹을 자율로 진행하는 오픈소스입니다.
2. 자산 그래프와 탐색 그래프라는 두 개의 그래프로 "무엇이 대상인가"와 "어디까지 테스트했는가"를 나눠 관리합니다.
3. 강력한 만큼 권한·범위·데이터 통제가 핵심이고, 인가 없는 대상 사용은 국내법 위반입니다.

최근 "AI가 사람 대신 모의해킹을 한다"는 도구들이 빠르게 나오고 있습니다. 그중 깃허브에서 눈에 띄는 오픈소스가 ARTEX입니다. LLM 여러 개가 역할을 나눠 스스로 공격 목표를 세우고, 실제 도구를 돌리고, 결과를 쌓아 가며 침투 테스트를 진행합니다.

 

이 글에서는 ARTEX가 무엇이고 어떤 구조로 동작하는지, 그리고 보안 담당자 입장에서 이런 AI 자율 모의해킹 도구를 도입할 때 무엇을 고려해야 하는지를 정리했습니다.

목차	내용
1	AI 자율 모의해킹이란
2	ARTEX란 무엇인가
3	어떻게 동작하나
4	기존 점검 도구와 무엇이 다른가
5	도입 시 고려사항
6	정리

1. AI 자율 모의해킹이란

 

보안 점검 도구는 오래전부터 자동화돼 왔습니다. 다만 대부분 "알려진 취약점을 자동으로 찾아주는" 수준이고, 찾은 것을 엮어 실제 공격 시나리오로 만드는 판단과 실행은 사람 몫이었습니다.

 

단계	대표 예	자동화 범위
취약점 스캐너	Nessus 등	알려진 취약점 탐지까지
SAST / DAST	코드·동적 분석 도구	코드·동작 분석, 오탐 판정은 사람
AI 보조 점검	LLM 챗봇 활용	사람이 묻고 AI가 답, 실행은 사람
AI 자율 모의해킹	ARTEX 등	목표 분해·도구 실행·연계까지 AI

💡 ARTEX는 이 중 가장 오른쪽입니다. "사람이 하던 모의해킹의 사고 과정"까지 자동화하려는 시도라, 효과가 큰 만큼 통제 장치의 중요성도 함께 커집니다.

2. ARTEX란 무엇인가

구분	내용
정의	LLM 멀티 에이전트가 자율적으로 침투 테스트를 수행하는 오픈소스 시스템
구성	Go 단일 백엔드(Next.js 프런트엔드 내장) + PostgreSQL
LLM	Anthropic·OpenAI API 또는 OpenAI 호환 엔드포인트(국산·오픈 모델) 사용
라이선스	AGPL-3.0 (수정·네트워크 서비스 제공 시 소스 공개 의무)
원본	Autumn-27/ARTEX (중국산 오픈소스). 한국어판으로 jiwoochris/artex-ko 현지화 판본이 있음

한국어판(artex-ko)은 에이전트의 판단 성능을 유지하기 위해 내부 추론 프롬프트는 원문을 두고, 사람에게 보이는 결과·리포트·대화만 한국어로 출력하도록 만든 것이 특징입니다. 정보통신망법·개인정보보호법 고지도 한국어로 담고 있습니다.

⚠️ ARTEX 공식 문서도 "소유했거나 서면으로 명시적 허가를 받은 대상에만" 사용하라고 못 박고 있습니다. 권한 없는 스캔·탐지·익스플로잇은 국내에서 정보통신망법 위반이 될 수 있습니다.

3. 어떻게 동작하나

 

ARTEX의 핵심은 역할을 나눈 에이전트와 두 개의 그래프입니다.

 

구성 요소	역할
Planner (계획자)	전체 상황을 읽고 다음에 할 '의도(intent)'를 배정. 새 방향이 있을 때만 일을 내보냄
Worker (실행자) ×N	의도 하나를 맡아 실제 도구(Bash·HTTP 등)로 실행하고 결과를 기록
자산 그래프	도메인 → 서브도메인 → 서비스 → 엔드포인트. '무엇이 대상인가'를 작업 간 공유
탐색 그래프	목표 → 의도 → 사실 → 취약점의 혈통 체인. '어디까지 어떻게 테스트했는가'를 작업마다 기록
기록형 프록시	모든 실행이 MITM 프록시를 거쳐 전 과정이 남음
승인 게이트 / 사람 개입	위험한 도구 실행을 막거나, 사람이 중간에 개입(Human-in-the-loop)해 멈추고 방향을 바꿀 수 있음

 

동작은 이벤트 구동 순환입니다. 그래프가 바뀌면 Planner가 깨어나 다음 의도를 배정하고, Worker가 실행해 결과를 쓰면 그 변화가 다시 다음 라운드를 부릅니다. 이 과정이 목표가 증명될 때까지 이어집니다. 여러 단계로 이어지는 공격 체인(주입점 발견 → 인증정보 획득 → 측면 이동 등)은 공유 할 일 목록으로 순서를 지키며 진행됩니다.

 

💡 즉 사람이 "다음엔 뭘 해볼까"를 고민하던 자리를 Planner가, "직접 명령을 쳐보는" 자리를 Worker가 맡는 구조입니다. 그 사고 과정이 두 그래프에 그대로 쌓여 추적할 수 있게 됩니다.

4. 기존 점검 도구와 무엇이 다른가

항목	기존 스캐너·SAST	AI 자율 모의해킹(ARTEX)
찾는 방식	정해진 규칙·시그니처	목표를 스스로 분해해 탐색
연계 공격	사람이 수동으로 엮음	에이전트가 단계별로 자동 연계
산출물	취약점 목록	자산·탐색 그래프 + 혈통 체인
강점	빠르고 재현성 높음	맥락 기반 탐색, 사람의 사고 모방
약점	연계·맥락 약함	오탐·과장, 범위 이탈, 비용(토큰) 위험

💡 자율 모의해킹은 스캐너를 대체한다기보다 보완에 가깝습니다. 스캐너가 넓게 훑고, AI가 맥락을 엮어 깊이 파는 식의 조합이 현실적입니다.

5. 도입 시 고려사항

도입 전 반드시

항목	이유
서면 인가 범위 확정	대상·시간대·강도를 문서로 합의. 범위 밖 점검은 법 위반 소지
운영 DB·개인정보 구간 제외	자율 탐색이 민감 데이터에 닿지 않도록 범위에서 제외하거나 마스킹
LLM 전송 데이터 범위 확인	외부 LLM API를 쓸 경우, 어떤 정보가 외부로 나가는지 사전 검토
격리 환경 구축	전용 네트워크·계정으로 분리해 영향 범위를 한정

운영하면서

항목	내용
강도 차등	대상 중요도를 등급으로 나눠, 운영 핵심은 저강도·상시, 중요도 낮은 대상은 사전 공지 후 수행
승인 게이트 활용	파괴적·고위험 도구 실행은 사람 승인을 거치도록 설정
전 과정 증적 보관	기록형 프록시 로그와 활동 이력을 남겨 사후 추적
기존 체계로 연계	발견한 취약점은 기존 취약점 관리·조치 프로세스로 넘겨 처리

놓치기 쉬운 점

항목	설명
범위 이탈	자율 에이전트가 연결된 다른 자산으로 넘어가지 않는지 범위(scope)를 엄격히 설정
오탐·과장	AI가 보고한 취약점과 심각도는 사람이 반드시 재검증
라이선스 의무	AGPL-3.0이라 수정하거나 네트워크 서비스로 제공하면 소스 공개 의무 발생
책임의 소재	자동화가 '점검을 했다'는 책임까지 대신하지 않음. 최종 판단과 보고는 담당자 몫

⚠️ AI 자율 모의해킹은 실제 공격을 수행하는 도구입니다. 잘못 설정하면 운영 서비스에 장애를 줄 수 있어, "스캐너 하나 더" 감각으로 붙이면 안 됩니다. 범위·강도·승인 체계를 먼저 세운 뒤 도입하는 것이 안전합니다.

정리

핵심	내용
무엇	LLM 멀티 에이전트가 목표 분해·도구 실행·연계까지 자율로 하는 모의해킹 오픈소스
구조	Planner·Worker + 자산/탐색 이중 그래프 + 기록형 프록시·승인 게이트
위치	탐지 자동화를 넘어 '판단·실행 자동화'까지. 스캐너의 대체가 아닌 보완
전제	서면 인가 범위 안에서만. 권한 밖 사용은 국내법 위반
통제	범위·강도·데이터·승인·증적. 오탐과 책임은 사람이 마무리

AI 자율 모의해킹은 분명 흥미로운 방향이지만, 핵심은 "AI가 알아서 다 해준다"가 아니라 "사람이 범위와 통제를 쥐고, AI에게 반복적인 탐색을 맡긴다"에 가깝습니다. 도구의 성능보다 그것을 안전하게 울타리 안에서 쓰는 설계가 더 중요합니다.

참고 자료

자료
GitHub, Autumn-27/ARTEX (원본 저장소)
GitHub, jiwoochris/artex-ko (한국어판)
ARTEX 온라인 데모
IT위키, ARTEX

이 글은 공개된 오픈소스 정보를 바탕으로 한 도구 소개·일반 가이드이며, 특정 조직의 구축 사례나 내부 환경과는 무관합니다.