크랙미(Crackme) 실습 방법론

크랙미(Crackme)는 리버싱 연습을 위해 일부러 만들어진 프로그램이다. 보통 "정답을 입력하면 성공 메시지를 보여준다"는 단순한 목표를 갖고 있고, 실제 소프트웨어의 라이선스 체크 로직을 축약해놓은 형태가 많다. 앞선 글들에서 다룬 정적/동적 분석 기법을 실전처럼 연습하기 가장 좋은 대상이다.

크랙미를 푸는 표준 절차

1. 실행해서 겉모습부터 확인

무슨 입력을 받는지, 성공/실패 시 어떤 메시지가 나오는지 먼저 눈으로 확인한다.

2. strings로 단서 찾기

strings ./crackme | grep -iE "correct|wrong|success|fail|password"

실패/성공 메시지 문자열을 찾으면, 그 문자열이 어디서 참조되는지가 다음 단계의 목표 지점이 된다.

3. 디스어셈블러에서 문자열 역추적

Ghidra/IDA에서 해당 문자열을 더블클릭하면 "이 문자열을 참조하는 코드 위치(cross-reference)"로 바로 이동할 수 있다. 그 근처의 cmp/조건분기가 정답 체크 로직일 가능성이 높다.

4. 정답 체크 방식 파악

비교 방식은 대체로 세 가지 패턴 중 하나다.

• 직접 비교: 입력값을 하드코딩된 문자열과 strcmp로 바로 비교. ltrace로 strcmp 호출 인자를 보면 정답이 그대로 노출되는 경우가 많다.
• 연산 후 비교: 입력값에 어떤 연산(해시, 체크섬, 간단한 수식)을 거친 뒤 그 결과를 비교. 디버거로 연산 중간값을 따라가면서 어떤 함수를 거치는지 확인해야 한다.
• 자체 복호화 로직과 비교: 입력값을 특정 알고리즘으로 변환해서, 바이너리 내부에 암호화되어 저장된 "진짜 정답"과 비교. 역으로 그 알고리즘을 이해해서 정답을 계산해내야 한다 (keygen을 만드는 문제로 이어짐).

5. 동적으로 검증

정답이라고 생각하는 값을 실제로 입력해서 성공 메시지가 뜨는지 확인한다. 안 되면 3~4단계를 다시 반복한다.

두 가지 접근: 패치 vs Keygen

• 패치(Patch): 체크 로직의 조건 분기를 바꿔서(예: jne를 je로, 또는 nop으로) 무조건 성공하게 만든다. 가장 빠르지만 "어떻게 정답을 계산하는지"는 이해 못 해도 된다.
• Keygen(키 생성기): 정답을 계산하는 알고리즘 자체를 완전히 이해해서, 임의의 이름/시리얼에 대해 유효한 키를 생성하는 별도 프로그램을 만든다. 훨씬 어렵지만 리버싱 실력이 확실히 는다.

입문 단계에서는 패치부터 익숙해지고, 익숙해지면 같은 문제를 Keygen 방식으로 다시 풀어보는 걸 권한다 — 같은 문제를 다른 목표로 다시 보면 놓쳤던 부분이 보인다.

연습할 곳

• crackmes.one: 난이도/플랫폼/언어별로 정리된 가장 큰 크랙미 모음
• Reverse Engineering (r/reverseengineering) 추천 목록: 커뮤니티에서 검증된 초급~고급 문제
• pwnable.kr, HackTheBox: 크랙미보다는 실전 문제에 가까운 리버싱 챌린지도 병행하면 좋다

막혔을 때

같은 지점에서 오래 막힌다면, 정적 분석과 동적 분석 중 한쪽에만 의존하고 있지 않은지 점검해본다. 디컴파일된 의사코드만 계속 보고 있었다면 실제 값을 디버거로 찍어보고, 반대로 디버거로 브레이크포인트만 걸고 있었다면 전체 구조를 디컴파일러로 한 번 넓게 훑어보는 식으로 방식을 바꿔보는 게 도움이 된다.