모의해킹과 AI의 미래

모의해킹과 AI의 미래

AI가 대체 가능한 지식 VS 기존 공부법의 "특이점"

 

만약 모의 해킹에 대해 전혀 모르는 (배우고 싶어하는) A라는 사람이 모의해킹을 하려면 뭐부터 해야 하는지에 대해 질문한다면 대부분 프로그래밍 언어를 배워야 한다고 답할 것입니다.

 

문제는, AI가 대체하려는 일이 바로 간단한 기술적인 일인 프로그래밍입니다.

결국, AI가 대체할 수 없는 것이 바로 사람의 분석 능력이 필요한 복잡한 일입니다.

 

예시를 들자면, 기술을 위한 기술이 아닌 모든 사이버 보안 전체 그림 파악같은 것입니다.

인텔 + 관제 + 블루팀 + 레드팀 + 컴플라이언스 = 사이버 보안

호스트, 네트워크, 보안 기제 구조, 모델에 이해

 

공격자들이 공격을 통해 뭘 얻고자 할까에 대한 연구...

기술 이해 + 비 -기술적인 심리 이해

 

미래 AI와 공존하기 위한 능력

AI를 문제 해결에 적극적으로 활용하는 능력 (Why? How?의 시대)

기술적인 분석은 AI가 문제 발견, 정의, 해결 기획은 사람

문제 발견 + 정의 + 문제 해결 기획 (왜? 어떻게? ) >>> 기술적인 능력 (무엇?)

기술적인 능력은 어느정도까지 LLM 기반 AI가 해결 가능

깊은 기술적인 일, 특정 도메인 지식, 판단 지식은 대체 불가

 

Human Error, 즉 사람으로부터 야기되는 문제는 AI가 예측 불가능

따라서 사람의 심리 및 그에 따른 보안 취약점 분석, 진단, 평가하는 행위는 대체 불가

상대방의 입장 파악

공격자라면 > 실제 방어자를 분석/ 평가/ 판단

방어자라면  > 실제 공격자를 분석/ 평가/ 판단

 

 

 

시키는 일, 반복적인 일, 간단한 일 > AI가 활용

 

기획자 마음가짐 (Mindset)

문제 해결 능력 + 해결 방법 연구

문제 해결에 필요한 세부적인 기술적 지식 연구

AI 적극 활용

 

기술자 마음가짐 (Mindset)

기술적인 지식 + 도메인 지식

기술적 지식과 소프트 스킬을 융합할 수 있는 능력