AI가 공격하는 시대, 임직원 보안 인식이 더 중요해지는 이유
AI 시대의 보안 위협은 기술이 아닌 사람을 향합니다
AI는 공격자의 진입장벽을 낮추고, 기존 공격을 더 빠르고 정교하게 실행할 수 있게 만들었습니다.
그러나 공격이 자동화될수록 조직의 방어력을 가르는 마지막 차이는 여전히 사람의 판단과 행동,
그리고 이를 뒷받침하는 조직의 대응체계에서 만들어집니다.
문제는 교육의 효과가 아니라, 위협은 상시화됐는데 교육은 여전히 일회성이라는 데 있습니다.
2025년 11월, AI 기업 Anthropic은 중국 정부와 연계된 것으로 추정되는 위협 행위자가 자사의 AI 코딩 에이전트를 악용해
전 세계 약 30개 기관을 겨냥한 사이버 공격을 수행한 사례를 공개했습니다.
정찰과 취약점 탐색, 침투, 자격증명 수집, 데이터 분석에 이르는 공격 과정의 약 80~90%를 AI가 수행했고,
사람은 초기 설정과 일부 핵심 의사결정에만 제한적으로 개입했습니다. AI가 단순히 공격자의 작업을 보조하는 수준을 넘어,
여러 공격 단계를 스스로 연결하고 실행하는 에이전트로 변화하고 있음을 보여준 사례입니다.
하지만 이 변화가 곧 사람의 역할이 사라진다는 뜻은 아닙니다. 오히려 AI가 공격의 속도와 규모를 끌어올릴수록,
조직 내부에서 이상 징후를 발견하고 확인하며 신고하는 사람의 행동은 더욱 결정적인 변수가 됩니다.
Anthropic이 2025년 3월부터 2026년 3월까지 악용으로 차단한 832개 계정을 분석한 결과,
공격자들은 완전히 새로운 공격 전술을 만들어내기보다 정찰, 사회공학, 자격증명 탈취, 악성코드 제작 등 이미 알려진 공격 방식을 AI로 가속화하는 데 집중하고 있었습니다.
즉, AI가 만들어낸 가장 큰 변화는 새로운 공격의 발명보다 기존 공격의 속도와 규모, 접근성을 동시에 끌어올렸다는 데 있습니다.
과거에는 전문 인력과 시간이 필요했던 작업을 더 적은 인력으로, 더 많은 대상을 상대로, 더 자연스러운 방식으로 실행할 수 있게 된 것입니다.
Verizon의 「2026 데이터 유출 조사 보고서(DBIR)」는 전 세계 145개국에서 발생한 3만1,000건 이상의 보안 사고를 분석했으며,
이 가운데 2만2,000건 이상이 실제 데이터 침해로 확인됐습니다.
소프트웨어 취약점을 이용한 침투가 빠르게 증가하고 있음에도, 사회공학과 피싱, 자격증명 탈취처럼
사람의 판단을 노리는 공격은 여전히 주요 침해 경로로 남아 있습니다.
공격 접점도 이메일에 머물지 않습니다.
문자, 음성 통화, 소셜미디어, 협업 도구와 모바일 기기를 이용한 사회공학 공격이 확대되면서,
보안 인식의 범위 역시 ‘수상한 이메일을 구별하는 법’보다 넓어져야 합니다.
여기서 한 가지 불편한 질문을 피할 수 없습니다. 사람의 행동이 관여된 침해 비율이 좀처럼 줄지 않는다면,
기업이 지속해 온 보안 교육 자체가 효과가 없었던 것은 아닌지 의심할 수 있기 때문입니다.
하지만 문제는 교육의 필요성이 사라진 것이 아니라,
공격 환경은 상시화되고 다변화됐는데 교육 방식은 여전히 연 1회 이수와 일회성 클릭 테스트에 머물러 있다는 데 있습니다.
지식 전달만으로는 실제 업무 중 갑자기 도착한 요청 앞에서 행동을 바꾸기 어렵습니다.
교육에서 내용을 이해했더라도 시간이 지나면 경각심은 낮아지고, 익숙한 상사나 거래처의 이름으로 접근하는 메시지 앞에서는 판단이 흔들릴 수 있습니다.
AI 시대의 인식제고는 ‘무엇이 피싱인지 아는 사람’을 만드는 데서 끝나서는 안 됩니다.
위험을 알아차리고, 한 번 더 확인하며, 의심하거나 실수한 상황을 즉시 신고하는 행동을 조직의 일상으로 만들어야 합니다.
과거의 보안 인식제고는 피싱메일의 특징을 알려주고, 의심스러운 링크를 클릭하지 않도록 교육하는 데 초점이 맞춰져 있었습니다.
하지만 AI가 문장과 이미지를 자연스럽게 생성하고, 실제 업무 맥락과 유사한 메시지까지 만들어내는 환경에서는 모든 위협을 개인이 완벽하게 식별하기 어렵습니다.
따라서 인식제고의 목표도 달라져야 합니다.
| 핵심 행동 | 의미 | 조직이 만들어야 할 환경 |
|---|---|---|
| 인지 | 평소와 다른 요청이나 비정상적인 상황을 알아차리는 능력 | 실제 사례 기반의 지속적인 메시지 노출 |
| 확인 | 링크 클릭이나 정보 입력 전에 다른 경로로 사실을 검증하는 습관 | 확인 절차와 승인 체계의 단순화 |
| 신고 | 의심하거나 실수한 상황을 지체 없이 조직에 공유하는 행동 | 쉬운 신고 채널과 No-Blame 문화 |
AI 시대의 보안 인식제고는 모든 공격을 구별하는 사람을 만드는 일이 아닙니다.
위험을 조기에 발견하고, 확인하고, 빠르게 공유하는 조직을 만드는 일입니다.
공격의 속도와 정교함이 달라졌다면, 인식제고의 방식도 달라져야 합니다.
| 기존 방식의 한계 | 재설계 방향 | 기대 효과 |
|---|---|---|
| 이메일 접점에만 집중 | 포스터·카드뉴스·팝업·DM·화면보호기 등 다양한 사내 접점에 메시지를 상시 노출 | 이메일 밖에서 발생하는 사회공학 위협까지 인식 범위 확대 |
| 연 1~2회 형식적 교육 | 분기 단위 이상의 모의훈련과 훈련 사이를 채우는 인식제고 콘텐츠 병행 | 망각을 줄이고 올바른 행동을 습관화 |
| 클릭률 단일 지표 | 신고율, 신고 소요 시간, 부서별 취약도, 반복 훈련 후 개선 정도를 함께 측정 | 취약점 진단과 정책 개선의 객관적 근거 확보 |
| 실수에 대한 질책 | 실수를 학습 기회로 전환하는 No-Blame 신고 문화 정착 | 은폐 없는 신속한 신고와 초기 대응 시간 단축 |
여기서 핵심은 공격이 발생하는 모든 채널을 그대로 모사하는 데 있지 않습니다. 모의훈련으로 형성된 경각심을 임직원이 업무 중 자연스럽게 마주치는 다양한 접점에서 반복적으로 환기해, 위험을 인지하고 확인하고 신고하는 행동이 끊기지 않도록 만드는 것이 관건입니다.
임직원의 판단과 행동이 중요하다는 말이 모든 책임을 개인에게 돌려야 한다는 뜻은 아닙니다.
공격자가 AI를 활용해 더 정교하고 빠른 방식으로 접근하는 상황에서 개인의 주의만으로 모든 위협을 막으라고 요구하는 것은 현실적이지 않습니다.
조직은 임직원이 안전하게 판단하고 행동할 수 있는 환경을 함께 만들어야 합니다.
의심스러운 요청을 쉽게 확인할 수 있는 절차, 누구나 즉시 사용할 수 있는 신고 채널, 실수를 숨기지 않게 하는 No-Blame 문화, 신고 이후 신속하게 움직이는 대응체계가 갖춰져야 합니다.
경영진 역시 인식제고 활동을 연례 교육 이수율이나 훈련 클릭률만으로 평가해서는 안 됩니다.
신고율과 신고 소요 시간, 반복 취약 부서의 개선 정도, 훈련 이후 행동 변화처럼 조직의 실질적인 대응력을 보여주는 지표를 함께 살펴야 합니다.
사람은 보안의 마지막 방어선이지만, 혼자 남겨진 방어선이어서는 안 됩니다.
일반적인 보안 교육만으로는 임직원이 실제 위협을 구분하고 올바르게 대응하는 능력을 충분히 키우기 어렵습니다.
지식 전달은 가능하지만, 실제 상황에서의 판단과 행동을 바꾸기에는 한계가 있기 때문입니다.
씨드젠의 악성메일 모의훈련 서비스는 단순한 클릭률 테스트를 넘어, 실제 공격 환경을 재현하고 행동 변화를 이끌어내는 실전형 훈련을 제공합니다.
이는 씨드젠의 변화관리 프레임워크인 SETA(SEEDGEN Education, Training & Awareness)의 4단계 행동 변화 방법론 위에서 설계됩니다.
훈련과 훈련 사이의 공백을 ECQ로 연결하다
특히 훈련과 훈련 사이에는 임직원의 경각심이 자연스럽게 낮아질 수 있습니다.
씨드젠의 인식제고 콘텐츠 ECQ는 실제 사건·사고를 바탕으로 제작된 포스터, 카드뉴스, 팝업, DM, 화면보호기 등을 다양한 업무 접점에 반복 노출해 이러한 공백을 보완합니다.
고객사 CI를 반영한 콘텐츠를 바로 배포할 수 있어, 별도의 기획·제작 부담 없이 조직 내 보안 캠페인을 지속할 수 있습니다.
AI는 공격자의 진입장벽을 낮추고, 기존 공격을 더 빠르고 정교하게 실행할 수 있도록 만들었습니다.
그러나 공격이 아무리 자동화되더라도 조직 내부의 정보와 권한에 접근하기 위해서는 여전히 사람의 신뢰와 판단, 행동을 이용해야 합니다.
그렇다고 모든 책임을 임직원의 주의에만 맡길 수는 없습니다. 조직은 임직원이 위험을 알아차리고, 한 번 더 확인하며,
주저 없이 신고할 수 있도록 기술과 절차, 교육과 문화를 함께 설계해야 합니다.
경영진은 교육 이수 여부나 클릭률을 넘어 신고율과 대응 속도, 반복 훈련을 통한 행동 변화를 조직의 실질적인 보안 지표로 관리해야 합니다.
중요한 것은 훈련을 실시했는지가 아닙니다.
공격이 진화하는 속도만큼 조직의 판단과 행동, 대응체계도 함께 진화하고 있는지를 확인해야 합니다.
AI가 공격자의 역량을 끌어올리는 시대일수록, 보안의 차이는 기술과 사람을 함께 움직이게 만드는 조직에서 만들어집니다.
