해커도 활용하는 AI..."공격 막으려면 '보안자동화' 해야"

[이데일리 김가은 기자] “인공지능(AI)은 해커(공격자)들을 위한 것이기도 하다. 미국과 중국의 경제 규모 다음으로 큰 것이 8조2억달러(1경647조7000억원)에 달하는 사이버 범죄인 만큼, 공격자들은 더 빠르고 새로운 방식으로 공격을 진행 중이다”

6일 이안 림 팔로알토네트웍스 아시아·태평양 지역 최고보안책임자(CSO)는 서울 여의도 콘래드 호텔에서 열린 ‘2023 글로벌 AI보안 콘퍼런스’에서 AI를 악용한 보안 위협이 증가하고 있다고 강조했다.

이안 림 팔로알토네트웍스아시아·태평양 지역 최고보안책임자(CSO)가 6일 서울 여의도 콘래드 호텔에서 열린 ‘2023 글로벌 AI보안 콘퍼런스’에서 발표하는 모습.(사진=김가은 기자)

생성형 AI 활용 늘리는 공격자들…‘웜GPT’ 등장

챗GPT 등장 이후 전 세계는 생성형 AI 기술 개발과 내재화에 매진해 왔다. 일상생활 편의성과 업무의 생산성을 높여줄 일종의 ‘보조 도구’로 활용하기 위해서다. 문제는 사이버 범죄를 펼치는 해커들 또한 생성형 AI를 활용해 진화하고 있다는 것이다.

‘웜GPT(WormGPT)’가 대표적이다. 웜GPT는 생성형AI를 활용한 범죄도구로, 글로벌 사이버보안 기업 슬래시넥스트에 따르면 오픈소스 언어모델 ‘GPT-J’ 기반으로 개발됐따. 해킹과 악성코드 관련 데이터를 대량으로 학습해 피싱 이메일 제작에 특화된 것으로 알려졌다. 사용법은 간단하다. 챗GPT와 마찬가지로 사용자가 원하는 조건을 자연어로 입력하면 결과물을 도출하는 방식이다.

6일 공격자가 온라인 사이버 해킹포럼에서 생성형 AI 기반 피싱 범죄 도구 ‘웜GPT’ 사용기를 공유한 모습(사진=김가은 기자)

슬래시넥스트 측은 “전문적인 비즈니스 용어를 사용하고, 오탈자나 문법 오류 또한 발견되지 않았다”며 “비즈니스 이메일 침해(BEC)의 새로운 방향성을 제시했다”고 평가하기도 했다.

이안 CSO 또한 “과거 44일이 필요했던 해커공격이 지난해에는 단 5일 밖에 걸리지 않게 됐고, 이제는 몇 시간 밖에 소요되지 않을 만큼 시간이 단축됐다”며 “웜GPT 등 생성형 AI를 활용한 신종, 변종 방법으로 공격을 빠르게 진행 중”이라고 경고했다.

스리샤 벨락바디 브리티시텔레콤 데이터·AI 엔지니어링 총괄도 공격자들이 AI 기술을 주시하고 있다고 역설했다. 그는 “챗GPT나 다른 AI툴을 잘 사용하면 공격 탐지에서도 좋은 효과를 얻을 수 있을 것”이라면서도 “그러나 우리가 개발한 AI 툴과 지식은 공격자들도 함께 사용할 수 있어 AI를 보안에 사용하는 것이 어느 때보다 중요해졌다”고 설명했다.

미래 AI 보안 핵심은 ‘자동화’…성장세 지속

AI를 더한 사이버 공격이 점차 확대되는 가운데, 전문가들은 미래 보안의 핵심으로 ‘자동화’를 꼽았다. 생성형 AI를 포함한 다양한 기술을 활용해 탐지부터 분석, 대응을 자동화하는 방향으로 발전해야만 효율적인 방어가 가능해서다.

쉽게 말해 과거 보안 담당 인력이 일일이 처리해야 했던 수많은 위협을 AI를 통해 자동화하는 것은 물론, 사람에게 적절한 가이드라인을 제시하는 방법으로 효율성을 높여야만 고도화·다변화된 공격에 대응할 수 있다는 의미다.

마크 존스턴 구글클라우드 최고정보보호책임자(CISO)는 “방어자는 스스로의 자산, 시스템, 비즈니스, 서비스, 정부 상황 등 공격자보다 더 많은 정보를 충분히 갖고 있다”며 “이를 바탕으로 AI를 활용하면 비정상 상황 포착, 보안 위협 정보 텍스트화 및 요약 등 보안 능력을 강화할 수 있다”고 설명했다.

마크 존스턴 구글클라우드 최고정보보호책임자(CISO)가 6일 서울 여의도 콘래드 호텔에서 열린 ‘2023 글로벌 AI보안 콘퍼런스’에서 발표하는 모습(사진=김가은 기자)

이안 CSO는 “전 세계적으로 모든 조직들은 굉장히 많은 보안 제품을 갖고 있다”며 “시스템의 복잡성은 매우 심각한 수준이며 이를 AI로 자동화하면 연간 2641시간을 절약, 더 고도화된 탐지 등에 인력을 투입시킬 수 있게 된다”고 힘줘 말했다.

스리샤 총괄도 “대부분의 기업은 AI 자동화 담론을 얘기하고 있다”며 “많은 시간을 자동화해 투자해 시스템을 단단하게 만들고, 취약점을 주도적으로 탐지해야 한다”고 말했다.

AI 보안 산업에 대한 전망은 밝다. 김강수 시장조시기관 포레스터 지사장은 “AI 보안 시장은 오는 2030년까지 연평균 19% 성장률을 보일 것”이라며 “2023년에는 90억달러(약 12조) 시장이 될 것으로 예측하고 있으며, 2030년에는 38조에 달한 것”이라고 분석했다.

특히 그는 보안 위협 분석에 특화된 생성형 AI가 시장에 큰 영향을 미칠 것으로 내다봤다. 김 지사장은 “보안툴에 구현된 생성형 AI 대부분은 애플리케이션 안에서 별도 챗봇 형태로 구현된 경우가 많다”며 “실제 업무 프로세스 상에서는 자연스럽지 않은 만큼, 향후 생성형 AI가 전적으로 1차적 보안 위협을 대응하도록 만드는 식으로 활용하게 되면 드라마틱한 영향을 미칠 것”이라고 했다.