생성적 AI 공격을 능가함

Morphisec의 Nir Givol은 정교한 AI 기반 기술로부터 시스템을 방어하는 데 따른 어려움을 설명하고 차세대 공격자를 물리치는 방법에 대한 몇 가지 팁을 제공합니다.

사이버테크 | 2023년 1월 8일

사진: Reuters Connect를 통한 Imago 이미지

ChatGPT, Copilot, Bard 등과 같은 인공 지능(AI) 도구가 계속해서 정교해짐에 따라 보안 방어자에게는 더 큰 위험이 닥치고 AI 기반 공격 기술을 채택하는 공격자에게는 더 큰 보상이 제공됩니다.

보안 전문가로서 귀하는 레거시를 유지하기 위해 오랜 시간에 걸쳐 구축된 다양한 운영 체제(OS)의 다양한 생태계를 방어하는 동시에 새롭고 현대적인 B2B 및 B2C 하이퍼스케일, 초고속, 데이터가 풍부한 인터페이스를 채택해야 합니다. 공격자를 방어하는 데 도움이 되는 최고의 최신 보안 제품을 찾고 의존합니다.

그러나 정교한 AI 기반 기술과 맞붙을 때 기존 보안 제품 및 관행에는 한 가지 중요한 방어 요소가 빠져 있습니다. 엄청난 속도와 규모를 활용합니다.

생성 AI 시스템과 그 시스템의 탐지 및 예방 기술 침해 능력에 대한 최우선 우려 사항에 대한 명확한 패턴이 나타나기 시작했습니다.

InfoSec 전문가들은 Generative-AI가 다음과 같은 용도로 활용될 수 있다고 우려합니다.

수비수의 관점

머신 러닝(ML) 및 딥 러닝(DL)의 하위 집합을 포함하는 인공 지능(AI)은 최신 엔드포인트 보호 플랫폼(EPP) 및 엔드포인트 탐지 및 대응(EDR) 제품에 필수적입니다.

이러한 기술은 알려진 악성 및 양성 동작이나 코드 패턴에 대해 방대한 양의 데이터를 학습하여 작동합니다. 이러한 학습을 ​​통해 이전에는 볼 수 없었던 위협을 예측하고 식별할 수 있는 모델을 만들 수 있습니다.

구체적으로 AI는 다음과 같은 용도로 사용될 수 있습니다.

AI의 사용은 이제 사고의 맥락을 식별하고 엔드포인트의 동작을 이해하여 경고를 표백하고 이전에 전송된 풍부한 원격 측정 데이터를 사용하여 잘못 분류된 정보를 소급하여 수정함으로써 오탐을 줄이는 데 도움이 되는 사실상의 표준이 되고 있습니다.

공격자의 관점

AI가 발전하고 더욱 정교해짐에 따라 공격자는 이러한 기술을 활용하여 AI 기반 엔드포인트 보호 솔루션을 우회할 수 있는 위협의 개발을 가속화하는 새로운 방법을 찾을 것입니다.

공격자가 AI를 활용하여 대상을 손상시킬 수 있는 방법은 다음과 같습니다.

공격자는 AI를 적극적으로 사용하여 취약성 검색을 자동화하고, 강력한 피싱 메시지를 생성하고, AI 기반 보안 시스템의 약점을 찾고, 새로운 공격을 생성하고, 비밀번호를 해독할 것으로 예상됩니다. AI와 머신러닝이 발전함에 따라 조직은 이러한 위협으로부터 자신을 보호하기 위해 경계심을 유지하고 AI 기반 공격의 최신 개발 상황을 따라잡아야 합니다.

AI 기반 시스템을 사용하는 조직은 기본 데이터 세트, 훈련 세트 및 이 학습 프로세스를 구현하는 기계의 견고성과 보안에 의문을 제기하고 승인되지 않고 잠재적으로 무기화되는 악성 코드로부터 시스템을 보호해야 합니다. AI 기반 보안 솔루션 모델에 약점이 발견되거나 주입되면 해당 솔루션의 보호가 전 세계적으로 우회될 수 있습니다.

Morphisec은 이전에 국가 행위자, 조직 범죄 그룹 또는 고급 해킹 그룹과 같은 고도로 숙련되고 자원이 풍부한 위협 행위자의 정교한 공격을 관찰했습니다. AI 기반 기술의 발전은 다형성 및 회피형 악성 코드 생성을 자동화함으로써 정교한 위협 생성에 대한 진입 장벽을 낮출 수 있습니다.

이는 미래에 대한 걱정만이 아니다.

오늘날의 엔드포인트 보안 솔루션을 우회하기 위해 AI를 활용할 필요는 없습니다. EDR 및 EPP의 탐지를 회피하는 전술과 기법, 특히 메모리 조작 및 파일리스 악성 코드에 대한 문서가 잘 문서화되어 있습니다. Picus Security에 따르면 회피 및 인메모리 기술은 실제 악성 코드에 사용되는 상위 기술 중 30% 이상을 차지합니다.