Microsoft: 해커는 AI를 사용하여 사이버 공격 기술을 향상시킵니다.

여러 국가가 후원하는 사이버 위협 조직이 ChatGPT를 사용하여 피싱 이메일을 작성하기 시작했습니다.

Microsoft가 OpenAI와 함께 발표한 보고서에 따르면 해커들이 사이버 공격 전략을 개선하기 위해 ChatGPT와 같은 대규모 언어 모델(LLM)을 사용하고 있다고 합니다.

이 연구에 따르면 데이터 체리피킹, 파일 조작, 멀티태스킹을 통해 다수의 국가 지원 해킹 조직이 공격 방법을 업그레이드했습니다.

이 보고서는 지난달 러시아가 지원하는 해킹팀의 침입으로 일부 고위 경영진의 이메일 계정이 유출되었다는 소식이 전해진 직후에 발표되었습니다.

## 보고서에서 발견된 내용은 무엇인가요?

[Microsoft의 이 보고서], 파트너인 OpenAI와 함께 진행한 이번 연구는 제너레이티브 AI 기술을 안전하고 책임감 있게 활용하는 방법을 모색하는 것을 목표로 합니다.

이 보고서에 따르면 일부 공격자들은 AI 기능을 전략과 운영 절차에 통합하고 있는 것으로 나타났습니다.

이 보고서는 러시아 군사 정보기관과 연계되어 있으며 "매우 효과적인 위협 행위자"로 간주되는 스트론튬 조직의 사이버 공격 사례를 인용합니다. 이 연구에 따르면 이 조직은 AI의 도움을 받아 LLM 지원 탐지 및 LLM 강화 스크립팅 기법을 사용할 수 있었습니다.

간단히 말해, LLM 지원 정찰은 생성형 AI를 사용하여 위성 통신 프로토콜과 레이더 이미징 도구를 학습함으로써 잠재적 표적에 대한 더 깊은 이해와 귀중한 인사이트를 제공하는 것을 말합니다.

마찬가지로, LLM 강화 스크립팅 기법은 공격 중에 특정 작업을 수행할 수 있는 코드 스니펫을 생성하기 위해 AI 모델을 사용하는 것을 말합니다.

이러한 LLM의 사용은 사이버 범죄자들이 안티바이러스 시스템을 무력화하고 디렉토리 파일을 삭제하여 데이터 침해가 비정상적으로 신고되는 것을 피하기 위해 생성형 AI를 사용하여 코드를 작성하는 더 광범위한 우려스러운 추세를 보여줍니다.

## 위험에 처한 산업

이 연구에서는 여러 위협 조직이 언급되었으며, 이러한 조직의 표적은 스트론튬, 숯 태풍, 연어 태풍과 같은 광범위한 산업 분야를 포괄합니다. 이들의 표적은 다음과 같습니다:

• **방어
• 재생 에너지
• 정부 기관
• 비정부기구(NGO)
• 석유 및 가스
• 과학 및 기술
• 운송 및 물류

 

연어 태풍(일명 나트륨)은 과거 미국 국방부에 대한 공격을 수행한 것으로 알려져 있다는 점에 주목할 필요가 있습니다.

이 보고서는 또한 다양한 해킹 조직이 특정 지역을 표적으로 삼는다는 점을 강조했는데, 예를 들어 Charcoal Typhoon(일명 Chromium)은 주로 대만, 태국, 몽골, 말레이시아, 프랑스, 네팔의 조직을 표적으로 삼았다고 합니다.

 

Microsoft의 반격 방법

 

이 보고서는 AI 공격에 대응하는 가장 간단한 해답은 AI 기술을 사용하여 반격하는 것임을 보여줍니다.

> "AI는 공격자가 공격의 정교함을 높이는 데 도움이 될 수 있으며 공격에 필요한 리소스를 충분히 확보하고 있습니다. Microsoft는 300개 이상의 위협 조직을 추적하고 있으며 보호, 탐지 및 대응을 위해 AI 기술을 사용하고 있습니다." - 호마 하야티파, 기본 탐지 분석 관리자, Microsoft

이 전략에 따라 Microsoft는 새로운 [...]를 개발하고 있습니다.GPT-4 AI 어시스턴트, 보안 코파일럿)은 사이버 위협과 보안 위험을 더 빠르게 감지하고 이를 요약하여 잠재적인 피해를 방지하도록 설계되었습니다. 이 도구는 해당 보안 조치를 타겟팅하고 강화할 수 있습니다.

이 거대 기술 기업은 지난달 회사 경영진의 이메일 계정이 유출되고 Azure 클라우드 서비스가 침해된 후 레거시 시스템에 대한 보안 표준을 강화하는 작업을 진행 중입니다.