AI에 나타날 수 있는 사이버 위협 유형

AI에 나타날 수 있는 사이버 위협 유형

---

1. AI에 나타날 수 있는 사이버 위협의 개념

-공격자가 인공지능(AI) 시스템에 의도적으로 접근해 오작동을 일으키도록 하는 사이버 위협

---

2. AI에 나타날 수 있는 사이버 위협 유형

가. AI에 나타날 수 있는 사이버 위협 유형

- 머신러닝을 채택하는 기업은 늘어나고 있지만 이에 대한 취약성을 인지하고 사이버 보안 대책에 대한 대비는 부족

나. AI에 나타날 수있는 사이버 위협 유형 설명

유형	시점	설명
회피 공격 (Evasion attack)	- AI시스템이 배포된 후 발생	- 입력을 변경해 시스템이 응답하는 방식을 변경하는 공격
중독 공격 (Poisoning attack)	- 손상된 데이터를 삽입해 AI시스템 훈련 단계에서 발생	- 적이 훈련 데이터 세트를 조작하는 공격 - 공격자가 ML 모델에 부정확하거나 잘못 해석된 데이터를 공급해 잘못된 예측을 유도 - 공격자가 훈련 데이터 중 일부에 부적절한 내용 삽입 - AI 모델이 사용하는 데이터세트의 0.1%만 중독해도 성공적인 조작으로 이어질 수 있는 것으로 확인
남용 공격 (Abuse attack)	- AI 도구 작성	- 피싱 이메일을 생성하거나 악성코드 작성과 같이 악성 콘텐츠를 생성하기 위해 AI 도구를 무기화 - 다크웹에서 프러드(Fraud)GPT나 웜(Worm)GPT와 같이 사이버 범죄를 지원하는 LLM 서비스 등장
프라이버시 공격 (Privacy attack)	- AI가 훈련한 데이터 중 민감 정보를 추출해 이를 오용하는 시도	- 공격자는 챗봇에게 다양한 질문을 한 후 모델을 리버스 엔지니어링해 약점을 찾거나 원본 추측 가능

- 이외에도 공격자는 AI나 ML 모델의 취약점을 찾아 백도어를 만들거나 악성코드를 주입해 기업 내부로 침투하는 초기 네트워크 액세스 권한을 얻고 측면으로 이동 가능

- 악성코드를 배포하고 데이터를 훔치고 심지어 조직의 공급망을 오염시키는 공격이 가능