시스템 보안정보보안기사 · 2023년03월11일 · 11/100
11.AI나 머신러닝의 이미지 인식에 있어서 이미지 속에 인간이 감지할 수 없는 노이즈나 작은 변화를 주어 AI 알고리즘의 특성을 악용하여 잘못된 판단을 유도하는 공격은?
1
Membership inversion 공격
2
Adversarial 공격정답
3
Poisoning 공격
4
Model inversion 공격
해설
Membership inversion 공격 : 공격자가 자신이 가지고 있는 데이터가 인공지능 모델의 학습에 사용된 데이터인지 아닌지 알아내는 공격 Adversarial 공격 : 입력 이미지를 최소한으로 변조하여 인공지능 모델이 오인식하도록 만드는 공격 Poisoning 공격 : 공격자가 AI 모델의 학습 과정에 관여하여 AI 시스템 자체를 손상시키는 공격 Model inversion 공격 : 인공지능 모델에 반복적으로 질의하여 학습에 사용된 데이터를 추출하는 공격 [출처 : kisec 연구리포트 '제2부 - AI를 활용한 공격은 무엇이 있을까?', Review of KIISC '인공지능 보안 공격 및 대응 방안 연구 동향']