AI 기반 시스템의 AI 고유 특성

I.  AI 기반 시스템의 정의

   - 최소 하나 이상의 AI 구성요소를 포함하는 시스템

   - AI 기반 시스템도 여느 시스템과 동일하게 기능, 비기능 요구사항이 존재하며, 따라서 ISO 25010 품질모델의 품질 특성을 이용해 AI 기반 시스템의 요구사항을 부분적으로 정의 가능하나 품질모델에는 없는 AI 고유 특성이 존재

 

II. AI 고유 특성(AI-Specific Characteristics)의 유형 및 유형 설명

가. AI 고유 특성의 유형

나. AI 고유 특성의 유형 설명

구분	설명
적응성 (Adaptability)	- 시스템이 기능 및 비기능 요구사항 모두를 지속적으로 충족하기 위해 환경 변화에 반응하는 특성
자율성 (Autonomy)	- 시스템이 인간의 개입 없이 지속적으로 작동 할 수 있는 특성
진화 (Evolution)	- 다른 유형의 변화에 대처하는 시스템의 특성
유연성 (Flexibility)	- 시스템이 초기 명세를 벗어난 상황에서 작동 할 수 있는 특성
편향성 (Bias)	- 기계학습 모델에서 제공한 예측값과 실제값의 차이를 측정한 값
성능 매트릭 (Performance Metrics)	- 기계학습 모델에 대한 성능 매트릭으로 정확도, 정밀도, 재현율이 가장 널리 사용
투명성 (Transparency)	- AI 기반 시스템의 결과도출 방법을 얼마나 쉽게 확인할 수 있는 지 측정
복잡성 (Complexity)	- 심층신경망으로 구성된 AI 기반 시스템의 매우 높은 복잡도
비결정성 (Non-Determinism)	- 결정적 시스템과 달리 실행할 때마다 동일한 입력에서 동일한 출력을 생성한다는 보장이 없는 특성

- AI 고유 특성을 고려한 시스템에 대한 테스팅 방법론 결정 필요