인공지능 윤리

I. 인공지능 윤리 이슈 등장배경

가. 인공지능 도입으로 인한 역기능

   - 인공지능의 발전은 사회 전반에 새로운 기회를 가져오고 있으나, 이와 함께 인공지능 도입으로 인한 역기능과 이에 대한 규범적 대응 논의 부상

나. 인공지능 활용을 위한 윤리 및 법, 제도 필요성

분류	필요성	상세설명
자율주행 자동차	제조물 책임	- 자율주행단계 구분에 따라 L3 수준의 주행 도중 사고 발생 - 운전자의 책임이 아닌 제조자에게 책임을 물을 수 있는가?
	트롤리 딜레마	- 차량 운행 중 선택의 딜레마에 빠진 경우에 대한 논란
데이터 편향	알고리즘 편향	- 인공지능에 의한 비의도적 차별과 편향의 사례 발생
	인간의 편향	- 알고리즘에 대한 코딩을 하는 인간의 주관적 판단이 반영
인공지능간 경쟁, 충돌	개별 영역에서 의사결정모순	- 의료, 군사 시스템에서는 인공지능 간의 사소한 오류가 심각한 결과를 가져온다. 투표 패러독스
	죄수의 딜레마	- 자신의 이익만을 고려한 선택이 모두에게 불리한 결과 유발

- 윤리적 접근은 윤리적 민감성과 자율성 두 축을 조합으로 윤리적 의사시스템 구축

---

II. 인공지능의 규범에 대한 윤리적, 법제도적 접근방안

가. 인공지능의 규범에 대한 윤리적 접근방안

윤리적 접근	특징	설명
인공적 도덕 행위자	윤리적 민감성	- 의도하지 않아도 도덕적 의사결정을 내릴 수 있는 SW 가능성
	자율성	- 인공적 도덕행위자는 인간의 감독을 벗어나 스스로 결정
도덕적 기계	하향식 접근	- 구체적인 윤리 이론을 택한 후 컴퓨팅적 요건 분석
	상향식 접근	- 행동과정들을 탐구하고, 칭찬받을 행동에 대한 보상을 받는 환경
	하이브리드	- 중요한 덕 목록 제시(하향식), 이를 학습을 통해 달성(상향식)
도덕적 가치 알고리즘 프로그래밍	논리기반 접근	- 합리적 행위자의 윤리적 사고를 모델링하기 위한 수학적 틀 제공
	사례기반 접근	- 적절한 행동을 추론, 학습하는 방식을 사례를 통해 탐구
	다중행위 접근	- 다양한 윤리적 전략을 따르는 행위자들이 서로 상호작용

나. 인공지능의 규범에 대한 법제도적 접근방안

법적, 제도적 접근방안	특징
로봇규제 가이드라인	- 4가지 분야 개별규제, 투명한 규제환경, 책임있는 연구와혁신, 기술적규제
연방로봇위원회	- 현행 법률 한계, 인공지능 문제 다룰 법률 마련
전자인	- 특정 법적 지위 창출, 전자 인격 적용
인공지능 규제체계	- 규제역량 미흡, 구글 AI 윤리위원회
인공지능관련 연구단체	- OpenAI, 스탠포드 AI100