미 국방부의 인공지능 윤리적 사용에 대한 권장 사항 발표

[IT Report World]

* 맨 아래로 내리시면 미 국방부의 인공지능 윤리적 사용에 대한 권장 사항 문서(PDF)가 첨부되어 있습니다.

 

미국 국방혁신위원회(Defense Innovation Board, DIB)는 미국 국방부(DoD)를 대상으로 전투 지침 및 비전투용 AI(인공지능) 설계, 개발, 구현 시 윤리 원칙에 대한 권고사항을 포함한 지침 문서를 발표하였습니다.

이 문서는 여러 권고안 중 표준 개발, 인력 프로그램 및 AI 보안 애플리케이션에 대한 투자를 늘려야 할 필요성을 강조하고 있습니다. 

본 문서는 2018년 미국 국방부의 윤리 원칙 제안 요청에 의하여 국방부의 인공지능(AI) 윤리적 사용에 대한 원칙 정립을 위해 권고 문서가 작성되었습니다.

미국 국방혁신위원회는 AI 시스템 사용 목표를 다음과 같이 설정하도록 권고하였습니다.
1) 책임(Responsible)
인간은 적절한 수준의 판단을 수행하고, 미국 국방부(DoD)의 AI 시스템 개발, 구현, 사용 및 결과에 대한 책임을 유지해야 한다.

2) 평등(Equitable). 
미국 국방부(DoD)는 의도치 않게 사람에게 해를 끼칠 수 있는 전투 또는 비전투 AI 시스템의 개발과 구현으로 인해 발생할수 있는 의도하지 않은 편견을 피하기 위해 신중한 조치를 취해야 한다.

3) 추적(Traceable). 
미국 국방부(DoD)의 AI 엔지니어링 규율을 충분히 갖추어, 전문가들이 해당 AI 시스템에 대한 기술과 개발 절차, 운영 방법을 적절히 이해할 수 있도록 해야 하며, 여기에는 투명하고 감사 가능한 방법론, 데이터 소스, 설계 절차 및 문서를 포함해야 한다.

4) 신뢰(Reliable). 
미국 국방부(DoD)의 AI 시스템은 명확하고, 분명한 사용 범위를 가져야 하며, 해당 시스템의 수명주기 동안 안전, 보안, 견고성을 테스트하고 보장해야 한다.

5) 관리(Governable). 
미국 국방부(DoD)의 AI 시스템은 의도하지 않는 손상이나 중단을 감지하고 방지하는 기능을 보유하면서 인간에 의해 의도하지 않은 피해 및 기타 행동을 나타내는 시스템을 비활성화 또는 자동 분리할 수 있는 기능과 함께 동시에 의도된 기능을 수행하도록 공학적으로 설계되어야 한다.

이러한 주요 목표를 지원하기 위해, 미국 국방부는 안전 및 추적 관련 문제에 대한 모범 사례와 기준들을 관리할 것을 권고한다. 

출처 : https://www.ansi.org/news_publications/news_story?menuid=7&articleid=b102ad35-9ee3-471b-a2e9-daad3b8a420c

Defense Innovation Board Report on AI Features Ethics Principles Recommendations

미 국방부의 인공지능 윤리적 사용에 대한 권장사항
( AI Principles : Recommendations on the Ethical Use of Artificial Intelligence by the Department of Defense)
첨부파일 :

DIB_AI_PRINCIPLES_PRIMARY_DOCUMENT.PDF

0.18MB