인공지능(AI) 기술은 상업과 건강에서 교통과 사이버 보안, 환경과 지구에 이르기까지 사회와 사람들의 삶을 변화시킬 수 있는 상당한 잠재력을 가지고 있다. AI 기술은 포괄적인 경제 성장을 주도하고 세상의 여건을 개선하는 과학적 발전을 지원할 수 있다. 그러나 AI 기술은 개인, 그룹, 조직, 커뮤니티, 사회, 환경 및 지구에 부정적인 영향을 미칠 수 있는 리스크도 내포하고 있다. 다른 유형의 기술에 대한 리스크와 마찬가지로 AI 리스크는 다양한 방식으로 나타날 수 있으며 장기 또는 단기, 높거나 낮은 확률, 체계적 또는 국지적, 높거나 낮은 영향으로 특징지을 수 있다.
이 AI RMF는 주어진 목표 집합에 대해 실제 또는 가상 환경에 영향을 미치는 예측, 권장 사항 또는 결정과 같은 출력을 생성할 수 있는 엔지니어링 또는 기계 기반 시스템으로 AI 시스템을 언급하고 있다. AI 시스템은 다양한 수준의 자율성으로 작동하도록 설계되었다(출처: AI에 대한 OECD 권고:2019; ISO/IEC 22989:2022).
조직이 기존 소프트웨어 또는 정보 기반 시스템의 리스크를 완화하는 데 도움이 되는 수많은 표준과 모범 사례가 있지만 AI 시스템이 제기하는 리스크는 여러 면에서 독특하다(부록 B 참조).
예를 들어, AI 시스템은 시간이 지남에 따라, 때때로 크게 그리고 예기치 않게 변경될 수 있는 데이터에 대해 교육을 받을 수 있으며, 이해하기 어려운 방식으로 시스템 기능과 신뢰성에 영향을 미칠 수 있다. AI 시스템과 이를 배포하는 컨텍스트는 복잡한 경우가 많기 때문에 오류가 발생했을 때 이를 감지하고 대응하기가 어렵다. AI 시스템은 본질적으로 사회 기술적인 특징을 갖고 있다. 즉, 사회적 역학 및 인간 행동의 영향을 받는다. AI 리스크 및 이점은 시스템 사용 방법, 시스템을 운영하는 다른 AI 시스템과의 상호 작용, 시스템이 배포되는 사회적 맥락과 관련된 사회적 요인과 결합된 기술적 측면의 상호 작용에서 나타날 수 있다.
