이사회를 위한 AI 거버넌스

대부분의 이사회가 제대로 관리하지 못하는 속도로 조직 전반에 걸쳐 AI가 도입되고 있다. EU AI법은 고위험 범주에 속하는 AI 시스템을 도입하는 조직에 직접적인 영향을 미치는 구속력 있는 규제 체계를 마련했다. 법원은 AI로 인한 피해에 대한 책임 문제를 다루기 시작하고 있다. 투자자들은 AI에 관한 거버넌스 관련 질문을 제기하고 있으나, 대부분의 이사회는 아직 이에 답할 수 없는 상황이다. 또한 AI와 데이터 개인정보 보호, 고용권, 차별 금지법, 지속가능성 보고가 교차하면서, 이사회가 전적으로 책임을 져야 할 복잡한 법적 책임 구도가 형성되고 있다.

이 과정은 이사회 구성원들이 조직 내에서 인공지능(AI)에 대해 실질적인 감독 기능을 수행할 수 있도록 거버넌스 역량을 함양해 줍니다. 이 과정은 기술적 과정이 아니며, 대규모 언어 모델의 작동 원리를 설명하지 않습니다. 대신, AI가 이사회의 감독 하에 운영될 때 이사회가 어떤 책임을 져야 하는지를 설명하는 거버넌스 과정입니다. 주요 내용으로는 EU AI 법(EU AI Act)에 대한 설명이 포함되며, 여기에는 위험 등급, 금지된 용도, 고위험 AI 시스템에 대한 의무, 그리고 규정 미준수가 조직과 경영진에게 미치는 영향 등이 다뤄집니다; AI 책임 — AI 시스템이 피해를 입혔을 때 누가 책임을 지는지, 기존의 제조물 책임법, 불법행위법, 계약법이 어떻게 적용되는지, 그리고 새롭게 등장하는 AI 특화 책임 체계가 어떻게 발전하고 있는지; 데이터 개인정보 보호 및 AI — AI 도입 시 GDPR 의무, 제22조에 따른 자동화된 의사결정 및 설명 요구권, 그리고 이사회 구성원이 경영진에게 요구해야 할 데이터 거버넌스 요건; AI 윤리 및 차별 — 알고리즘 편향이 발생하는 방식, 차별 금지법이 요구하는 사항, 그리고 직원, 고객 또는 제3자에게 영향을 미치는 AI 기반 결정으로 인해 초래되는 평판 및 법적 위험; AI와 지속가능성 — AI가 ESG 공시 의무와 어떻게 연결되는지, AI 시스템의 에너지 및 환경 발자국, 거버넌스 보고의 대상으로서의 AI; ISO 42001 AI 관리 시스템 표준이 요구하는 사항과 이 표준의 이행에 대한 이사회의 감독이 중요한 이유; 그리고 이사회가 운영해야 할 감독 프레임워크 — 질문해야 할 사항, 경영진에게 요구해야 할 정보, AI 위험 감독에서 감사위원회의 역할.

이 과정은 최근의 집행 조치, 규제 지침 및 진행 중인 소송 사례를 바탕으로 거버넌스 실패가 이미 발생하고 있는 분야를 구체적으로 살펴봅니다.

비집행 이사, 이사회 구성원, 감사위원회 위원 및 최고 경영진에게 적합하며, 특히 운영, 제품, 서비스 또는 의사결정 프로세스 전반에 걸쳐 인공지능(AI)을 광범위하게 도입한 조직에 적합합니다.