3.8 Google의 AI 원칙 제정 과정 및 책임감 있는 AI 프레임워크 구축

Google의 AI 원칙 제정 과정 및 책임감 있는 AI 프레임워크 구축

이 영상은 Google이 책임감 있는 AI 개발 및 사용을 위한 AI 원칙을 제정하는 과정을 상세히 설명하고, 기업이 자체적인 AI 원칙을 수립하는 데 도움이 될 수 있는 인사이트를 제공합니다.

Google AI 원칙 제정 배경:

• 기존의 미션 및 가치만으로는 AI의 책임감 있는 개발 및 사용을 포괄적으로 안내하기 어려웠음.
• ML 공정성에 대한 인식이 높아지면서 책임감 있는 AI 접근 방식에 대한 필요성 증대.
• 모든 Google 직원이 공유하고 따를 수 있는 공식적이고 포괄적인 책임감 있는 AI 목표 부재.

Google AI 원칙 제정 여정:

• 2017년 여름, CEO 순다르 피차이가 Google을 AI-first 기업으로 선언하면서 AI 윤리 헌장("AI ethical charter") 구상 시작.
• 수년간 다양한 팀의 협력을 통해 학습과 반복 과정을 거쳐 AI 원칙으로 발전.
• 책임감 있는 AI 개발을 위한 지속적인 노력의 중요성 강조.
• 기술 발전과 함께 방법 및 해석에 대한 지속적인 개선 의지 표명.

공유된 윤리적 약속의 중요성:

• 개인의 윤리적 가치 외에 공유되고 명문화된 AI 원칙은 공동의 목표 의식을 고취하고 동기 부여.
• 기술 개발뿐만 아니라 미션 및 가치에 부합하는 개발의 필요성 인식.

AI 원칙 제정팀 구성:

• AI 기술 전문가뿐만 아니라 다양한 기술, 배경 및 인구 통계학적 특성을 가진 Google 직원으로 구성된 교차 기능 팀 구성.
• 사용자 연구, 법률, 공공 정책, 개인 정보 보호, 온라인 안전, 지속 가능성 및 비영리 분야의 전문가 참여.
• AI, 인권 및 시민권 분야 외부 전문가 및 제품 전문가의 의견 수렴.
• 다양한 국적, 성별, 인종, 민족 및 연령 그룹의 의견 반영.
• 워킹 그룹 외부의 의견 수렴을 위한 다양한 방법 개발 (예: 각 구성원의 팀 및 외부 전문가 피드백 요청).
• 다양한 이해관계자의 의견을 바탕으로 행동할 소규모 그룹 운영의 중요성 강조.
• 다양한 목소리 반영은 AI 원칙의 포용성을 높이고 프로세스에 대한 신뢰 구축.

AI 원칙 초안 작성 과정:

• 연구: AI 관련 사용자 및 학술 연구, 미디어 보도, 대중 문화 속 AI 이미지 분석을 통해 사람들이 비윤리적 AI로 간주하는 기준 파악.
• 초안 작성: 연구 결과를 바탕으로 주요 우려 사항 및 테마를 해결하기 위한 원칙 초안의 반복적인 작성.
• 외부 전문가 피드백: AI, 정책, 법률 및 시민 사회 분야 외부 전문가에게 자체적인 우선순위 목록 작성을 요청한 후 Google 초안과 비교하여 격차 및 반응 확인.
• 내부 검토 및 통합: 지속적인 피드백 및 개선 프로세스를 통해 광범위한 적용 범위를 유지하면서 원칙 목록 통합.

Google AI 원칙의 결과:

• AI 애플리케이션을 위한 7가지 목표 ("objectives for AI applications")
• 추구하지 않을 4가지 AI 애플리케이션 영역 ("AI Applications we will not pursue") 명시:
  • 전반적인 피해를 야기할 가능성이 있는 기술
  • 감시 등 국제적으로 합의된 규범에 위배되는 기술
  • 개인 정보 보호 기대에 위배되는 기술
  • 불공정한 편향을 야기하거나 강화하는 기술
• 명시적으로 구축하지 않을 영역을 밝히는 것의 중요성 강조.
• 2018년 6월 AI 원칙 발표.
• 일상적인 논의, 제품 개발 과정의 기회 및 위험 검토의 기반으로 활용.
• 모든 Google 직원의 의사 결정 시 공유된 윤리적 약속 제공.

책임감 있는 AI 프레임워크 구축을 위한 고려 사항:

• 책임감 있는 AI 분야는 초기 단계였지만, 특히 유색인종 학자 및 옹호 커뮤니티의 선구적인 노력 덕분에 윤리적 요구 사항, 표준 및 관행에 대한 연구가 크게 성장함.
• AI 커뮤니티 내에서 유용한 AI 원칙의 내용에 대한 상대적인 합의 형성.
• 회사의 미션, 가치, 지리적 입지 및 조직 목표가 접근 방식에 영향을 미치며, 특정 비즈니스 컨텍스트에 따라 원칙의 관련성이 달라질 수 있음.
• 고객 지원 챗봇 개발 회사와 다양한 고객에게 광범위한 사용 사례를 제공하는 컨설팅 회사의 AI 원칙은 다를 수 있음.
• 모든 사용 및 산업에 적용할 수 있는 명확한 핵심 테마 존재.

결론:

Google의 AI 원칙 제정 과정에 대한 이해는 조직이 자체적인 AI 원칙을 구축하는 데 유용한 참고 자료가 될 수 있습니다. 조직의 가치와 직면한 과제를 바탕으로 AI 거버넌스의 토대가 될 AI 원칙을 정의하는 것이 중요합니다.