3.14 AI 원칙 실천: 비판적 질문을 통한 윤리적 문제 식별 (이슈 스포팅)

AI 원칙 실천: 비판적 질문을 통한 윤리적 문제 식별 (이슈 스포팅)

이 영상은 Google이 AI 원칙을 실제 운영에 적용하는 핵심 단계인 '이슈 스포팅(Issue Spotting)' 프로세스를 소개합니다. 이슈 스포팅은 AI 사용 사례에서 발생할 수 있는 잠재적인 윤리적 문제를 식별하는 과정입니다.

체크리스트의 한계를 넘어선 비판적 질문:

Google은 윤리적 문제 식별에 도움이 되는 지침이 필요하지만, 비판적 분석을 저해할 수 있는 단순한 체크리스트 방식은 지양해야 한다는 점을 인식했습니다. 대신, Google의 이슈 스포팅 접근 방식은 개발한 기술에 대해 비판적으로 생각하도록 유도하는 질문을 제공하는 데 기반합니다. 이러한 질문은 추가 정보를 찾고 최악 및 최상의 시나리오를 고려하는 것의 중요성을 강조하는 잘 확립된 윤리적 의사 결정 프레임워크에 뿌리를 두고 있습니다. 이는 간과될 수 있는 잠재적인 윤리적 문제를 발견하는 데 도움이 됩니다.

이슈 스포팅 질문의 범위:

이러한 질문은 전반적인 제품 정의, 해결하려는 문제, 의도된 사용자, 사용된 데이터, 모델 학습 및 테스트 방식 등 다양한 주제를 다룹니다. 또한 사용 사례의 목적 및 중요성, 사회적으로 유익한 응용 프로그램, 오용 가능성과 같은 맥락에 초점을 맞춘 질문도 포함됩니다. 이러한 질문은 AI 모델의 공정하고 책임감 있는 사용에 영향을 미칠 수 있는 설계 결정의 영향을 강조하기 위한 것입니다.

잠재적 문제에 대한 사전 가정:

Google은 겉보기에 사회적으로 유익한 사용 사례조차도 항상 해결할 수 있는 문제가 있다는 가정에서 모든 AI 사용 사례를 평가합니다. 이러한 비판적 사고 과정에서 AI 원칙의 윤리적 목표와 충돌할 수 있는 문제가 발생하면 보다 심층적인 검토가 이루어집니다.

심층 윤리 검토가 필요한 복잡한 영역:

AI 원칙 검토를 수행하는 과정에서 Google은 AI 개발 중 더 면밀한 윤리적 검토가 필요한 특정 복잡한 영역을 인식했습니다. 귀사의 비즈니스 맥락과 관련된 사용 사례에서 위험 및 피해 영역을 식별하는 것이 중요하며, 특히 감시 또는 합성 미디어와 관련된 AI 애플리케이션 구축 시 특별한 주의를 기울여야 합니다. 귀사의 비즈니스에 복잡한 영역은 귀사의 도메인 고객에 따라 크게 달라질 것입니다. 새롭게 떠오르는 위험 및 사회적 피해 영역을 식별하는 것은 업계 내 활발한 논의의 일부이며, 이 분야에서 향후 표준 및 정책이 나올 것으로 예상됩니다.

가상 사용 사례 검토:

AI 원칙이 침해되었거나 침해될 위험이 있는지 평가하기 위해 이슈 스포팅 질문을 사용하는 가상 사용 사례를 살펴보겠습니다. Santa Clara University의 Markkula Center for Applied Ethics에서 만든 사례 연구를 각색한 가상의 자폐 스펙트럼 장애 (ASD) Carebot이라는 제품을 검토합니다.

ASD의 원인은 심오하게 논쟁되고 있지만, 연구에 따르면 유병률이 증가하고 있으며 조기에 진단받고 주요 서비스를 제공받은 어린이가 잠재력을 최대한 발휘할 가능성이 더 높습니다. 일부 학교에서는 훈련된 치료사의 감독하에 학생들이 언어 기술 및 사회적 상호 작용을 연습하는 데 도움이 되는 로봇으로 성공을 거두었지만, 이는 아직 저렴하거나 널리 접근 가능한 리소스가 아닙니다. 결과적으로 모든 학교가 이러한 지원을 제공하는 것은 아닙니다.

이제 AI 제품 팀이 미취학 아동을 대상으로 어린이 집에서 사용하도록 설계된 저렴한 ASD Carebot을 구축할 것을 제안한다고 상상해 보십시오. 이들은 긍정적인 사회적 상호 작용을 강화하기 위해 음성, 제스처, 얼굴 감정 분석 및 개인화된 학습 모듈을 갖춘 클라우드 기반 AI 챗봇을 구상합니다.

이슈 스포팅 질문 적용:

이슈 스포팅에서는 먼저 사용 사례에 대해 비판적으로 생각하는 데 필요한 질문을 식별하는 것이 유용합니다.

• 이 제품의 이해관계자는 누구입니까?
• 그들은 무엇을 얻기를 희망합니까?
• 이해관계자마다 다른 요구 사항이 있습니까?
• ASD Carebot의 개발 및 사용으로 인해 각 AI 원칙이 어떻게 충족되거나 위반될 수 있습니까?

AI 원칙 검토에서는 즉시 답할 수 있는 것보다 더 많은 질문을 할 수 있지만, 분석을 통해 팀의 향후 진행 방식에 궁극적으로 영향을 미칠 탐색 영역을 발견할 수 있습니다.

• 사회적 이점 측면에서: 제품의 목표는 현재 혜택을 받을 수 있는 모든 사람이 접근할 수 없는 치료법의 접근성을 확대하는 것입니다. 그러나 이것이 이 치료법을 제공하는 최선 또는 올바른 방법이며, ASD를 이러한 유형의 개입이 필요한 것으로 취급해야 합니까?
• 불공정한 편향 생성 또는 강화 방지 목표는 팀이 다음과 같은 질문을 던지도록 이끌 수 있습니다: 팀 구성원이 모델의 공정성에 어떻게 영향을 미칠 수 있습니까? 제품 설계 및 통합을 검토할 때 공정성을 면밀히 고려하고 평가해야 하는 곳은 어디입니까? Carebot의 직접적인 영향을 받을 사람들의 필요한 의견이 있습니까? Carebot의 기본 모델을 개발하기 위해 학습 데이터는 어디에서 가져올 것입니까? 해당 데이터는 누구를 대표하며, 제대로 대표되지 않을 수 있는 ASD를 가진 사람 또는 그룹이 있습니까?
• 안전 측면에서: 이 모델이 예상대로 작동하지 않거나 시간이 지남에 따라 모델 드리프트 또는 성능 저하가 발생하면 어떻게 될 수 있습니까? 인적 안전이 위험에 처할 수 있습니까?
• 잠재적인 개인 정보 보호 위험 및 고려 사항을 살펴보면: 가정은 교실보다 훨씬 더 민감하고 공유된 환경으로 볼 수 있습니다. 이 Carebot은 어떤 종류의 데이터를 수집합니까? 특별한 개인 정보 보호 위험을 초래할 수 있는 데이터 세트가 있습니까? 이 매우 민감한 사용 사례에 대한 적절한 개인 정보 보호를 보장하는 데 도움이 될 수 있는 설계 원칙은 무엇입니까?
• 시스템의 책임성을 평가하기 위해: 개발자는 시스템에 대한 인간의 감독이 어떻게 보장될 것인지 알고 싶어 할 수 있으며, 이 시스템에 참여하는 사람들에게 어떤 종류의 정보에 입각한 동의가 적절한지 결정해야 합니다. 예를 들어 Carebot이 자신을 "친구"로 소개하는 것이 허용되어야 합니까? 고려해야 할 긍정적 및 부정적 영향이 있습니까?
• 과학적 우수성은 제품 소유자에게 이러한 도구를 개발하는 데 필요한 전문 지식이 있는지, 아니면 학생들의 요구 사항에 대한 깊은 이해를 개발하기 위해 ASD 또는 교육 치료를 전문으로 하는 외부 파트너와 협력하는 것을 고려해야 하는지 평가하도록 촉구합니다. 이를 결정하는 데 도움이 되는 몇 가지 질문은 다음과 같습니다. 원하는 이점을 수행하고 제공하는지 확인하기 위해 이 사용 사례에 어떤 종류의 테스트 및 검토가 적절합니까? 이를 책임감 있게 수행하기 위한 기술적 및 과학적 기준은 무엇입니까?
• 마지막으로, 이러한 원칙에 부합하는 용도로 제공되어야 한다는 AI 원칙은 제품 소유자에게 솔루션이 저렴하고 접근 가능하게 널리 사용자에게 제공될지 여부를 고려하도록 제안합니다.

이슈 스포팅 질문을 함으로써 팀은 사용 사례의 잠재적인 이점과 피해를 평가하기 위해 비판적으로 생각할 수 있습니다. 철저한 검토를 통해서만 새로운 AI 애플리케이션에 대한 책임감 있는 접근 방식을 형성할 수 있습니다.