AI 시대의 인간 번영

지난 2년간 AI의 폭발적인 발전, 특히 생성형 AI와 거대 언어 모델(LLM)은 우리가 일하고 기술에 대해 생각하는 방식을 크게 바꿔 놓았습니다. 사용자 연구자와 디자이너에게 AI의 영향은 크게 세 가지 영역으로 나눌 수 있습니다.

1. 생성형 AI 제품 개발: 새로운 제품과 서비스에 AI를 최적으로 구현하기 위해 연구 및 디자인 프로젝트에서 탐구되는 주제와 과제.
2. 내부 프로세스: AI 활용 제품 및 서비스를 함께 구축하면서 효율성과 통찰력을 향상시키기 위해 AI를 활용하는 직장 내 시스템 및 워크플로.
3. 개인적인 실천 및 훈련: 개인의 기술과 생산성을 향상시키기 위한 AI 사용.

AI는 제품 디자인을 가속화하고 향상시킬 수 있는 엄청난 잠재력을 제공하지만, 균형 잡힌 시각으로 접근하는 것이 중요합니다. AI는 그 이점과 함께 신중한 고려가 필요한 잠재적인 해악과 부정적인 영향을 제시합니다.

이러한 전환이 일어나면서, 우리 중 많은 사람들이 어떻게 인간 중심적인 방식으로 AI에 접근할 수 있을지 자문하고 있습니다. 책임감 있는 AI 통합을 위한 몇 가지 주요 질문은 다음과 같습니다.

• 조직은 제품과 서비스에서 인간의 웰빙을 우선시하는 AI 기술 개발을 어떻게 옹호할 수 있을까요?
• 연구, 분석, 디자인 및 소프트웨어 개발 과정에서 인간의 요구를 중심으로 하면서 AI를 책임감 있게 활용할 수 있도록 보장하는 전략은 무엇일까요?
• 인공 콘텐츠에 의해 점점 더 형성되는 환경 속에서 진정한 인간 경험은 어떻게 검증될 수 있을까요?
• 연구자와 디자이너는 AI에 대한 균형 잡힌 인간 중심적 접근 방식을 유지하기 위해 어떤 일상적인 실천을 채택할 수 있을까요?

그리고 가장 중요한 질문은 다음과 같습니다.

연구자와 디자이너는 AI 기술이 점점 더 빠르게 진화하는 동안 어떻게 배우고 성장하며 적응할 수 있을까요?

이 글에서 저는 인간 번영의 기본 개념을 재검토하고, 조직의 가치를 되새기며, 전문 커뮤니티와 학술 문헌의 다양한 관점을 종합하여 이러한 질문에 답하고자 합니다.

목표는 우리 모두가 윤리적 기준과 비즈니스 목표 모두에 부합하는 AI 사용을 위한 모범 사례를 개발하도록 돕는 것입니다.

그리고 인간을 중심에 두는 것입니다.

인간 우선 접근 방식

인간 우선 접근 방식을 채택하는 것은 윤리적이고 효과적인 AI 사용을 위한 강력한 기반을 제공합니다. 핵심적으로 이 철학은 공감, 진정성, 그리고 집단적 웰빙에 대한 헌신을 통해 사람들에게 봉사하고 권한을 부여하는 것을 강조합니다.

저는 인간 우선을 인간이 인간에게 봉사하는 것으로 생각합니다. 모든 결정, 모든 상호 작용은 공감, 진정성, 그리고 우리 공동의 인간성에 대한 인정에 기반합니다. 우리는 스스로를 돌보고 타인의 건강을 염두에 둡니다. 필요할 때 공간을 만듭니다.

학자들과 응용 전문가들이 확인한 인간 번영의 핵심 개념을 바탕으로, 인간 우선 마인드를 포용하는 실무자 및 조직은 다음과 같은 핵심 원칙을 중심으로 가치를 정의합니다.

• 목적 및 기여: 의미 있고 영향력 있는 일에 대한 지원.
• 개인의 성장과 주체성: 자기 결정과 기술 개발 장려.
• 총체적인 웰빙: 신체적, 정신적, 사회적 및 기타 건강 차원에 대한 고려.
• 윤리적인 삶: 행동이 도덕적 가치와 일치하고 조화를 촉진하도록 보장.

인간 번영에 대한 총체적인 관점은 지속 가능한 인간 중심 솔루션을 만들기 위해 개인적, 구조적, 시스템적, 환경적 수준을 고려합니다.

학제적 및 이문화적 프레임워크는 의사 결정에 도움을 주기 위해 적용될 수 있습니다.

AI 실천을 이러한 가치에 기반함으로써 연구자, 디자이너 및 조직은 연구 및 디자인에서 인간 번영에 대한 과제를 더 잘 헤쳐나갈 수 있습니다. 이러한 기반은 인류에게 진정으로 봉사하는 기술을 창조한다는 공동 목표를 발전시키면서 특정 AI 관련 우려 사항을 해결하기 위한 발판을 마련합니다.

이러한 맥락에서 우리는 다음으로 UX 연구 및 디자인의 맥락에서 인간 번영에 대한 AI 관련 과제를 파악합니다.

인간 번영에 대한 AI의 도전과 교훈

AI 기반 도구를 구축하는 회사들과 연구를 수행하고 컨설팅을 진행하면서 AI 도구를 더 많이 실험할수록 AI가 인간 번영을 저해할 수 있는 방식의 한계를 더 많이 알 수 있습니다.

AI를 둘러싼 사회적 우려는 방대하고 복잡하지만 (아래 부록의 AI 위험 참조), 이 논의는 사용자 경험(UX) 및 디자인 연구 작업의 일상적인 경험과 가장 관련 있는 과제에 초점을 맞춥니다.

개인적인 (및 팀) 경험과 기사 및 관점 검토를 통해 우리는 AI의 네 가지 주요 특징이 인간 번영에 특히 위협적이라는 것을 확인했습니다.

1. 지나친 단순화

복잡하고 변화하는 맥락을 감지하고 적응하는 AI의 제한적인 능력은 인간 행동과 현실에 대한 지나친 단순화, 문화적으로 또는 상황적으로 부적절한 통찰력 및 결과물, 그리고 체계적인 불평등과 불의의 영속화로 이어질 수 있습니다.

AI 도구를 자주 사용하는 사용자는 AI 결과물이 자신이 찾던 것과 정확히 일치하지 않는 경험을 했을 것입니다. 그러한 순간에 AI가 질문의 의도를 제대로 파악하지 못하는 것처럼 느껴집니다. 때로는 가장 잘 만들어진 프롬프트조차도 이러한 장벽을 극복하기에 충분하지 않습니다.

AI 모델은 종종 맥락적 뉘앙스, 특히 인간의 해석이 중요한 복잡하거나 역동적인 환경에서 이를 완전히 이해하고 적응하는 데 어려움을 겪습니다. 여기에는 어조, 문화적 참조, 함축적 의미를 포함한 인간 커뮤니케이션의 미묘함을 완전히 파악하는 것뿐만 아니라 인간 행동 및 현상에 대한 잠재적 동기 또는 설명을 추론하는 것이 포함됩니다.

AI는 미리 정의된 규칙과 훈련 데이터에 의존하기 때문에 시야에서 벗어난 사회적, 문화적, 시스템적 및 환경적 영향을 고려하지 못할 수 있습니다.

이러한 특징은 다양한 맥락, 문화 및 새로운 상황에서, 그리고 높은 수준의 위험 또는 창의적인 문제 해결이 필요한 작업을 완료할 때 AI의 책임감 있는 활용을 제한합니다.

연구 및 디자인은 종종 행동을 유발하거나 경험을 형성하기 위해 결합되는 사용자 및 맥락적 요인의 복잡한 상호 작용을 이해하는 것을 포함하며, AI 도구는 이러한 복잡성을 적절하게 포착하고 처리할 만큼 아직 충분히 발전하지 못한 것으로 보입니다.

모든 생성형 AI 도구가 동일한 것은 아니며 각 제품의 컨텍스트 창에 대한 인식을 갖는 것은 도구가 연구 및 디자인에서 인간 중심성을 유지하는 데 어느 정도 도움이 될 수 있는지에 대해 현실적으로 생각하게 합니다.

2. 일반화하려는 경향

AI가 요약하고 일반화하려는 경향은 다양한 인간 경험과 포용성의 표현에 위험을 초래합니다. AI는 대규모 데이터 세트를 처리하여 일반적인 패턴을 식별하고 효율적인 요약을 제공하는 데 탁월하지만, 이러한 강점은 미묘한 관점을 지나치게 단순화하거나 덜 일반적인 경험을 배제할 때 한계가 될 수 있습니다.

예를 들어, AI 기반 검색 엔진은 가장 인기 있는 답변을 강조하지만 맥락별 통찰력을 제외하여 불완전하거나 편향된 결론으로 이어질 수 있습니다.

마찬가지로, 연구 분석을 위해 AI에만 의존하면 평균에 대한 피상적인 이해로 이어질 수 있습니다. AI 분석은 참가자 응답의 전체 스펙트럼이 고려되지 않고 소수자 관점을 무시하며 배타적인 제품 또는 경험을 만들 수 있습니다.

분석에서 광범위한 주제를 이해하고 싶을 때도 있지만, 개별적인 뉘앙스를 이해하는 것이 중요할 때도 있습니다.

이러한 한계는 다양한 집단을 연구하거나 높은 수준의 민감성과 뉘앙스가 필요한 솔루션을 디자인할 때 특히 위험합니다. 실제로, 연구 및 분석을 위해 AI 도구를 실험해 본 결과, 결과물이 부적절하고 오해의 소지가 있을 수 있으며, 인간의 미묘함을 재통합하고 지나치게 단순화된 통찰력을 더 깊이 파고들어야 한다는 것을 알게 되었습니다.

3. 투명성 부족

AI 도구의 투명성 부족과 데이터 개인 정보 보호 장치는 우리의 기본적인 사생활 권리를 침해하고 기술과의 관계를 선택할 수 있는 주체성을 감소시킬 수 있습니다.

투명성을 개선하고 개인 정보 보호 중심 AI를 개발하려는 노력에도 불구하고, AI를 사용하는 것은 여전히 AI가 데이터를 처리하는 방식과 개인 정보 보호 관행에 대한 명확하고 간결한 설명에 대한 깊은 이해가 여전히 부족한 채로 "블랙 박스"와 함께 작업하는 것처럼 느껴집니다.

이는 우리가 사람들의 데이터를 수집하고 분석하기 위해 AI를 사용하고 동의, 주체성 및 권한 부여를 촉진하는 AI 기반 제품을 개발하려고 노력할 때 영향을 미칩니다.

연구자와 디자이너로서 우리는 연구 참가자의 개인 식별 정보(PII)와 고객의 지적 재산을 보호할 의무가 있습니다.

우리는 연구 참가자가 데이터 사용 방식에 동의할 권한을 가지고 있으며 소비자가 개인 정보 침해 및 데이터 악용으로 이어지지 않는 제품과 경험을 만들 수 있도록 보장할 책임이 있습니다. 우리의 경험상, 인기 있는 AI 도구를 모든 기능을 사용하여 사용할 때, 우리는 그러한 보호가 유지될 것이라고 보장할 수 없습니다.

4. AI는 자신의 편향을 인식하지 못합니다.

AI가 편향을 재현하고 부정확한 결과물을 생성하는 경향은 기존의 사회적 불평등을 악화시키고 정보에 입각한 의사 결정에 위협을 가할 수 있습니다.

예를 들어, 영국 여권 사진 검사기는 여성과 피부색이 더 짙은 사람들에 대해 편향을 보였습니다.

AI 도구가 훈련 데이터에 존재하는 인간의 편향을 영속화하고 악화시키는 경향은 아마도 AI의 가장 흔하게 논의되는 위협일 것이므로 여기서는 이 문제를 자세히 논의하지 않겠습니다.

편향은 연구 참가자에 대한 차별적인 경험, 왜곡된 통찰력, 잠재적인 디자인 방향의 범위 축소, 그리고 패권적인 정체성과 다수 사용자 그룹에 맞는 디자인으로 이어질 수 있습니다.

환각: 편향된 결과물 외에도 존재하지 않거나 부정확한 결과물을 생성하는 환각의 가능성이 있습니다. 이러한 잘못된 정보는 연구 및 제품 결정에 큰 영향을 미칠 수 있습니다.

또 다른 예로, 에어 캐나다의 챗봇이 유족 운임에 대해 승객에게 거짓말을 했지만 고객은 나중에 소송에서 승소했습니다.

승객은 챗봇이 항공사 정책과 일치하지 않는 답변을 환각화했을 때 유족 운임에 대한 항공사의 규정에 대해 오해를 받았다고 주장했습니다. 캐나다 소액 재판소의 재판소는 승객이 옳다고 판단하고 손해 배상금과 법원 비용으로 812.02달러를 지급했습니다. 법원은 에어 캐나다가 승객이 챗봇이 제공한 정보를 웹사이트에서 신뢰하지 않아야 하는 이유를 설명하지 못했다고 판단했습니다. 출처: Forbes

생성형 AI 제품이 편향되거나 부정확한 정보를 생성할 수 있다는 것을 인지하는 것이 좋은 첫 번째 단계이지만, 훈련 데이터 세트의 투명성과 다양화, 그리고 AI 결과물에 대한 비판적 평가에 대한 광범위한 교육에 대한 충족되지 않은 필요성이 여전히 있다고 생각합니다. AI는 신중하게, 그리고 항상 인간 중심적인 요구에 부응하는 방식으로 활용되어야 합니다.

인간 번영에 대한 위협 해결

AI 사용을 발전시키면서, 우리는 동료, 연구 참가자, 고객, 그리고 우리가 만드는 데 도움을 주는 제품을 사용하는 고객의 인간 경험을 우선시하고 웰빙을 증진하기 위해 계속 노력해야 합니다.

기술은 사람들과 그들의 공동체의 웰빙, 성장 및 성취에 기여해야 합니다.

위에서 논의된 네 가지 과제를 해결하기 위해 여기 네 가지 한계를 극복하기 위한 전략이 있습니다.

전략 #1: 대체재가 아닌 보완재로서의 AI

AI는 연구에서 강력한 도구임이 입증되었지만, 그 가장 큰 잠재력은 인간 전문 지식을 대체하는 것이 아니라 보완하는 데 있습니다. AI가 뛰어난 부분과 인간이 고유한 가치를 제공하는 부분을 이해하면 올바른 균형을 맞출 수 있습니다.

AI가 빛을 발하는 곳:

• 대규모 데이터 세트 처리: AI의 계산 능력은 인간보다 훨씬 빠르게 방대한 양의 데이터를 분석할 수 있게 해주어 패턴 인식 및 대규모 분석에 없어서는 안 될 도구입니다.
• 초기 아이디어 생성: AI는 다양하고 편향되지 않은 가능성을 제시함으로써 브레인스토밍을 촉진하는 데 탁월하며, 이는 창의적인 장벽을 극복하는 데 도움이 될 수 있습니다.
• 패턴 인식: 데이터 세트 전체에서 추세와 상관 관계를 식별하는 데 있어 AI의 패턴 인식 기능은 타의 추종을 불허합니다.

인간이 빛을 발하는 곳:

• 공감 및 연결: 이는 질적 연구의 기본입니다. 신뢰를 구축하고, 몸짓 언어를 읽고, 진정성 있게 참여하는 것은 기술이 복제할 수 없는 고유한 인간 능력입니다.
• 복잡한 맥락 이해: 인간은 패턴에 깔끔하게 맞지 않을 수 있는 미묘하고 다면적인 정보를 종합하는 데 탁월합니다.
• 윤리적 및 맥락적 판단: 인간은 의사 결정에 문화적, 도덕적 고려 사항을 가져와 민감성과 적절성을 보장합니다.
• 고유한 통찰력: 진정으로 새로운 통찰력에 필요한 창의성과 맥락적 이해는 인간의 강점으로 남아 있습니다.

올바른 균형 맞추기

데이터 수집: AI는 의도적으로 사용될 때 데이터 수집의 효율성을 높일 수 있습니다. 예를 들어, 모집 중 참가자 스크리닝을 지원할 수 있지만, 연구자의 감독은 품질과 적절성을 보장합니다. 인간의 조정은 연결을 만들고, 공감을 조성하며, 참가자를 깊이 이해하는 데 없어서는 안 될 요소입니다.

AI 조정은 질적 연구를 신속하고 대규모로 실행하는 데 효과적이지만 (AI로 연구 가속화), 인간 참여의 깊이를 재현할 수는 없습니다.

데이터 분석: 분석에서 AI는 주요 주제를 식별하고 질적 데이터 코딩을 지원하는 데 유용하여 연구자에게 유리한 출발점을 제공할 수 있습니다. 전사록만으로도 훌륭한 시작입니다. 요약에 관해서는 제가 사용해 본 대부분의 도구가 이 부분에서 괜찮지만, 미래의 약속이 있습니다.

그러나 참가자 행동을 해석하고, 커뮤니케이션의 뉘앙스를 이해하고, 다양한 관점을 인식하는 것은 여전히 인간 전문 지식에 크게 의존합니다. AI는 초기 종합 및 비교 지점 역할을 하지만, 인간은 인간 경험을 이해하는 데 없어서는 안 될 존재입니다.

데이터 생성: AI를 사용하여 인간 응답 시뮬레이션과 같은 질적 데이터를 생성하는 것은 진정한 경험을 잘못 표현함으로써 연구의 무결성을 위태롭게 할 수 있습니다.

그렇긴 하지만, AI가 생성한 응답이 연구 결과를 향상시킬 수 있는 경우가 있습니다. 예를 들어, 몰입형 AI 아바타는 참여도를 높이고 더 풍부한 통찰력을 제공하기 위해 의료 서비스 제공자(HCP) 시장 조사에서 효과적으로 사용되어 특정 맥락에서 실행 가능한 대안을 제공합니다.

AI를 인간 전문 지식에 대한 보완재로 활용함으로써 연구의 깊이와 무결성을 훼손하지 않고 효율성과 확장성을 향상시킬 수 있습니다. 핵심은 의도성입니다. AI가 뛰어난 부분에서는 AI를 사용하고 진정으로 사람들을 이해하고 소통하기 위해 인간의 강점에 의존하는 것입니다.

전략 #2: 맥락 및 문화적으로 인식하는 구현

인간의 다양성은 효과적인 이문화 연구 및 디자인의 중심이며, 개인 간의 차이, 그들의 일상적인 맥락, 그리고 더 넓은 사회 문화적 환경을 이해하는 것은 의미 있는 통찰력을 생성하는 데 핵심입니다. 동일한 원칙이 관행 및 워크플로에 대한 AI의 신중한 통합에도 적용됩니다.

AI 구현은 신중하고 맥락에 민감해야 하며, 언제 어떻게 AI가 작업에 적합한 도구인지 신중하게 고려해야 합니다. 맥락은 AI가 특정 프로젝트의 목표를 향상시키는지 또는 저해하는지를 결정하는 데 중요한 역할을 합니다. AI 전략을 문화적 뉘앙스, 환경적 요인 및 사용자 요구에 맞게 조정하면 기술이 수행 중인 작업을 복잡하게 만드는 것이 아니라 보완할 수 있습니다. 예를 들면 다음과 같습니다.

• 신뢰 관계 구축: 신뢰를 구축하고 참가자들이 민감한 주제에 대해 솔직하게 이야기하도록 장려하는 것이 필수적인 경우, AI가 최적의 선택이 아닐 수 있습니다.
• 익명성 선호도: 대조적으로, 참가자들은 매우 개인적이거나 금기시되는 주제에 대해 논의할 때 AI 조정자의 인지된 중립성과 익명성을 선호할 수 있습니다.
• 문화적 인식: 서유럽에서는 AI와 데이터 개인 정보 보호에 대한 높은 우려가 AI가 받아들여지고 사용되는 방식에 영향을 미치므로 도구와 방법을 신중하게 고려해야 합니다.
• 사회적 역학: 진정한 사회적 관계가 높이 평가되는 브라질에서는 의미 있는 참여를 위해 사람 간의 상호 작용이 선호될 수 있습니다.
• 연구 목표: 전술적인 질문이나 높은 수준의 감정 분석의 경우, AI는 추세와 주요 고충 사항을 효과적으로 식별할 수 있습니다. 복잡한 동기 또는 사고방식에 대한 더 깊은 탐색의 경우, 인간 주도의 연구가 더 적절한 경우가 많습니다.

AI를 구현할 때 도구의 컨텍스트 창과 잠재적인 맹점을 포함하여 기능과 한계에 대해 잘 알고 있는 것이 필수적입니다. AI 제품을 설계하는 조직은 이러한 도구가 다양한 인간의 요구를 효과적으로 해결할 수 있도록 현지화 및 향상된 맥락 민감성을 우선시해야 합니다.

인간 전문 지식과 AI 기반 방법을 신중하게 균형을 맞춤으로써 기술을 활용하여 이해를 심화하고 의미 있는 연결을 조성하면서 문화적 고유성을 존중하는 솔루션을 만들 수 있습니다.

전략 #3: 개인 정보 보호 및 동의 관행

효과적인 AI 구현에는 혁신과 강력한 개인 정보 보호 및 동의 관행 간의 균형이 필요합니다. 인기 있는 AI 플랫폼은 종종 도구를 훈련하기 위해 입력된 데이터를 보관하여 기밀 유지 및 데이터 보안에 대한 우려를 불러일으킵니다.

Zoom은 2023년 3월에 서비스 약관을 미묘하게 업데이트하여 반발을 불러일으켰고 8월에 철회 및 해명을 했습니다.

이러한 위험을 해결하기 위해 조직은 개인 식별 정보(PII) 및 독점 데이터를 포함한 민감한 정보를 보호하기 위한 명확한 정책을 수립해야 합니다 (GPT-4o는 개인 정보로 신뢰할 수 있을까요? | WIRED). 이러한 정책은 공개적으로 그리고 사전에 공유되어야 합니다. 익명화 및 안전한 데이터 저장과 같은 관행은 처음부터 위험을 최소화하는 데 도움이 될 수 있습니다. 더 큰 통제력을 원하는 조직의 경우, 독점적인 AI 모델을 개발하는 것이 고려해 볼 만한 옵션입니다.

투명성은 효과적인 개인 정보 보호 및 동의 관행의 초석입니다. 연구 참가자에게 동의서 및 참가 자료에서 AI 사용에 대한 자세한 정보를 제공하면 데이터 처리 방식에 대해 충분한 정보를 바탕으로 결정을 내릴 수 있습니다. 팀원들이 AI 도구에 대한 질문이나 우려 사항을 공유하도록 장려하는 것은 개방적인 대화와 윤리적 책임 문화임을 조성하여 개인 정보 보호 관행이 내부 가치와 외부 기대치 모두에 부합하도록 보장합니다.

또한, 사용자 경험(UX) 및 인간 중심 디자인 원칙을 AI 기술에 적용하면 개인 정보 보호 및 보안 기능을 더욱 투명하고 접근 가능하며 권한을 부여할 수 있습니다. 이를 통해 동의가 체크박스를 넘어 사용자 경험의 의미 있고 정보에 입각한 부분이 되도록 보장합니다.

이러한 전략을 채택함으로써 조직은 AI 관행을 윤리적 기준과 사용자 기대치 모두에 부합시켜 신뢰와 인간 번영을 촉진하는 도구 및 시스템을 만들 수 있습니다.

전략 #4: 지속적인 AI 교육 및 토론

AI가 빠르게 진화함에 따라, 정보를 계속 얻고, 그 기능을 비판적으로 평가하고, 그 영향을 이해하는 것은 잠재력을 최대한 활용하는 데 필수적입니다. 팀 기반 AI 교육 접근 방식은 공유 학습과 가능성 및 한계에 대한 공개 토론을 장려합니다. 이는 정책을 개선하고 우려 사항을 해결하는 데 도움이 될 뿐만 아니라 기술이 발전함에 따라 혁신을 촉진합니다.

효과적인 AI 전략에는 AI를 사용하는 동안 기밀 유지 및 데이터 개인 정보 보호 요구 사항을 유지하고, 편향 또는 잘못된 정보를 식별하고 완화하기 위해 결과물을 검토하고, 효율성과 효과를 향상시키는 방법을 찾는 것과 같은 주요 주제를 다루는 것이 포함됩니다. 이러한 논의는 AI가 책임감 있고 생산적으로 사용되도록 보장하는 데 중요합니다.

인간 우선 철학이 이러한 노력을 이끌어야 합니다.

조직은 참가자, 소비자 및 고객뿐만 아니라 내부 팀에 대한 AI의 영향을 정기적으로 평가해야 합니다.

목표는 AI가 의미 있는 작업을 지원하도록 보장하는 것입니다. 사람들이 새로운 기술을 구축하고, 창의적이고 비판적인 사고를 개선하고, 목적 있고 영향력 있는 작업에 계속 참여할 수 있도록 하는 것입니다. AI는 팀이 목적 의식을 보호하면서 더욱 효율적이고 효과적이라고 느끼도록 권한을 부여해야 합니다.

AI 교육 및 정책은 유연하고 적응 가능해야 합니다. 기술이 진화하거나 한계를 드러낼 때, 조직은 접근 방식을 재조정하여 인간의 가치가 혁신의 중심에 남아 있도록 준비해야 합니다. 이러한 사고방식을 수용함으로써 기업은 AI의 잠재력을 활용하면서 인간을 최우선으로 생각하도록 보장할 수 있습니다.

인간 번영을 촉진할 수 있는 AI의 기회

이 글에서는 주로 AI가 인간 번영에 도전하는 방식과 연구자 및 디자이너로서 우리가 이러한 위험을 완화하기 위해 사용하는 전략에 초점을 맞추었지만, 인간 번영을 촉진할 수 있는 AI의 잠재력을 인식하는 것도 똑같이 중요합니다.

인간의 삶을 향상시키려는 구체적인 목표를 가지고 개발 및 적용될 때, AI는 역설적으로 가장 큰 위험을 초래하는 영역조차 해결하여 성장과 웰빙의 기회로 전환할 수 있습니다. 다음은 AI가 인간 번영에 기여하는 몇 가지 흥미로운 방식입니다.

• 포용적이고 접근 가능한 제품: AI는 다양한 사용자와 협력하고 그들의 요구를 이해함으로써 제품을 더욱 포용적이고 접근 가능하게 만들 수 있는 힘을 가지고 있습니다. 신중하게 설계될 때, AI는 개인의 능력, 선호도 및 정체성에 맞게 경험을 개인화할 수 있습니다.
  
  예를 들어, AI 기반 음성 지원은 다양한 음성 패턴, 억양 및 변형을 인식하도록 훈련되어 모든 사용자에게 소속감을 조성하고 커뮤니케이션 장벽을 허물 수 있습니다.
• 하위 수준 작업을 자동화하고 복잡한 작업을 지원: AI는 반복적이고 만족스럽지 못한 작업을 전략적으로 자동화하여 사람들이 창의적이고 의미 있거나 전략적인 활동에 집중할 수 있도록 해줍니다. AI는 인적 오류를 줄이고 정신적 및 육체적 스트레스를 완화함으로써 우리의 목적 의식을 보호하고 생산성을 향상시키는 데 도움이 됩니다.
  
  반대로, AI는 브레인스토밍, 디자인, 글쓰기 및 예술 창작과 같은 더 복잡하고 인지적으로 부담이 큰 작업에 대한 창의적인 도우미 역할을 할 수도 있습니다. 우리의 사고를 넓히고 새로운 가능성에 영감을 줌으로써 AI는 더 높은 수준의 인지 작업과 혁신을 지원합니다.
• 긍정적인 행동 변화를 위한 통찰력: AI 기반 분석은 행동 패턴을 식별하고 긍정적인 변화를 장려하기 위한 실행 가능한 통찰력을 생성할 수 있습니다. 예를 들어, 이러한 통찰력은 건강과 교육을 위해 설계된 제품을 개선하여 개인이 목표를 보다 효과적이고 효율적으로 달성하도록 지원하는 데 도움이 될 수 있습니다.
• 향상된 데이터 개인 정보 보호 및 보안: AI는 이상 징후 감지, 암호화 및 액세스 제어 관리와 같은 고급 기능을 통해 데이터 개인 정보 보호 및 보안을 개선할 수 있는 잠재력이 있습니다. 차등 개인 정보 보호 및 연합 학습과 같은 기술을 사용하면 민감한 정보를 보호하기 위한 안전 장치를 유지하면서 데이터에서 귀중한 통찰력을 얻을 수 있습니다. 이러한 도구는 양심적으로 구현될 때 연구 참가자 및 고객의 개인 정보 보호 및 보안을 우선시하는 시스템을 만들 수 있습니다.
  
  그러나 내재된 위험과 과제를 인정하는 것이 중요합니다. AI 훈련의 데이터에 대한 욕심 많은 특성은 종종 과도한 데이터 수집을 장려하여 개인 정보 보호 목표와 충돌할 수 있습니다. 또한, AI 시스템의 복잡성으로 인해 응용 프로그램 전반에 걸쳐 개인 정보 보호가 일관되게 유지되도록 보장하기가 어려울 수 있습니다. 결과적으로, 조직이 구현에 매우 신중하고 투명하게 접근하지 않는 한, 개인 정보 보호에 민감한 맥락에서 AI 사용과 관련된 위험이 잠재적인 이점보다 큰 경우가 많습니다.
  
  이러한 이중적인 관점은 신중한 낙관주의의 필요성을 강조합니다. AI는 이론적으로 개인 정보 보호를 향상시킬 수 있지만, 실제로 이러한 이점을 실현하려면 윤리적 설계, 강력한 규제, 그리고 데이터 사용을 엄격하게 필요한 것으로 제한하려는 약속을 우선시해야 합니다. 이러한 고려 사항의 균형을 맞춤으로써 조직은 위험을 완화하고 데이터 보안을 개선하기 위한 AI의 잠재력을 책임감 있게 탐색할 수 있습니다.
• 편향 확인: AI는 포용적으로 개발되고 처음부터 편향을 해결하도록 개발될 때 인간의 의사 결정에서 편향이나 맹점을 밝히는 데 도움이 되는 "직감 확인" 또는 추가 데이터 지점 역할을 할 수 있습니다. 다양한 데이터 세트에 대해 훈련된 AI 도구는 사려 깊은 권장 사항을 제공하여 제품 개발에서 더 광범위한 의사 결정 프로세스에 이르기까지 다양한 맥락에서 가치를 제공할 수 있습니다.
• 문화적 격차 해소: AI는 맥락 민감성 측면에서 아직 갈 길이 멀지만, 실시간 언어 번역 및 다양한 콘텐츠 홍보 기능은 이미 문화적 및 공동체적 장벽을 해소하는 데 도움이 되고 있습니다. 예를 들어, AI는 보다 포괄적인 국제 연구를 가능하게 하고 글로벌 다양성을 기념하는 더 풍부한 디지털 경험을 만들 수 있습니다.

접근성, 보안 및 문화적 민감성을 우선시하도록 AI를 의도적으로 설계함으로써 우리는 연결, 창의성 및 웰빙을 육성하여 궁극적으로 가장 중요한 방식으로 인간 번영을 이끌 수 있는 엄청난 잠재력을 활용할 수 있습니다.

결론 및 다음 단계

AI는 끊임없이 변화하는 목표이며, 도전과 영감을 주는 방식으로 빠르게 진화하고 있습니다. 연구자, 디자이너 및 기술자로서 우리는 AI를 비판적으로 접근해야 할 특별한 책임이 있습니다. 즉, AI가 인간 번영을 촉진하는 방식과 위협하는 방식을 모두 평가해야 합니다. 규제, 거버넌스 및 책임 구조가 아직 형성되고 있는 상황에서 우리의 경계심과 윤리적 헌신이 그 어느 때보다 중요합니다.

AI가 인간 번영을 저해하기보다는 향상시키도록 보장하기 위한 몇 가지 실행 가능한 단계는 다음과 같습니다.

• 인간 우선 렌즈 적용: AI 도구가 포용성, 투명성 및 윤리적 책임과 같은 가치와 어떻게 부합하는지 지속적으로 평가합니다.
• AI와 인간 전문 지식의 균형: AI의 강점을 활용하면서 인간만이 가져올 수 있는 깊이, 공감 및 뉘앙스를 유지합니다. 이를 "Human-In-The-Loop"로 들어보셨을 수도 있습니다.
• 열린 대화 육성: 학습 내용을 공유하고 팀 및 전문 커뮤니티 내에서 우려 사항을 제기하여 더 나은 관행을 집단적으로 형성합니다.
• 참고 자료 및 부록 탐색: 이 글 전체에서 참조된 참고 자료와 뒤에 나오는 광범위한 부록을 더 자세히 탐색하여 이해를 넓히고 새로운 아이디어를 촉발합니다.
• 책임감 있는 AI 옹호: 모든 수준에서 인간의 웰빙을 중심으로 하는 사려 깊은 규제 및 설계를 추진합니다.
• 대화에 참여: 동료 및 친구들과 이야기하십시오. 관리자와 이야기하십시오. 고객과 이야기하십시오. 저와 이야기할 수도 있습니다. 실용적인 통찰력을 찾든, 이러한 전략 통합에 대해 궁금하든, 아니면 협력적인 방식으로 주제를 탐색하고 있든... 다른 사람들과 대화하면 이러한 아이디어가 최전선에 부각되고 우리 모두가 인간 중심적인 방식으로 계속 나아갈 수 있습니다.

매일 수십억 명의 사람들이 사용하는 제품을 만드는 연구자 및 디자이너로서 우리는 이 기술의 중심에 인간을 유지할 힘을 가지고 있습니다.

의도적으로 노력함으로써 우리는 AI가 쇠퇴시키거나 분열시키는 힘이 아니라 고양시키고 권한을 부여하는 힘으로 진화하도록 보장할 수 있습니다.