🦈 에이전트 디자인, 쉽게 알아보기

에이전트 중심 디자인은 디자이너가 지능적이고 적응 가능한 AI 에이전트를 만들 수 있도록 돕는 프레임워크입니다. 이 글에서는 에이전트 역할, 소통 방식, 인간 참여 전략을 자세히 살펴봅니다. 또한 인간-AI 협업 촉진, 의사 결정 투명성 보장, 사용자 신뢰 구축의 중요성을 강조합니다. 여행 예약 에이전트든 다른 AI 기반 솔루션을 디자인하든, 인터페이스 디자인을 넘어 인간의 워크플로우에 매끄럽게 통합되는 시스템을 만드는 방법을 알아보세요.

에이전트는 2024년에 큰 인기를 끌었고, 2025년으로 접어들면서도 여전히 뜨거운 주제입니다. 저 또한 꽤 오랫동안 이 주제에 대해 생각해 왔으며, 다양한 에이전트를 만드는 데 제품 디자이너가 어떤 역할을 할 수 있을지 궁금했습니다. 에이전트의 큰 가치 제안은 인간이 에이전트에게 자신을 대신하여 작업을 실행하도록 요청할 수 있다는 것입니다.

따라서 에이전트는 OpenAI가 최근 출시한 "오퍼레이터" 역할을 하며, 인간의 역할은 감독 및 검토자가 됩니다 (CHI, 2024에 발표된 논문에서 소개된 개념). 하지만 에이전트가 더욱 복잡해짐에 따라 최종 결과에만 의존하는 것은 시스템에 많은 위험을 초래하고 결국 도입에 영향을 미칠 수 있습니다.

이 글에서는 UX 디자이너가 에이전트 디자인에 대해 생각하는 데 도움이 될 수 있는 몇 가지 통찰력과 실용적인 프레임워크를 공유합니다. 프레임워크의 각 단계는 독자에게 생각해 볼 몇 가지 질문을 던져주고, 여행 예약을 위한 AI 에이전트의 가상 예시를 통해 실제로 어떻게 적용되는지 보여줍니다 .

에이전트란 무엇일까요?

프레임워크의 세부 사항을 살펴보기 전에 먼저 에이전트의 정의부터 명확히 해 보겠습니다. 간단히 말해, 에이전트는 사용자로부터 제공된 입력과 같은 환경을 인식하고, 자신이 가진 지식을 기반으로 결정을 내리고, 사용자의 목표를 달성하기 위한 행동을 취하는 자율 시스템입니다. 에이전트는 사용자 정의 목표에 따라 능동적으로 행동을 시작할 수 있으며, 사용자가 제공하거나 특정 목표를 달성하기 위해 에이전트가 탐색하는 과정에서 얻는 동적인 입력과 환경에 적응할 수 있습니다. 이는 기존 소프트웨어와는 다른 점입니다.

제품 디자이너에게 이것은 인터페이스 중심 디자인에서 시스템 사고로 전환하는 것을 의미합니다. 여기서 초점은 사용자가 보는 것뿐만 아니라 시스템이 뒤에서 어떻게 작동하는지에 있습니다.

디자이너는 에이전트 디자인에 어떻게 기여할 수 있을까요?

지금까지 디자이너는 사용자 인터페이스와 워크플로우에 집중하여 인간이 소프트웨어와 효과적으로 상호 작용할 수 있도록 했습니다. 하지만 에이전트 디자인은 시스템의 동작, 의사 결정, 인간-AI 협업에 대한 더 깊은 이해를 요구합니다. 이를 수행하는 한 가지 방법은 제가 "에이전트 중심 디자인"이라고 정의하는 것을 이용하는 것입니다.

에이전트 중심 디자인: 에이전트 디자인을 위한 5단계 실용적인 프레임워크

기존의 인간 워크플로우를 중심으로 AI를 구축하는 대신, 이 방법론은 명확한 페르소나, 니즈, 커뮤니케이션 패턴을 가진 에이전트를 디자인하는 데 초점을 맞춥니다. 즉, 인간과 AI 간의 협력적 파트너십을 만드는 것입니다.

이는 사용자 중심 디자인에서 영감을 받아 완전한 에이전트 페르소나를 정의합니다. 이 페르소나에는 에이전트 정의, 에이전트의 소통 방식, 사용자의 에이전트 참여 방식, 사용 사례에 대한 에이전트와 인간의 역할, 특정 사용 사례에 대한 인간-AI 협업의 잠재적인 어려움에 대한 설명이 포함됩니다. 이 프레임워크에서 저는 인간 페르소나를 기반으로 에이전트 페르소나를 모델링하려고 합니다. 각 인간이 다르고, 고유한 특성을 가지고 있으며, 작업에 따라 페르소나를 조정하는 것처럼 각 에이전트 또한 다를 것이고, 또 달라야 합니다.

1. 에이전트 정의

인간이 특정 분야에 능숙하고, 초능력과 맹점을 가지고 있는 것처럼 에이전트도 특정 분야에 능숙하고, 초능력을 가지고 있으며, 특정 방식으로 의사 결정을 내리고, 맹점을 가지고 있습니다. 에이전트 정의 단계에서는 에이전트 작업의 범위와 에이전트가 실행해야 하는 작업을 정의합니다.

에이전트를 정의하려면 스스로에게 질문해 보세요.

1. 에이전트가 해야 할 일과 해서는 안 될 일은 무엇인가?
2. 의사 결정 능력과 한계는 무엇인가?
3. 에이전트는 어떤 작업을 수행하는가?

실제 적용 예시: 여행 예약을 위한 AI 에이전트의 경우, 에이전트는 항공편, 호텔을 예약하고 여정을 생성합니다. 에이전트는 다구간 여정을 예약할 수 없고, 실시간 좌석 가용성을 보장할 수 없으며, 호텔 및 항공편에 대한 막바지 변경 사항을 처리할 수 없습니다. 에이전트는 여행 웹사이트, 리뷰 등을 살펴보고 최적의 여정을 찾아야 합니다. 에이전트는 결제가 필요한 작업에 대해 사용자 승인 없이 행동해서는 안 됩니다.

2. 소통 방식 정의

모든 인간이 같은 방식으로 소통하는 것은 아닙니다. 어떤 사람은 간결하고, 어떤 사람은 장황합니다. 어떤 사람은 내성적이고, 어떤 사람은 외향적입니다. 감 잡으셨죠! 인간의 소통은 복잡합니다. 이는 에이전트에도 마찬가지로 적용됩니다. 이 단계에서는 에이전트가 사용자와 언제, 어떻게 소통하는지 정의합니다.

구체적으로:

1. 어느 정도의 세분성으로 상태를 전달하는가?
2. 언제 상태를 전달하는가? 에이전트가 능동적인 상황과 수동적인 상황이 있는가?
3. 에이전트는 사용자에게 자신의 상태를 얼마나 자주 전달하는가?
4. 에이전트는 사용자에게 자신의 상태를 어떻게 전달하는가?

실제 적용 예시: 이 에이전트가 사용자에게 소통할 수 있는 방식에 대한 아이디어는 다방면으로 가능합니다. 사용자가 에이전트가 작업하는 동안 인터페이스를 보고 있다면, 에이전트는 내부 작동 방식을 노출하여 어떤 여행 웹사이트를 보고 있는지, 어떤 리뷰를 보고 있는지 등을 보여줄 수 있습니다. 사용자가 인터페이스에 적극적으로 참여하지 않는 경우, 에이전트는 검색이 완료되면 알림을 보낼 수 있습니다. 알림은 정보를 자세히 보여주는 대신 찾은 내용에 대한 요약을 보낼 수 있습니다.

3. 사용자 참여 계획

다른 사람에게 어떤 작업을 요청하는 경우, 제가 그들에게 준 작업이 얼마나 복잡한지에 따라 저는 여전히 프로세스에 참여하고 싶을 수 있습니다. 마찬가지로, 그들에게 작업을 맡겼다고 해서 중간에 다시 돌아가서 요청이나 작업 내용을 변경하도록 요청할 수 없는 것은 아닙니다. 이제 이 작업을 다른 인간에게 맡기는 대신 에이전트에게 맡겼다고 상상해 보세요. 왜 제 기대치가 바뀌어야 할까요?

스스로에게 질문해 보세요.

1. 입력이 필요하지 않더라도 사용자가 에이전트의 실행에 영향을 미칠 수 있는 특정 지점이 있는가?
2. 에이전트는 완전 자율인가, 반자율인가? 인간의 개입이 필요한 특정 의사 결정 지점이 있는가?

실제 적용 예시: AI 여행 플래너에 대한 사용자 참여를 계획하는 잠재적인 방법은 다음과 같습니다. 에이전트는 결제로 이어지는 어떤 행동도 취해서는 안 됩니다. 따라서 에이전트는 그러한 의사 결정 지점에 도달할 때마다 사용자에게 명시적인 허가를 받기 위해 알림을 보내야 합니다. 또한 에이전트가 사용자 선호도에 대한 충분한 정보가 없는 경우 (사용자가 매우 모호한 선호도를 제공했을 수 있음) 에이전트는 일시 중지하고 사용자에게 선호도를 명확히 하도록 요청해야 합니다. 에이전트가 원하는 출력을 생성하는 데 약 2-3분이 걸릴 것으로 예상되므로, 사용자는 여정을 예약하기 시작하면 에이전트의 실행에 영향을 미칠 수 없습니다.

4. 인간-AI 협업 정의

인간 (사람 1)이 다른 인간 (사람 2)에게 도움을 요청하는 것과 같은 맥락에서 계속 이어가겠습니다. 작업의 복잡성에 따라 사람 1은 사람 2와 협업을 어떻게 진행할지에 대한 계약을 정의할 수 있습니다. 특정 체크포인트에서 만날까요? 도움이 필요한 경우 사람 2는 이 상황을 어떻게 처리할까요? 인간-AI 협업을 디자인하는 데에도 동일하게 적용됩니다.

스스로에게 질문해 보세요.

1. 시스템은 AI가 불확실할 때 상황을 어떻게 처리하는가?
2. 인간의 입력이 필요한 작업은 무엇인가?
3. 에이전트가 자율적으로 수행할 수 있는 작업은 무엇인가?

실제 적용 예시: 에이전트가 자율적으로 수행할 수 있는 작업의 예는 예약 검색, 비자, 수하물 정책 알림, 가격 인하, 더 나은 세부 정보 제안 등이 될 수 있습니다. 인간의 입력이 필요한 작업의 예는 예약 및 결제 확인, 예산 대 편의성과 같은 상충되는 선호도 해결, 다구간 여정 및 특별 항공사 요청과 같은 예상치 못한 변경 사항 또는 예외적인 경우 처리 등이 될 수 있습니다. 시스템이 불확실할 때 에이전트는 사용자에게 명확성을 요청하고 사용자가 인계할 수 있는 옵션을 제공합니다. 사용자가 반드시 인계해야 하는 상황은 환불 및 분쟁 처리, 선호도에 명시된 것 이상의 주관적인 트레이드오프, 막바지 변경 사항 등일 수 있습니다.

5. 인간-AI 협업의 잠재적인 어려움 식별 및 해결

마지막으로, 인간이 함께 협력할 때 책임감을 유지하고, 결과물에 대한 올바른 기대를 설정하고, 잠재적으로 사람 1의 도움을 받을 수 있는 메커니즘을 마련합니다. 이러한 프로세스가 더 빨리 확립될수록 사람 1과 2가 성공적인 협업을 할 가능성이 높아집니다. 사람 2가 이제 에이전트라면 다음 사항에 대해 생각해 보세요.

1. 에이전트 중심 작업에서 수동 작업으로의 컨텍스트 전환 부담을 어떻게 줄일 수 있을까?
2. 기대치 불일치를 해결하기 위해 에이전트가 할 수 있는 일과 할 수 없는 일을 사용자에게 명확하게 알리려면 어떻게 해야 할까?
3. 전체 프로세스에 참여하지 않더라도 사용자가 시스템에 대한 신뢰를 구축하도록 어떻게 도울 수 있을까?

실제 적용 예시: 에이전트가 출력을 생성하는 데 2-3분이 걸리므로 사용자가 프로세스에 참여하지 않거나 컨텍스트 전환이 부담이 될 가능성은 낮습니다. 하지만 모든 시점에서 에이전트의 의사 결정 기준을 보여주는 것은 특히 가능한 최상의 거래를 얻는 데 있어 사용자가 시스템에 대한 신뢰를 구축하는 데 도움이 될 수 있습니다. 또한 시스템에 대한 신뢰를 더욱 확립하여 이 에이전트를 사용한 사용자와 다른 사람들의 과거 성공적인 결과를 보여줄 수도 있습니다. 에이전트는 또한 에이전트가 생성할 수 있는 여정과 같이 사용자 선호도의 좋고 나쁜 사양의 예를 더 제공할 수 있습니다.

결론

요약하자면, AI 에이전트가 디지털 생태계의 필수적인 부분이 됨에 따라 UX 디자이너는 인터페이스 디자인을 넘어 에이전트 행동 모델링, 의사 결정 투명성, 인간-AI 협업 전략에 대해 생각해야 합니다. UX의 미래는 단순히 화면을 디자인하는 것이 아니라 인간과 함께 작동하는 지능형 시스템을 디자인하는 것입니다. 미래를 대비하기 위해 에이전트 중심 디자인은 사용 가능하고, 신뢰할 수 있으며, 인간 워크플로우에 매끄럽게 통합되는 에이전트를 디자인하기 위한 실용적인 프레임워크를 제공합니다.