AI의 미래를 구축하는 최고 경영진들의 6가지 교훈

2024년 ScaleUp:AI 행사를 앞두고 Insight Partners는 SoundBytes 시리즈를 통해 업계 провідних 포트폴리오 경영진들과 대담을 나눴습니다. 각 세션은 AI 대규모 확장의 미래에 대한 전문가의 관점과 아이디어로 가득했습니다.

비즈니스 리더는 독점 데이터의 잠재력을 최대한 활용하기 위해 기술 전문가와 최종 사용자 간의 간극을 좁혀야 할 수 있습니다. 마찬가지로 AI 사용에 대한 거버넌스 프레임워크 및 보안 프로토콜 개발은 필수적입니다. AI 기반 이니셔티브를 성공적으로 관리하려면 기술 발전과 실제 적용의 균형을 맞추는 혁신 속도에 발맞추는 사고방식의 전환이 필요합니다.

다음은 이러한 대화에서 얻은 6가지 실행 가능한 통찰력입니다.

1. 명확한 비전을 설정하고 비전에 대한 측정에 의도성을 가져야 합니다.

AI는 특정 비즈니스 목표와 일치할 때 가장 큰 영향을 미칠 수 있습니다. Quantive의 CEO인 Carmine Visconti는 AI 구현 프로젝트든 그 외 다른 프로젝트든 새로운 벤처에는 명확하게 정의된 명제가 필요하다고 말했습니다. 그는 "AI는 전략적 이니셔티브를 운영하고 '승리 이론'을 평가하는 리더들에게 중요한 역할을 하고 있습니다."라고 설명했습니다. 그는 또한 "AI는 스스로 할 수 있는 것보다 더 잘 진단하고 이해하는 데 도움을 주며" 프로젝트 비전을 스트레스 테스트하고, 반복하고, 평가할 수 있다고 덧붙였습니다.

"AI는 전략적 이니셔티브를 운영하고 '승리 이론'을 평가하는 리더들에게 중요한 역할을 하고 있습니다." — Carmine Visconti

Pipefy의 설립자이자 CEO인 Alessio Alionco는 도입과 관련하여 유사한 경험을 설명했습니다. 기업 이사회는 AI에서 진척 상황을 보여줘야 하지만, 항상 최종 목표를 알지는 못합니다. 그는 궁극적인 비전에서 역으로 생각할 것을 제안했습니다. "시간과 자원이 무제한이고 지구상 최고의 전문가들이 있다면 무엇을 달성하고 싶은지 생각해 보세요. 그 경험은 어떨까요? 그런 다음, 그 비전에서 역으로 작업하여 일상 업무를 어떻게 변화시킬지 생각해 보세요."

Writer의 최고 전략 책임자인 Kevin Chung은 비즈니스 AI 목표에 대한 사고방식 전환과 집단적 동의의 중요성을 논의했습니다. 그는 "회사의 모든 사람은 특정 목표를 추진하는 임무를 가지고 있습니다."라고 말했습니다. "그리고 AI를 사용하여 목표를 더 빠르게 가속화하고 달성할 수 있다면 모든 사람이 동참할 것입니다."

그는 또한 AI 프로젝트의 성공을 측정하는 방법을 아는 것의 중요성을 설명했습니다. "궁극적으로 최종 상태는 다음과 같습니다. 의미 있는 방식으로 ROI를 창출하고 있는가? 내 삶을 더 좋게 만들고 있는가? 직원들에게 슈퍼 파워를 주고 있는가?"

2. 독점 데이터를 사용하여 AI를 개인화하세요.

독점 데이터 세트를 사용하는 것은 AI에서 경쟁 우위를 확보하는 데 핵심입니다. SingleStore의 최고 혁신 책임자인 Rahul Rustogi는 벡터 유사성 검색(VSS) - 주어진 쿼리 벡터와 유사한 데이터 세트의 항목 찾기 - 이 AI 애플리케이션을 구축할 때 엔터프라이즈 데이터를 어떻게 활용할 수 있는지 설명했습니다.

"VSS는 대규모 기존 기업 데이터 세트로 작업할 때 퍼즐의 중요한 조각입니다... 더 이상 트랜잭션 데이터베이스에서 쿼리를 실행할 필요가 없습니다." 기업은 VSS를 사용하여 독점 데이터를 쉽게 검색하고 대규모로 사용할 수 있으며, 표준 SQL 쿼리를 사용하는 기존 시스템과의 통합을 통해 모든 직원을 위한 개인화된 AI 애플리케이션을 여는 데 사용할 수 있습니다.

"회사의 독점 정보는 고유한 비법입니다. 그것은 다른 누구도 가지고 있지 않은 것입니다."라고 Chung은 설명했습니다. "많은 다른 시스템에서 방대한 데이터를 활용하고 이해할 수 있는 능력을 처음으로 갖게 된 것 같습니다." 그리고 Valence의 설립자이자 CEO인 Parker Mitchell이 말했듯이, 회사의 대규모 데이터 세트를 활용하는 것은 '일반 AI에서 개별 사용자를 위한 특정 AI로 이동'하여 가치를 더하는 초개인화를 가능하게 합니다.

이러한 개인화는 더 빠르고 데이터 기반 의사 결정으로 이어질 수 있습니다. Leapsome의 공동 CEO이자 공동 설립자인 Jenny Podewils는 다음과 같이 언급했습니다. "AI 코파일럿이 관리자인 저 자신, 우리 팀, 조직에 대한 많은 또는 모든 상황 데이터를 가지고 있다면, 그것은 제가 역할을 더 잘 수행하고 고성능 팀을 구축하고 추진하는 데 도움이 되는 정말 효과적인 에이전트가 됩니다."

Acceldata의 CEO인 Rohit Choudhary는 미래 기업은 'AI를 가진 자' 또는 'AI를 가지지 못한 자' 중 하나가 될 것이라고 설명했습니다. 그는 덧붙였습니다. "데이터를 정리한 기업은 이미 데이터를 올바른 위치에 배치하고 적절한 사람들의 손에 넣은 혜택을 누렸습니다." 데이터를 구성하지 않은 기업은 어려움을 겪을 것이라고 예측하면서 말입니다.

3. 기밀 컴퓨팅 및 강력한 거버넌스 프레임워크를 통해 보안 장벽을 극복하세요.

많은 AI 비판가들은 데이터 보안 문제를 지적했으며, 이는 일부 기업에서 도입을 방해할 수 있습니다. Anjuna Security의 CEO이자 공동 설립자인 Ayal Yogev는 기밀 컴퓨팅이 어떻게 개인 정보 보호 및 규제 요구 사항을 충족할 수 있는지 논의했습니다. "일반적으로 애플리케이션이 데이터를 처리해야 할 때 데이터를 해독해야 하며, 그 시점에서 데이터가 노출됩니다." 하지만 데이터와 AI 모델만 포함하는 데이터 클린 룸은 원시 데이터가 절대 노출되지 않는다는 것을 의미합니다. Yogev에게 있어 기밀 컴퓨팅으로의 전환은 "데이터의 민감도에 관계없이 협업을 가능하게 합니다."

마찬가지로 Skyflow의 CEO인 Anshu Sharma는 사용자가 데이터를 일반 텍스트로 변환하지 않고도 데이터로 많은 작업을 수행할 수 있도록 하는 다형성 암호화 엔진에 대해 이야기했습니다. Anshu는 "다형성 엔진을 사용하면 모든 제어 기능을 갖춘 모델과 상호 작용할 수 있습니다. 하지만 동시에 거버넌스 규칙이 적용됩니다."라고 설명했습니다.

"동일한 기술 스택의 일부인 프레임워크를 갖추면 수천 개의 에이전트를 관리하여 CFO 규정 준수 및 운영 규정 준수 방식으로 작동하도록 보장할 수 있습니다." — Chandar Pattabhiram

Workato의 최고 GTM 책임자인 Chandar Pattabhiram은 이러한 거버넌스 프레임워크에는 역할 기반 액세스 제어 및 보안과 기능 간의 균형을 맞추는 Human-in-the-loop 시스템이 포함될 수 있다고 설명했습니다. "민첩한 거버넌스 부분이 매우 중요합니다. 동일한 기술 스택의 일부인 프레임워크를 갖추면 수천 개의 에이전트를 관리하여 CFO 규정 준수 및 운영 규정 준수 방식으로 작동하도록 보장할 수 있습니다."

Nexus Cognitive의 CEO인 Anu Jain은 데이터에 대한 명확한 거버넌스 모델이 어떻게 더 빠르고 효과적인 AI 이니셔티브를 만들 수 있는지 탐구했습니다. "데이터 거버넌스 영역에 명확한 데이터 소유자를 두는 것은 데이터 과학자가 일관성 있고 정확한 데이터를 받는 데 도움이 됩니다. 그들은 더 이상 데이터 랭글러나 데이터 엔지니어가 되는 것이 아니라 실제로 자신이 하는 일에 집중할 수 있게 되어 가치 창출 속도를 높입니다."

강력한 거버넌스 모델은 견고한 보안과 결합하여 기밀 데이터가 적절한 방식으로 처리되는 동시에 최대의 이점을 얻을 수 있도록 보장하는 데 도움이 될 수 있습니다.

4. 오류를 줄이고 인간을 증폭하여 생산성 향상을 최적화하세요.

Templafy의 공동 설립자인 Christian Lund는 생성형 AI와 규칙 기반 자동화를 결합하면 수동 오류를 줄이고 워크플로를 개선할 수 있다고 말했습니다. "문서의 여러 영역을 AI로 정보를 얻을 수 있습니다. 다양한 AI 모델과 보다 고전적인 규칙 기반 자동화와 혼합하세요. 그것이 매우 어려울 수 있는 매우 신뢰할 수 있는 결과물을 얻는 방법입니다."

중요한 의사 결정 프로세스에서는 여러 모델을 사용하여 AI 생성 통찰력의 정확성을 보장하여 유효성을 검사하세요. Exiger의 CEO인 Brandon Daniels는 다음과 같이 말했습니다. "우리는 오류 위험에 대한 AI 판정을 다른 생성 모델에서 나오는 것과 대조하여 검증하고 두 답변을 비교합니다. 그리고 이러한 결정이 일치하면 고객에게 높은 신뢰도로 나아갈 수 있다는 것을 알 수 있습니다."

"문서의 여러 영역을 AI로 정보를 얻을 수 있습니다. 다양한 AI 모델과 보다 고전적인 규칙 기반 자동화와 혼합하세요. 그것이 매우 어려울 수 있는 매우 신뢰할 수 있는 결과물을 얻는 방법입니다." — Christian Lund

그런 다음 AI는 오케스트레이션 도구를 사용하여 사일로를 제거하여 시스템과 팀 전체에서 더 많은 프로세스를 단순화할 수 있다고 Pattabhiram은 말했습니다. "LLM은 '여기 해야 할 모든 일이 있습니다'라고 말할 수 있습니다... 필요한 경우 Human-in-the-loop를 사용하고 프로세스를 실행하는 오케스트레이션 런타임 기술을 사용할 수 있습니다."

마케팅 팀에서 이러한 오케스트레이션은 실시간 콘텐츠 반복 및 성과 피드백에 사용되어 마케팅 캠페인 및 그 이상에서 빠른 의사 결정을 가능하게 합니다. Jasper의 CEO인 Timothy Young이 지적했듯이 말입니다. 고객 중 한 곳은 AI를 사용하여 "배너 광고를 대규모로 제작하고, 해당 광고를 게시하고, 성과를 지켜보고, 완전한 반복 루프를 수행"하고 있습니다.

Alionco는 AI의 사용 사례가 거의 무한할 것이며 AI를 심각하게 받아들이지 않는 사람들은 뒤처질 것이라고 믿습니다. 그는 "지구상의 거의 모든 직업은 AI 사용으로 증폭될 것입니다."라고 말했습니다. "AI를 뇌의 확장으로 사용하지 않으면 뒤처질 가능성이 높습니다."

5. 처음부터 확장성을 염두에 두고 AI 이니셔티브를 구축하세요.

AI 애플리케이션이 확장됨에 따라 구현이 점점 더 어려워집니다. 이를 해결하기 위해 A.Team의 CEO이자 공동 설립자인 Raphael Ouzan은 데이터 관찰 가능성, 규정 준수 및 비용 효율성을 위한 견고한 시스템을 미리 구축하고 프로토타입에서 프로덕션으로 이동하는 레시피를 갖춰야 한다고 강조했습니다. 그는 "거의 파레토 법칙의 순간이 있습니다. 60% 또는 80%에 도달했지만 결승선까지 가는 데 매우 오랜 시간이 걸립니다."라고 말했습니다.

Human-in-the-loop AI 워크플로가 증가함에 따라 생성되고 푸시되는 코드의 양이 계속해서 엄청나게 확장되어 배포 및 버전 제어 시스템에 패러다임 전환이 발생할 것입니다.

"사용자 하위 집합을 대상으로 지정할 수 있는 기능이 필요합니다. 문제가 발생할 경우 롤백할 수 있는 기능이 필요합니다." — Dan Rogers

LaunchDarkly의 CEO인 Dan Rogers는 "'잘못된 배송' 문제를 해결하기 위한 핵심 개념은 점진적 롤아웃 또는 타겟 릴리스입니다. 두 번째는 매우 빠르게 롤백할 수 있는 기능입니다."라고 말했습니다. 이는 AI 애플리케이션이 특히 고유한 위험을 가지고 있기 때문입니다. 많은 애플리케이션이 비결정적이고 확률적입니다. Rogers가 공유했듯이 "사용자 하위 집합을 대상으로 지정할 수 있는 기능, 문제가 발생할 경우 롤백할 수 있는 기능, 다양한 프롬프트와 다양한 구성에 대해 매우 빠르게 실험할 수 있는 기능이 필요합니다."

"기술 대기업 출신의 최고의 빌더 중 일부는 예를 들어 확장 가능성과 영향력을 가질 가능성이 있는 교육 회사와 협력하고 싶어합니다."라고 Ouzan은 말했습니다. 빌더는 AI로 코딩 결과물을 확장하는 것뿐만 아니라 엔지니어는 세상에 대한 영향력을 확장하고 의미 있는 문제에 대해 작업하는 AI 도구를 구축하기를 원합니다.

6. 팀 역량 강화를 위해 교차 기능 AI 에이전트를 구현하세요.

CrewAI의 CEO인 João Moura는 모든 AI 에이전트를 동적 시스템으로 오케스트레이션하는 것이 점점 더 중요해질 것이라고 설명했습니다. AI 에이전트는 격리된 작업을 넘어 비즈니스 프로세스 전반에서 협업하고 동적으로 적응하는 통합 시스템으로 발전해야 합니다. Moura는 이러한 에이전트에게 진정한 주체성을 부여하는 것이 "에이전트 AI 구현의 장기적인 성공에 매우 중요할 것"이라고 강조했습니다.

그리고 AI 에이전트에게 주체성을 부여하고 사일로를 제거하면 교차 기능 워크로드를 수행하고 점점 더 동적인 작업을 처리할 수 있습니다. 하지만 적어도 현재로서는 Human-in-the-loop를 사용하면 기술이 성숙해짐에 따라 추가적인 안전 장치를 제공합니다.

Pattabhiram은 "기술을 통해 작업에 따라 이 프로세스의 모든 단계에서 Human-in-the-loop를 사용할 수 있습니다."라고 설명했습니다. 그리고 규칙으로 "에이전트 시스템이 프로세스에서 외부 당사자와 더 많이 상호 작용할수록 루프에 인간을 두는 것이 더 중요합니다."라고 Pattabhiram은 제안했습니다.

Copado의 COO인 Sanjay Gidwani에 따르면 AI 에이전트 시스템이 미래를 오케스트레이션할 것입니다. 그는 "AI 에이전트가 계획입니다. 빌드 에이전트, 테스트 에이전트, 릴리스 에이전트, 운영 에이전트입니다. 이들은 전체 DevOps 라이프사이클에 걸쳐 팀이 혁신에 집중할 수 있도록 지원할 수 있습니다."라고 설명했습니다.

"AI는 인간을 돕기 위해 존재합니다. 인간의 뇌는 결코 따라올 수 없는 가장 강력한 컴퓨터입니다." — Sanjay Gidwani

그러나 그는 AI가 우리를 대체하지 않을 것이라고 인정했습니다. "AI는 인간을 돕기 위해 존재합니다. 인간의 뇌는 결코 따라올 수 없는 가장 강력한 컴퓨터입니다." 대신 그는 AI를 통해 가장 복잡한 작업에 집중하고 사람들이 진정한 잠재력을 달성하도록 확장할 수 있을 것이라고 주장했습니다.