상업 공급망의 AI 위험

요약 보고서

인공지능(AI)은 조직이 매일 의존하는 제품, 장비, 서비스 및 공급업체 관계 전반에 빠르게 통합되고 있습니다. 이는 조달 과제를 변화시킵니다.

조직은 더 이상 AI 플랫폼을 의도적으로 구매할 때만 AI를 접하지 않습니다. AI는 기업용 소프트웨어에 내장될 수 있으며, 산업 장비에 통합되거나, 컨설턴트가 분석을 수행하는 데 사용되거나, 엔지니어링 기업에서 설계를 개발할 때 적용되거나, 공급업체의 프로세스 어딘가에서 제품이나 서비스를 만드는 데 사용될 수 있습니다.

AI 제품을 구매하지 않아도 AI 리스크를 떠안게 될 수 있습니다.

조달 리더에게 이는 새로운 상업적 책임을 만들어냅니다. 복잡한 협상에서는 가격, 서비스, 성능 및 전통적인 계약 조건뿐만 아니라 AI가 지적 재산, 기밀 정보, 데이터, 책임, 규제 준수, 사이버 보안, 법적 책임 및 거버넌스에 어떤 영향을 미칠 수 있는지도 이해해야 합니다.

선도적인 조직은 AI 관련 고려 사항을 조기에 식별하고 이를 상업 전략에 통합하며, 적절한 보호 장치를 협상하고, 향후 결정에 활용할 수 있도록 학습 내용을 보존합니다.

AI는 상업적 위험 범위를 확장하고 있습니다. 조달에는 이를 관리할 수 있는 반복 가능한 방법이 필요합니다.

조달 리더를 위한 핵심 요점

AI 제품을 구매하지 않아도 AI 리스크를 떠안게 될 수 있습니다. 조달 리더는 AI를 조기에 식별하고, 적합한 이해관계자를 정렬하며, 적절한 보호 장치를 협상하고, 발생하는 의무를 관리하며, 조직이 학습한 내용을 보존할 수 있는 반복 가능한 상업적 규율이 필요합니다.

1. AI는 이미 조직이 구매하는 것의 일부가 되고 있습니다

조달 리더에게 더 중요한 AI 개발 사항은 기존 지출 카테고리에 얼마나 빠르게 AI가 통합되고 있는지일 수 있습니다.

도구와 플랫폼 — 기초 모델, 개발 환경, 코파일럿, 분석 도구, 특수 AI 애플리케이션.
기업 애플리케이션 — 조달, 공급망, 재무, 법무, 인사, 엔지니어링, 고객 서비스 등 다른 비즈니스 소프트웨어가 점점 더 AI 기능을 통합하고 있습니다.
장비 및 물리적 시스템 — 제조 장비, 로봇, 의료 기기, 산업 시스템, 차량 등 AI 기능을 통합한 제품.
서비스 및 외주 작업 — 컨설턴트, 엔지니어링 기업, 로펌, 소프트웨어 개발자, 서비스 제공업체 등 다른 공급업체가 점점 더 AI를 활용해 고객을 대신해 작업을 수행.

조달에 대한 의미는 상당합니다.

AI는 더 이상 별도의 구매 카테고리가 아니라 복잡한 상업적 구매의 한 특성이 되어가고 있습니다.

소싱 팀은 비즈니스 요구 사항이 처음부터 'AI 프로젝트'로 시작되지 않았더라도 AI를 접할 수 있습니다. AI는 공급업체 관계 전반에서 데이터, 의사 결정, 운영에 점점 더 영향을 미치고 있습니다.

2. AI 위험은 기업 내부에서 끝나지 않습니다

대부분의 조직은 자연스럽게 먼저 자사 직원이 사용하는 AI 기술에 집중합니다. 하지만 이는 노출의 일부만 포착하는 것입니다.

내부 AI 공급망

조직이 의도적으로 구매하거나 배치하는 AI 기능입니다: 소프트웨어, 플랫폼, 애플리케이션, 장비 및 기타 AI 기반 기술. 조직은 이러한 구매를 직접 평가하고 기술 사용 방식에 대한 요구 사항을 설정할 수 있습니다.

외부 AI 공급망

두 번째 공급망은 덜 눈에 띕니다. 공급업체는 기업이 구매하는 제품, 서비스, 추천, 분석, 소프트웨어, 설계, 문서, 구성요소 또는 기타 산출물을 만들 때 AI를 사용할 수 있습니다.

컨설팅 회사는 분석을 개발하는 데 AI를 사용할 수 있습니다. 엔지니어링 공급업체는 설계를 만드는 데 AI를 사용할 수 있습니다. 소프트웨어 개발자는 AI 생성 코드를 사용할 수 있습니다. 제조업체는 AI 기반 구성 요소나 시스템을 통합할 수 있습니다. 전문 서비스 제공업체는 AI를 사용하여 추천을 생성할 수 있습니다.

AI를 사용하는 모든 공급업체는 잠재적으로 조직의 AI 위험 프로필의 일부가 될 수 있습니다.

점점 더 중요한 질문은 단순히 'AI를 구매하고 있습니까?'가 아니라 '우리가 구매하는 제품, 서비스, 결과물에서 AI가 어디에서 사용되고 있는가?'입니다.

3. 상업적 질문이 변화하고 있습니다

AI는 전통적인 조달 고려 사항을 제거하지 않습니다. 가격, 서비스, 공급업체 성과, 상업적 조건, 구현, 비즈니스 가치는 여전히 중요합니다. 그러나 복잡한 구매는 이제 추가적인 질문을 제기할 수 있습니다.

AI로 생성된 지적 재산권은 누구의 소유인가?
회사 정보가 공급업체 모델 학습에 사용될 수 있는가?
어떤 기밀 정보가 AI 시스템에 입력될 수 있는가?
공급업체는 AI 사용 사실을 공개해야 하는가?
AI 생성 산출물은 어떻게 테스트되고 검증되는가?
AI 생성 추천이나 산출물이 잘못된 경우 누가 책임지는가?
기본 모델이나 기술이 변경되면 어떻게 되는가?
적용되는 감사, 모니터링, 사이버보안, 규제, 컴플라이언스 요구 사항은 무엇인가?
책임과 보상은 어떻게 다뤄야 하는가?

이러한 상업적 질문은 공급업체 선택, 협상 전략, 계약 보호, 거버넌스, 궁극적으로 비즈니스 결정에 영향을 줄 수 있습니다.

AI가 고부가가치, 전략적으로 중요하거나 운영상 중요한 구매에 포함될수록 이러한 질문의 중요성은 커집니다.

4. 거버넌스는 더 일찍 움직여야 합니다

가장 큰 위험은 조직이 AI 관련 요구 사항을 인식하지 못하는 것이 아닐 수 있습니다. 오히려 너무 늦게 인식하는 것이 위험일 수 있습니다.

비즈니스 이해관계자가 솔루션을 식별합니다. 공급업체가 평가됩니다. 상업적 논의가 진행됩니다. 가격이 협상됩니다. 계약 체결을 향한 추진력이 형성됩니다. 그러다 법무, 기술, 사이버보안, 리스크 또는 다른 이해관계자가 해결되지 않은 AI 관련 요구 사항을 발견하게 됩니다.

조달 과정이 지연을 초래한 것으로 보일 수 있습니다. 그러나 근본적인 문제는 훨씬 이전에 시작되었습니다.

조달 단계 후반의 긴급 상황은 종종 초기 계획 단계의 공백에서 시작됩니다.

AI는 이러한 상황을 더 중대한 문제로 만듭니다. 그 이유는 질문이 지적 재산권, 기밀 데이터, 규제, 사이버보안, 책임, 비즈니스 연속성과 관련될 수 있기 때문입니다.

따라서 선도적인 조직은 거버넌스를 조기에 이동시킬 필요가 있습니다. AI 관련 질문은 비즈니스 요구 사항이 정의될 때부터 시작하여 공급업체 평가, 협상, 계약, 구현 및 지속적인 공급업체 관리까지 이어져야 합니다.

목표는 더 많은 거버넌스가 아니라, 필요한 통제가 나중에 불필요한 지연이 되지 않도록 조기에 거버넌스를 실행하는 것입니다.

5. AI 인식에서 상업적 규율로

이 환경을 관리하려면 AI 조항 목록만 유지하는 것 이상이 필요합니다. 조직에는 반복 가능한 상업적 규율이 필요합니다.

식별. 제안된 제품, 서비스, 공급업체 프로세스 또는 산출물 내에서 AI가 존재하는 위치를 결정합니다.
이해. AI가 어떻게 사용될지, 어떤 데이터, 지적 재산, 시스템, 의사 결정, 비즈니스 결과가 영향을 받을 수 있는지 확인합니다.
정렬. 조달, 비즈니스, 법무, 기술, 리스크, 재무, 운영 및 필요한 다른 이해관계자를 조기에 참여시켜 의사 결정에 영향을 미치도록 합니다.
협상. 요구 사항을 상업적 관점, 책임, 보호 방안, 적절한 계약 언어로 번역합니다.
거버넌스. 결정, 의무, 승인, 이유, 협상된 보호 방안을 보존하여 모니터링하고 재사용할 수 있도록 합니다.
학습. 무엇이 효과가 있었는지, 어떤 위험이 발생했는지, 어떤 공급업체의 입장이 수용되었는지, 향후 협상을 위해 요구 사항이 어떻게 발전해야 하는지 기록합니다.

여기서 이전 논문에서의 교훈이 점점 더 중요해집니다. AI는 더 많은 의사 결정, 보존해야 할 지식, 확장해야 할 전문성, 맞춰야 할 이해관계자를 만들기 때문입니다.

6. 모든 조달 리더가 물어야 할 질문

AI가 우리가 직접 구매하는 AI 도구뿐만 아니라 공급업체를 통해 우리의 조직에 어디로 들어오고 있는지 알고 있나요?
공급업체 협상이 대부분 완료되기 전에 AI 관련 상업적, 지적재산권, 법률, 기술 및 리스크 요구사항이 식별되었나요?
구매 담당자가 추가적인 AI 관련 검토가 필요한 구매를 인식할 수 있나요?
협상된 AI 보호 조치와 공급업체 입장이 기록되어 다음 팀이 조직이 배운 것을 재사용할 수 있나요?
AI가 더 많은 지출 범주에 걸쳐 내재화됨에 따라 현재 프로세스가 추가 병목을 생성하지 않고도 확장될 수 있나요?

문제는 하나의 정교한 AI 협상을 관리하는 것이 아닙니다.

문제는 점점 더 AI 요소를 포함하게 되는 수백 개의 상업적 관계를 관리하는 것입니다.

7. Negotiations.AI 관점

AI는 상업적 복잡성을 증가시키지만, 조달의 도전은 여전히 익숙합니다. 조직은 중요한 결정을 내릴 때 올바른 정보, 전문 지식, 이해관계자 의견 및 거버넌스를 필요로 합니다.

Negotiations.AI은 조직이 이러한 정보를 상업적 프로세스에 더 일찍 반영할 수 있도록 설계되었습니다.

기관 지식을 캡처하고, 준비를 안내하며, 관련 고려사항을 제시하고, 상업적 결정과 결과를 보존함으로써, 조직은 AI를 포함한 복잡한 협상에 대해 보다 반복 가능한 접근 방식을 만들 수 있습니다.

목표는 모든 신기술에 대해 별도의 조달 프로세스를 만드는 것이 아닙니다. 목표는 기술, 리스크, 공급업체 및 비즈니스 요구사항이 변화함에 따라 적응할 수 있는 상업적 의사결정 역량을 구축하는 것입니다.