실시간 협상 어시스턴트: 자율적 거래 없이 제공되는 가이드

실시간 협상 어시스턴트는 진행 중인 상업적 논의를 모니터링하고 사람에게 적시에 지원을 제공합니다. 예를 들어 요약, 계산, 위험 경고, 증거 검색, 트레이드오프 분석, 또는 초안 문구 작성 등이 있습니다. 상대방에게 전달되는 내용의 입장을 선택하고 무엇이든 승인하는 주체는 소프트웨어가 아니라 사람입니다.

그 권한이 실질적인 경계입니다. AI 협상 어시스턴트가 중요한 조건을 선택하거나 변경한 뒤, 그 시점에 의미 있는 인간 검토 없이 이를 전달, 수락, 실행 또는 이행할 수 있다면 자율 협상이 됩니다. “assistant”, “copilot”, “agent”와 같은 제품 라벨은 시스템이 이 경계의 어느 쪽에 속하는지를 결정하지 않습니다.

빠른 답변

실시간 협상 어시스턴트는 실시간 협상 중 권한 있는 인간에게 조언을 제공하지만 독립적으로 약속을 하지 않습니다. 소프트웨어가 특정 행위에 대한 사전 인간 승인 없이 중요한 조건을 선택하거나, 전송, 수락, 서명, 발주 또는 결제를 할 수 있을 때 경계가 넘어갑니다. 의미 있는 휴먼 인 더 루프 AI는 충분한 정보를 바탕으로 한 적시 검토와, 그 행위를 실제로 중단시킬 수 있는 진정한 능력을 요구합니다.

실시간 협상 어시스턴트가 하는 일

실시간 협상 어시스턴트는 엔터프라이즈 협상이 진행되는 동안 작동합니다. 즉 통화, 회의, 채팅, 또는 구조화된 제안 교환 중에 작동합니다. 준비 도구와 달리, 협상가의 판단을 대체하지 않으면서도 도움을 줄 수 있을 만큼 빠르게 변화하는 정보를 처리해야 합니다.

적절히 범위가 제한된 어시스턴트는 다음을 수행할 수 있습니다:

• 각 당사자가 밝힌 입장과 미해결 쟁점을 요약합니다.
• 공급업체 제안을 승인된 목표 및 한도와 비교합니다.
• 가격, 물량, 연동 조정, 운임, 통화, 또는 지급 조건 변화의 영향을 계산합니다.
• 승인된 조항 또는 양보 규칙을 검색합니다.
• 계약 또는 공급업체 성과 기록과 충돌하는 진술을 표시합니다.
• 제시된 가격에 금형비나 운임이 포함되는지와 같은 모호성을 식별합니다.
• 질문, 일시 중지 발언, 요약, 또는 조건부 역제안을 초안 작성합니다.
• 권고안, 근거 출처, 불확실성, 그리고 인간의 결정을 기록합니다.

라이브 협상 코치는 세션 중 비공개 가이드를 제공하면서도 구매자에게 통제권을 남겨둘 때 이 범주의 유용한 구현 방식입니다. 해당 워크플로를 검토하는 조달 팀은 Negotiations.AI의 Live Negotiation Coach를 참고할 수 있습니다. 그 관련성은 구체적입니다. 구매자는 공급업체와의 통화 중 제안된 질문이나 경고를 받고, 증거를 검토한 뒤, 이를 말할지 또는 보낼지 결정할 수 있습니다.

이는 회의 전에 전략을 수립하는 것과는 다릅니다. 목표, 대안, 권한, 승인 경로는 이미 존재해야 합니다. 그 이전 단계는 negotiation planning을 참고하세요.

범주 경계 매트릭스

다음 SCOPE 매트릭스는 시스템이 실제로 무엇을 하는지에 따라 분류하는 재사용 가능한 방법입니다. SCOPE는 See, Calculate, Propose, Output, Execute를 의미합니다. 분류는 데모에서 보여준 가장 안전한 기능이 아니라, 실제 운영 환경에서 활성화된 가장 높은 권한의 기능을 기준으로 해야 합니다.

이 매트릭스는 왜 “휴먼 인 더 루프 AI”라는 설명이 불충분할 수 있는지를 보여줍니다. 역제안이 이미 전송된 뒤 알림을 받는 인간은 그 역제안을 통제하고 있는 것이 아닙니다. 인터페이스가 출처, 한도, 또는 변경된 조건을 숨긴다면, 급하게 검토하는 사람 역시 의미 있는 보호 장치가 아닙니다.

다음 네 가지를 물어보세요:

1. 그 사람은 무엇을 보는가? 제안된 행위, 변경된 조건, 출처, 계산, 그리고 불확실성을 볼 수 있어야 합니다.
2. 언제 승인하는가? 승인은 결과를 초래하는 커뮤니케이션이나 거래 이전에 이루어져야 합니다.
3. 무엇을 중단시킬 수 있는가? 검토자는 거부, 수정, 일시 중지, 또는 상향 보고를 할 수 있는 실질적 능력이 있어야 합니다.
4. 누가 책임지는가? 검토자는 명시된 역할과 실제 위임 권한을 가져야 합니다.

이 기능 중심 접근법은 인간-AI 구성을 수동 의사결정에서 자문적 사용, 자율적 의사결정에 이르는 연속체로 설명하는 NIST의 관점과 일치합니다. NIST는 또한 모델을 책임 주체로 취급하기보다, 정의된 역할, 책임성, 감독을 요구합니다(NIST AI RMF 1.0).

자율 협상을 탐지하는 여섯 가지 테스트

다음 진술 중 하나라도 참이면, 해당 시스템은 자율성 경계를 넘는 것으로 보아야 합니다:

1. 사람이 그 특정 역제안을 승인하지 않았는데도 역제안을 전송할 수 있다.
2. 가격, 물량, 책임, 서비스, 기간, 또는 종료와 관련해 실질적으로 다른 입장들 중 하나를 선택한다.
3. 제안을 수락하거나, 전자서명을 적용하거나, 구매 주문을 발행하거나, 결제를 시작할 수 있다.
4. 승인된 유보 한도, 양보 일정, 또는 조항 플레이북을 초과할 수 있다.
5. 인간 검토가 외부 메시지 또는 약속 이후에만 이루어진다.
6. 명목상 검토자가 권고를 의미 있게 거부하는 데 필요한 시간, 정보, 권한, 또는 인터페이스 제어 수단을 갖고 있지 않다.

이 구분이 중요한 이유는 전자적 행위가 반드시 사소한 것이 아니기 때문입니다. 미국 E-SIGN Act는 전자 에이전트를, 그 시점에 개별 검토 없이 독립적으로 행동하거나 응답하는 데 사용되는 자동화 수단으로 정의합니다(15 U.S.C. §7006). 또한 전자 기록 또는 귀속 가능한 전자 에이전트가 사용되었다는 이유만으로 계약과 서명의 법적 효력을 부인할 수 없다고 규정하면서도, 다른 계약 요건은 그대로 유지합니다(15 U.S.C. §7001).

더 넓은 교훈은 특정 관할권에 국한되지 않고 운영상 중요합니다. 직원이 직접 입력하지 않았다는 이유만으로 자동화된 제안이 무해하다고 가정하지 마십시오.

의사결정 시점의 증거를 갖춘 조달 워크플로

라이브 어시스턴트의 유용성은 그것이 어떤 정보를 구별하고 입증할 수 있는지에 달려 있습니다. 조달 협상에서는 워크플로가 원천 자료와 생성된 해석을 분리해야 합니다.

1. 공급업체의 진술 포착

시스템은 “운임이 상승했기 때문에 수정된 가격이 필요합니다”와 같은 주장을 기록하거나 수신합니다. 가능하다면 화자, 통화, 단위, 범위, 효력 발생일, 그리고 조건부 표현을 포착해야 합니다.

2. 영향을 받는 의사결정 식별

어시스턴트는 그 주장을 실시간 쟁점에 매핑합니다. 예를 들어 단가, 운임 배분, 연동 조정, 또는 납품 약속입니다. 쟁점이 불분명하다면, 제안을 추론하기보다 명확화 질문을 권고해야 합니다.

3. 현재 증거 검색

잠재적 입력에는 다음이 포함됩니다:

• 승인된 목표, 철수 기준점, 위임 권한 한도.
• 현재 원가 및 총비용 모델.
• 기존 계약, 수정 계약, 주문서, 그리고 서신.
• 승인된 조항 라이브러리와 대체 문구.
• 공급업체의 품질, 생산능력, 납품, 그리고 집중위험 기록.
• 범위, 날짜, 위험 배분 차이를 조정한 비교 입찰.

4. 출력 라벨링

모든 권고는 다음 중 하나로 분류되어야 합니다:

• 검증된 사실: 인용된 최신 출처에 의해 직접 뒷받침됨.
• 가정: 분석에 필요하다고 여겨지지만 확정되지 않음.
• 추정치: 적절한 경우 명시된 방법과 범위를 갖는 계산값 또는 예측값.
• 권고: 인간의 판단이 필요한 제안된 행위.

5. 인간의 결정 요청

권한 있는 협상가는 제안을 사용할지, 수정할지, 거부할지, 또는 상향 보고할지 선택합니다. “생성”, “승인”, “전송”은 분리된 행위여야 합니다.

6. 감사 기록 보존

출처, 타임스탬프, 모델 출력, 불확실성, 사용자 결정, 승인된 문구, 외부 커뮤니케이션을 기록하십시오. 로그에는 AI 조언의 수용뿐 아니라 거부도 포함되어야 합니다.

가상 예시: 공급업체가 즉각적인 인상을 요청하는 경우

가상 예시—벤치마크나 보고된 고객 결과가 아님: 실시간 조달 협상 중 한 부품 공급업체가 즉각적인 가격 인상을 요청하며 원자재 지수가 상승했다고 주장합니다.

실시간 협상 어시스턴트는 계약의 연동 조정 조항과 최신 승인 지수 기록을 검색합니다. 그리고 공급업체가 계약에서 지정한 비교 기간과 다른 기간을 언급했다는 점을 감지합니다. 다음과 같은 응답을 초안 작성합니다:

“조정 논의에 앞서, 현재 계약과 대조하여 지수 기간과 산식을 먼저 일치시킬 수 있을까요? 당사 기록은 다른 기준선을 사용하고 있습니다. 또한 원자재 영향과 운임 및 가공비를 분리해 주시기 바랍니다.”

인터페이스는 계약 문구와 지수 기록을 검증된 출처로, 기간 불일치에 대한 해석을 AI 생성 분석으로, 그리고 응답 초안을 권고로 표시합니다. 구매자는 인용된 자료를 확인하고 그 질문을 합니다.

이 시스템은 수정 가격을 선택하지 않았고, 역제안을 전송하지 않았으며, 인상안을 수락하지도 않았기 때문에 여전히 어시스턴트입니다. 만약 독립적으로 새로운 단가를 계산해 공급업체에 이메일로 보냈다면, 그 금액이 내부 범위 안에 있었다 하더라도 자율 협상으로 넘어가게 됩니다.

인간 검토가 반드시 유지되어야 하는 영역

인간이 통제하는 조달 협상에서는 다음 사항에 대해 책임 있는 승인이 반드시 유지되어야 합니다:

• 최초 제안과 중요한 역제안.
• 가격, 물량, 기간, 독점성, 또는 수요 약속.
• 책임 한도, 면책, 보증, 지식재산권, 그리고 데이터 사용 조건.
• 서비스 수준, 크레딧, 종료 권리, 그리고 분쟁 조항.
• 소싱 정책 또는 경쟁 절차에 대한 예외.
• 공급업체 선정, 거절, 보류, 또는 실격.
• 미래 수요, 권한, 예산, 또는 컴플라이언스에 관한 진술.
• 서명, 구매 주문, 결제, 수정 계약, 그리고 갱신.
• 승인된 권한 또는 신뢰 한도를 벗어나는 모든 행위.

책임 있는 검토자는 이름 또는 역할로 식별되어야 하며, 필요한 위임 권한을 보유하고, 뒷받침 증거를 제공받으며, 해당 행위를 실제로 중단시킬 수 있는 현실적인 기회를 유지해야 합니다. 통제 장치에 대한 더 넓은 논의는 AI Negotiation Governance: Guardrails, Approval, and Human Accountability를 참고하세요.

라이브 배포를 위한 통제 템플릿

팀은 결과를 초래할 수 있는 각 기능에 대해 다음의 간결한 템플릿을 사용할 수 있습니다:

실무적으로는 초안 전용 모드가 기본값으로 적절합니다. 모델에게 행동하지 말라고 지시하는 프롬프트에 의존하기보다, 승인되지 않은 가격, 조항, 서명, 주문, 결제를 강한 통제로 차단해야 합니다.

위험과 한계

전사 오류는 상업적 의미를 바꿀 수 있음

소수점, 통화, 단위, 화자, 또는 부정 표현의 오류는 정확한 추론을 위험한 권고로 바꿀 수 있습니다. 낮은 신뢰도의 전사와 겹치는 발화는 조용한 해석이 아니라 명확화로 이어져야 합니다.

검색은 적용 가능성의 증명이 아님

조항이 만료된 계약에서 왔을 수 있습니다. 시장 지수가 잘못된 지역이나 기간을 사용할 수 있습니다. 과거 입찰은 다른 물량, 사양, 운임, 또는 위험을 포함할 수 있습니다. 사용자는 단순한 문서 발췌가 아니라 출처와 맥락이 필요합니다.

과거 결과가 자동으로 좋은 라벨은 아님

과거 거래는 약한 협상력, 오래된 시장, 일관되지 않은 권한, 또는 부적절한 관행을 반영할 수 있습니다. 과거의 양보를 반복하는 것은 현재 협상을 최적화하는 것과 다릅니다.

생성된 문구는 권한을 과장할 수 있음

AI 협상 어시스턴트는 협상가가 입증할 수 없는 예산, 예측, 승인, 또는 법적 입장에 대해 자신감 있는 진술을 생성할 수 있습니다. 이러한 표현은 인간 검토가 필요합니다.

인간 검토가 형식적 절차로 전락할 수 있음

빠른 승인, 기본 수락, 숨겨진 증거, 그리고 그럴듯한 제안에 반복적으로 노출되는 상황은 과도한 의존을 촉진할 수 있습니다. NIST는 불투명성, 예측 불가능한 실패 양상, 과신을 관련 AI 위험관리 우려로 지적합니다(NIST AI RMF 1.0). 팀은 사용자가 실제로 권고에 이의를 제기하는지 테스트해야 합니다.

법적 분류는 맥락에 따라 달라짐

상업적 협상 어시스턴트가 EU AI Act상 자동으로 고위험 시스템이 되는 것은 아닙니다. 분류는 시스템의 실제 사용 방식과 법률이 지정한 범주에 따라 달라집니다. 고위험 범주에 속하는 시스템의 경우, 제14조는 한계 이해, 출력 무시 또는 재정의, 시스템 중단을 포함한 효과적인 인간 감독 요건을 포함합니다(Regulation (EU) 2024/1689).

UNCITRAL의 2024년 자동화 계약에 관한 모델법은 계약의 성립과 이행에서의 자동화를 다루며, 자동화된 출력의 귀속도 포함합니다. 이는 입법 모델이지 모든 관할권에서 자동으로 구속력 있는 법은 아니며, 자동화가 다른 적용 가능한 요건을 대체하지도 않습니다(UNCITRAL Model Law on Automated Contracting).

라이브 어시스턴트가 적절하지 않을 수 있는 경우

모든 협상이 실시간 AI의 혜택을 받는다고 가정하지 마십시오. 다음과 같은 경우 라이브 협상 코치는 적절하지 않을 수 있습니다:

• 대화의 기록 또는 처리가 금지되어 있거나 적절히 해결되지 않았다.
• 기밀성, 특권, 영업비밀, 개인정보, 제재, 또는 데이터 거주 요건을 충족할 수 없다.
• 원천 시스템이 신뢰할 수 있는 검색을 하기에는 너무 불완전하거나 오래되었다.
• 논의가 매우 민감한 개인적 결정 또는 별도로 규제되는 사용 사례를 포함한다.
• 지연 시간이 협상가의 주의를 분산시키거나 대인 신호를 놓치게 만든다.
• 검토자가 제안에 따라 행동할 권한이 없다.
• 시스템이 탐색적 논의와 제안을 신뢰성 있게 구별할 수 없다.
• 조직이 자동화된 메시지나 거래를 기술적으로 방지할 수 없다.

이러한 경우에는 회의 전이나 후에 시스템을 사용하거나, 아예 사용하지 마십시오. 적합하지 않은 프로세스에 실시간 지원을 억지로 끼워 넣지 마십시오.

증거 상태: 무엇이 알려져 있고 무엇이 제안되는가

거버넌스 권고를 확정된 규칙과 혼동하지 않기 위해:

• 검증된 사실: NIST는 자발적 AI 위험관리 지침을 제공합니다. 미국 연방법은 전자 에이전트를 정의하고 전자 기록과 서명을 인정합니다. EU AI Act는 맥락 의존적 의무를 설정합니다. UNCITRAL은 2024년에 자동화 계약에 관한 모델법을 채택했습니다.
• 추론: SCOPE 매트릭스와 어시스턴트/자율성 경계는 이러한 권위 있는 자료와 운영 현실을 종합한 것입니다. 여기서 “실시간 협상 어시스턴트”는 보편적 법적 범주로 제시되지 않습니다.
• 가정: 의도된 사용은 고용, 신용, 보험, 또는 별도로 규제되는 다른 결정이 아니라 상업 또는 조달 협상입니다.
• 추정치: 절감액, 생산성, 정확도, 또는 시장 규모 추정은 여기서 제시하지 않습니다. 결과는 맥락에 따라 달라지며, 여기서는 비교 가능한 권위 있는 근거를 사용하지 않기 때문입니다.
• 권고: 초안 전용 운영, 증거 표시, 강한 권한 게이트, 로깅, 사전 인간 승인은 보편적 법적 요건이 아니라 거버넌스 권고입니다.

FAQ

실시간 협상 어시스턴트는 자율 협상 에이전트와 같은가요?

아니요. 실시간 협상 어시스턴트는 통제권을 유지하는 사람에게 분석이나 초안을 제공합니다. 자율 에이전트는 동시적인 인간 승인 없이 중요한 입장을 선택하거나 전달하고, 조건을 수락하거나, 약속을 실행할 수 있습니다.

라이브 협상 코치가 역제안을 초안 작성하면 자율적이 되는 건가요?

아니요. 초안이 비공개로 유지되고, 근거와 가정을 명확히 보여주며, 권한 있는 인간이 해당 특정 역제안을 인지적으로 검토하고 전송한다면 가능합니다. 자동 전송은 경계를 넘습니다.

메시지가 전송된 후의 승인은 휴먼 인 더 루프 AI에 해당하나요?

그 메시지에 대해서는 아닙니다. 외부 행위 이후의 검토는 모니터링이지 사전 통제가 아닙니다. 의미 있는 승인은 해당 행위를 여전히 거부하거나 변경할 수 있을 때 이루어져야 합니다.

조달 부서는 AI 협상 어시스턴트에게 무엇을 보여 달라고 해야 하나요?

최소한 다음이 필요합니다: 출처와 타임스탬프, 관련 계산, 가정, 불확실성, 정책 또는 권한 한도, 정확한 제안 문구, 그리고 필요한 승인자. 또한 검색된 사실과 생성된 해석을 구분해야 합니다.

아무도 서명하지 않았다면 자동 전송된 제안은 법적으로 무해한가요?

팀은 그렇게 가정해서는 안 됩니다. 전자적 커뮤니케이션과 전자 에이전트 활동은 법적 의미를 가질 수 있으며, 결과는 적용 법률, 권한, 동의, 사실관계에 따라 달라집니다. 관련 관할권과 거래에 대해서는 적절한 전문가 검토를 받으십시오.

추가 읽을거리

• NIST Artificial Intelligence Risk Management Framework 1.0
• NIST AI Risk Management Framework program page
• Regulation (EU) 2024/1689—the EU Artificial Intelligence Act
• UNCITRAL Model Law on Automated Contracting
• 15 U.S.C. §7006—definitions including “electronic agent”

면책고지: 이 글은 일반적인 운영 정보를 제공할 뿐이며 법률, 재무, 또는 조달 자문이 아닙니다. 귀하의 상황에 대해서는 자격 있는 전문가의 조언을 받으십시오.