미국 디지털 마케팅 현장에서 AI 기반 프로그래매틱 광고 최적화를 이야기하면, 대부분 “전환율이 올라간다”, “입찰가를 더 정확하게 예측한다”, “오디언스를 세밀하게 나눈다” 같은 말부터 나옵니다. 물론 틀린 말은 아닙니다. 그런데 정작 중요한 변화는 그런 표면적인 효율 뒤에 숨어 있습니다. AI가 광고 경매 안에서 단순한 도구를 넘어, 시장 가격의 형성 방식을 바꾸는 전략적 플레이어가 되고 있다는 점 말이죠. 이 글에서는 미국 프로그래매틱 시장에서 실제로 벌어지고 있는 두 가지 조용한 문제, 알고리즘 담합과 승자의 저주를 중심으로 이야기해 보겠습니다.
많은 마케터가 AI 최적화를 ‘예측의 정확도’ 문제로 바라봅니다. 전환 확률, 클릭 확률, 예상 고객 생애 가치(LTV) 같은 숫자를 잘 맞히면 성과가 좋아질 거라고 기대하죠. 하지만 프로그래매틱 경매는 수만 개의 광고주가 참여하는 반복적인 다자간 게임입니다. 내 AI가 입찰가를 바꾸면 시장 가격이 바뀌고, 그 가격이 다시 AI의 학습 데이터로 들어와 판단을 흔듭니다. 이 피드백 루프가 반복되면 AI는 더 이상 중립적인 성과 예측기가 아닙니다. 자기 입찰 전략이 시장에 영향을 주고, 다른 AI들의 전략과 얽히면서 새로운 균형을 만들어내는 존재가 되는 것이죠.
모두가 비슷한 AI를 쓰면 가격은 조용히 올라간다
미국 프로그래매틱 시장에서 대다수 광고주는 사실상 비슷한 AI 인프라를 사용합니다. Google DV360의 커스텀 비딩, The Trade Desk의 Koa, Amazon DSP의 AI 최적화, Meta Advantage+의 입찰 알고리즘이 대표적입니다. 광고주마다 캠페인 목표는 다르지만, 이 AI들이 학습하는 데이터는 상당 부분 겹칩니다. 같은 서드파티 데이터, 같은 아이덴티티 그래프, 같은 퍼블리셔 인벤토리, 같은 전환 이벤트를 쓰는 경우가 많죠. 그 결과 서로 다른 광고주의 AI가 같은 노출에 대해 비슷한 가치를 예측하게 됩니다. 이건 우연이 아니라 구조적으로 설계된 수렴입니다.
예를 들어, 특정 프리미엄 뉴스 사이트의 인벤토리에 신용카드 상품을 파는 광고주 50곳이 경쟁한다고 가정해 봅시다. 각 AI는 이 인벤토리를 보는 유저의 전환 가치를 추정합니다. 그런데 모든 AI가 같은 데이터 제공업체의 ‘신용카드 관심’ 세그먼트와 비슷한 전환 이벤트를 학습했다면, 추정치는 크게 다르지 않을 겁니다. 이렇게 되면 낙찰가는 그 공통 평가 가치 근처에서 형성됩니다. AI가 아무리 똑똑하게 최적화해도 시장 전체 가격이 이미 높게 잡혀 있기 때문에, 광고주는 과거보다 더 높은 CPM을 내야 합니다. 전환율이 10% 개선됐는데 같은 기간 시장 평균 CPM이 15% 올랐다면, AI가 만든 성과는 사실상 상쇄된 셈입니다.
반복 입찰 속에서 생기는 은밀한 협조
프로그래매틱 경매는 하루에도 수백만 번 반복됩니다. 게임 이론에서 반복 게임은 명시적인 의사소통 없이도 협조적인 균형이 나타날 수 있는 환경으로 알려져 있습니다. 강화학습 기반 AI는 입찰을 반복하면서 이런 패턴을 학습할 수 있습니다.
“내가 지나치게 낮은 가격으로 공격적으로 입찰하면 단기적으로 낙찰률은 올라가지만, 경쟁자들도 더 낮게 입찰하기 시작해 결국 가격 경쟁이 심해진다. 차라리 일정 수준 이상의 가격을 유지하는 편이 장기적으로 안정적이다.”
이런 학습이 여러 광고주의 AI에서 동시에 일어나면, 명시적인 담합 없이도 높은 CPM이 유지되는 시장 균형이 만들어질 수 있습니다. 이를 알고리즘 담합이라고 부릅니다. 미국에서는 연방거래위원회(FTC)와 법무부가 다른 산업에서 알고리즘 담합을 주목하고 있지만, 프로그래매틱 광고 경매는 아직 거의 논의되지 않는 영역입니다. 구조적으로는 오히려 더 취약한데도 말이죠.
이겼다는 것 자체가 손실의 신호일 수 있다
두 번째로 짚어볼 문제는 승자의 저주입니다. 경매 이론에서 공통가치 경매에서는 물건의 실제 가치가 모든 입찰자에게 비슷하지만, 정확한 가치를 모르기 때문에 각자 추정합니다. 이때 가장 높은 가격을 써서 낙찰받은 사람은 결국 가치를 가장 높게 잘못 추정한 사람일 가능성이 큽니다. 프로그래매틱 노출도 다르지 않습니다.
특정 유저가 신용카드 상품에 관심이 있다고 해 보죠. 이 유저의 ‘전환 가치’는 여러 광고주에게 비슷하지만, 정확한 전환 확률은 아무도 모릅니다. 각 AI는 이 유저의 전환 확률을 추정하고, 가장 높은 가치를 부여한 AI가 낙찰받습니다. 그런데 낙찰받은 AI는 정말 그 유저가 전환할 가능성이 높았기 때문이 아니라, 추정 오차가 가장 낙관적이었기 때문에 이겼을 수 있습니다. 이런 패턴이 반복되면 AI는 보이지 않게 과다 지불을 누적하게 됩니다.
낙찰 데이터는 이미 오염되어 있다
AI는 주로 자신이 낙찰받은 노출 데이터로 학습합니다. 그런데 낙찰받은 노출은 이미 특정 조건에서 선택된 표본입니다. 낙찰받지 못한 노출의 잠재 가치, 더 낮은 가격으로도 낙찰받을 수 있었는지에 대한 정보는 학습 데이터에 들어가지 않습니다. 즉, AI는 승자의 저주가 발생한 사례를 학습하고도 그것이 과다 지불인지 알 수 없습니다. 오히려 ‘낙찰 → 전환 → 더 높은 입찰’이라는 강화 루프가 형성되면서 같은 실수를 반복하게 됩니다.
기여 분석이 승자의 저주를 키운다
미국 시장에서는 여전히 포스트뷰 기여, 클릭 기여, 래스트 터치 기여 방식으로 캠페인을 최적화하는 경우가 많습니다. AI가 기여된 전환을 기준으로 입찰가를 올리면, 실제로는 전환하지 않았을 유저에게도 과도한 가치를 부여하게 됩니다. 어차피 전환할 가능성이 높은 유저에게 노출되고 그 유저가 전환하면, AI는 이 노출의 가치를 높게 평가합니다. 하지만 실제 증분 가치는 0에 가까울 수 있죠. 이런 환경에서는 AI가 ‘증분 수익’이 아니라 ‘기여된 전환’을 극대화하도록 학습되어, 결과적으로 과다 지불을 부추기게 됩니다.
실무에서 쓸 수 있는 대응 전략
그렇다면 미국 디지털 마케팅 전문가로서 현장에서 무엇을 할 수 있을까요? 다음의 실행 가능한 전략을 제안합니다.
1. 퍼스트파티 데이터로 시장의 공통 평가에서 벗어나라
알고리즘 담합의 핵심 원인은 모든 AI가 비슷한 데이터를 학습한다는 점입니다. 따라서 자사만의 퍼스트파티 데이터를 활용해 커스텀 전환 가치 모델을 구축하면 시장의 공통 평가에서 벗어날 수 있습니다. 모든 경쟁사가 동일한 서드파티 신용카드 관심 세그먼트를 사용하는 동안, 자사 CRM의 실제 카드 발급 이력과 결합해 전환 가치를 다시 계산하면 경쟁사 AI와 다른 입찰 기준을 갖게 됩니다. 이는 성과를 높이는 것을 넘어, 시장 가격 형성에 휩쓸리지 않는 방어막이 됩니다.
2. 단일 예측값이 아니라 불확실성을 반영해 입찰하라
승자의 저주를 피하려면 AI가 단일 예측값이 아니라 가치의 확률 분포를 출력하도록 설계해야 합니다. 예측된 전환 가치가 10달러라면, 그 값의 불확실성을 반영해 입찰가를 10달러보다 낮게 조정하는 것입니다. 프로그래매틱 경매 대부분이 세컨드 프라이스 방식이므로, 낙찰가가 내 입찰가보다 낮을 가능성을 고려해 입찰가를 과도하게 높이지 않는 전략이 장기적으로 수익을 개선합니다. 실무적으로는 로그 레벨 데이터를 분석해 입찰가 대비 낙찰가의 분포를 확인하고, 지나치게 높은 입찰로 낙찰받은 비중이 늘어나는지 모니터링해야 합니다.
3. 기여 분석 대신 증분성으로 최적화 기준을 바꿔라
기여 분석이 승자의 저주를 증폭시킨다면, 증분성 측정을 최적화의 기준으로 삼는 것이 근본적인 해결책입니다. 지역 단위 실험이나 전환 리프트 테스트를 통해 광고가 실제로 만들어낸 추가 전환을 측정하고, 그 증분 가치에 따라 입찰가를 조정하는 것이죠. 특정 오디언스 세그먼트에서 포스트뷰 기여 전환은 많지만 실제 증분 전환이 거의 없다면, 해당 세그먼트에 대한 입찰가를 과감히 낮춰야 합니다. AI 학습 데이터도 기여된 전환이 아니라 증분 전환으로 바꾸면, 과다 지불 루프를 끊을 수 있습니다.
4. 시장 가격 자체를 지표로 추적하라
광고주는 종종 캠페인 성과 지표만 보고 시장 전체의 가격 흐름을 놓칩니다. DSP에서 제공하는 입찰 스트림 데이터를 활용해 시장 평균 CPM, 경쟁 강도, 낙찰률의 변화를 추적해야 합니다. 만약 본인 캠페인의 전환율은 유지되는데 시장 CPM이 급등하고 있다면, 이는 알고리즘 담합과 같은 구조적 원인일 수 있습니다. 이 경우 단순히 예산을 늘리는 대신, 인벤토리 다변화나 공급 경로 최적화로 가격 압박을 피하는 전략이 필요합니다.
5. DSP를 전략적으로 다변화하라
같은 AI 인프라를 쓰는 광고주가 많을수록 무리 행동이 심해집니다. 따라서 하나의 DSP에 모든 예산을 집중하기보다, 서로 다른 알고리즘 특성을 가진 DSP를 병행하는 것이 유리할 수 있습니다. 다만 주의할 점은 여러 DSP에서 같은 타깃팅과 같은 최적화 목표를 설정하면 오히려 자사 캠페인끼리 경쟁하게 된다는 것입니다. DSP별로 전략을 차별화하고, 각 플랫폼의 입찰 로직을 이해한 뒤 보완적으로 운용해야 합니다.
6. 작은 시뮬레이션으로 게임의 동태를 미리 읽어라
실무적으로 AI의 입찰 전략을 검증할 때 과거 데이터를 바탕으로 한 다중 에이전트 시뮬레이션을 활용할 수 있습니다. 경쟁사의 입찰 행태를 완전히 알 수는 없지만, 시장 로그 데이터를 바탕으로 경쟁 입찰 분포를 추정하고, 내 입찰 전략을 바꿨을 때 시장 가격이 어떻게 변하는지 시나리오 분석을 해보는 것입니다. 이를 통해 ‘내 AI가 입찰가를 올리면 경쟁 AI도 따라 올리는지’ 같은 동태적 효과를 미리 점검할 수 있습니다.
기술이 고도화될수록 시장을 읽는 눈이 더 중요해진다
AI 기반 프로그래매틱 최적화는 분명히 강력한 도구입니다. 하지만 우리가 그 도구를 ‘중립적인 성과 개선 장치’로만 바라보는 한, 알고리즘 담합과 승자의 저주 같은 구조적 함정을 피하기 어렵습니다. 미국 디지털 마케팅 전문가로서 강조하고 싶은 것은 AI가 바꾸는 것이 단순한 성과 지표가 아니라 광고 경매의 가격 형성 메커니즘 자체라는 점입니다.
광고주는 이제 AI에게 단순히 ‘전환을 늘려라’고 지시하는 것을 넘어, AI가 참여하는 시장의 동태를 이해하고 그 안에서 전략적으로 행동하도록 설계해야 합니다. 퍼스트파티 데이터 기반의 커스텀 모델, 증분성 중심의 최적화, 입찰 분포 분석, 시장 가격 모니터링은 그 첫걸음입니다. 기술이 아무리 정교해져도, 진짜 경쟁력은 기술 자체가 아니라 시장의 흐름을 읽고 한발 앞서 움직이는 통찰력에서 나온다는 사실을 잊지 말아야겠습니다.