[DBR]알고리즘 통한 광고는 왜 성차별적 결과를 불러올까

런던비즈니스스쿨-MIT 연구진

의사결정을 자동화하는 인공지능(AI) 활용이 늘어나면서 알고리즘의 편향과 공정성이 사회적 문제로 떠오르고 있다. 특히 여성이나 흑인은 자신이 원하지 않는 디지털 광고에 노출될 확률이 높은 반면, 정작 필요로 하는 광고에는 노출될 확률이 낮다는 연구들도 나오고 있다. 그런데 알고리즘이 이렇게 편향된 결과를 가져오는 이유가 차별적 의도가 있어서가 아니라 경제적인 효율 최적화 원리 때문인 것으로 밝혀졌다.

최근 런던비즈니스스쿨과 매사추세츠공대(MIT) 연구진은 STEM(과학, 기술, 공학, 수학) 관련 인력 교육 및 구인 광고를 활용한 실험을 통해 알고리즘이 어떻게 편향된 결과를 이끌어 내는지를 연구했다. 연구팀은 실제 성차별적 결과가 발생하는지 확인하기 위해 전 세계 191개 국가 페이스북 사용자를 대상으로 ‘STEM 커리어에 대한 정보’ 광고를 집행했다. 그 결과, 사전 검증 때는 남성과 여성의 해당 광고에 대한 반응 비율이 동일하게 나타났음에도 불구하고 실제로는 광고가 남성에게 여성보다 20% 이상 더 많이 노출된 것으로 나타났다. STEM 분야에 여성 인력이 부족해 관련 교육 및 구인 정보를 전달하는 게 중요한데, 여성들에게 상대적으로 광고가 덜 전달된 것이다.

연구팀이 광고 노출 정도에 차이가 나타난 이유를 살펴본 결과, 광고 생태계의 경제적 원리 때문에 발생한 현상일 가능성이 높은 것으로 확인됐다. 온라인 광고 시장에서는 서로 다른 제품 또는 서비스의 광고가 고객의 눈길을 사로잡기 위해 경쟁한다. 타깃에 따라 광고의 경쟁 구도가 달라지고, 이는 비용으로 연결된다. 그런데 똑같은 광고라도 전 세계적으로 여성을 타깃으로 할 때의 비용이 남성을 타깃으로 할 때보다 비싸다. 온라인에서 여성의 구매력 및 광고 클릭 확률이 남성보다 높기 때문이다. 이에 따라 알고리즘은 한정된 광고비용으로 최대의 광고 효율을 내기 위해 비용이 적게 드는 남자들에게 더 많은 광고를 노출하고, 비용이 많이 드는 여자들에게 광고를 덜 노출시킨 것으로 나타났다. 특히 STEM 인력 교육 및 구인 광고 노출에서 남녀 간 차이가 크게 발생한 25∼44세의 연령대에서 남성과 여성 사이의 비용 차이가 컸다.

연구팀이 페이스북뿐만 아니라 구글 애드워즈, 인스타그램, 트위터를 통해서도 같은 실험을 반복한 결과 다른 플랫폼에서도 남녀 간 광고 노출 정도에 차이가 발생했다. 이 연구는 알고리즘이 비용 대비 효율을 최적화하는 과정에서 편향된 결과를 야기할 수 있다는 사실을 확인시켜준다. 또한 광고 실무자는 디지털 광고를 집행할 때 이런 기술적 한계를 인식하고 지속적으로 광고 결과를 모니터링하면서 편향을 바로잡아야 한다는 시사점을 준다.

이동원 홍콩과학기술대 교수 dongwon@ust.hk

정리=김윤진 기자 truth311@donga.com