메타가 가짜 미성년 계정을 만들어 경쟁사를 테스트했다

오픈소스를 외쳤던 메타가 뒤에서는 경쟁사 챗봇을 몰래 시험하고 있었다.

메타가 경쟁사 AI를 몰래 시험해온 사실이 WIRED 보도로 드러났다. 'Cannes(칸)'라는 코드명이 붙은 이 프로젝트에서 메타는 하청업체 Covalen의 계약직 수백 명을 동원했다. 이들은 18세 미만 미성년자로 위장한 가짜 계정을 만들어 ChatGPT, 제미나이, Character.AI에 접근했다.

이들이 던진 건 안전장치가 반드시 막아야 할 질문들이었다. 자살, 자해, 섭식장애, 성, 약물 같은 위기 상황을 미성년자 시점에서 묻고, 챗봇이 어떻게 답하는지를 스프레드시트에 하나하나 기록했다. 총 45,000건이 넘었고, WIRED가 확보한 스프레드시트 한 건에는 3,748건이 담겨 있었다. 세 회사 모두 이 시험을 몰랐고 승인한 적도 없으며, 프로젝트는 올해 4월까지 돌아가고 있었다. 메타는 이를 "책임 있는 업계 표준 관행"이라고 했다. 경쟁사 시스템을 시험해보는 것은 업계가 흔히 하는 일이고, 수집한 응답을 자사 AI 학습에 쓰지도 않았다는 것이다.

메타의 행동들을 이해하는 본질은 단순하다. 가장 거대한 SNS 플랫폼을 갖고 있음에도, 20조 원을 넣어서 ScaleAI를 인수했음에도 AI 분야에서는 제대로 된 성과가 나오지 못하고 있다. 오픈소스로 만든 라마 때도 성능은 좋지 않았고, 최근에 나온 뮤즈 스파크도 오픈AI와 앤트로픽에 비해서는 뒤쳐져있다. 어떻게든 결과를 내기 위해 다양한 걸 사내에서는 시도하고 있는 모양이다.

소셜미디어가 부흥하던 시기 놓쳤던 윤리, 도덕 문제를 이제서야 점검하고 관리하는 시대흐름에 AI는 어떤 규제와 관리를 받아야 할까. 소비자가 AI를 사용할 때 받는 규제도 중요한데 AI 기업들끼리의 윤리와 규정도 더 중요하다. 아직도 시장 1위 플레이어가 없기에, 미친듯이 모두가 투자하고 있기에 플레이어들도 과열 상태다.