워싱턴(AP) - 거짓 정보 연구원 웬핑 리우가 중국이 가짜 소셜 미디어 계정을 사용하여 대만 최근 선거에 영향을 끼치려는 노력을 조사할 때, 가장 성공한 프로필에 대해 무언가가 돋보였습니다.
그들은 여성인 듯 했거나, 적어도 그들이 그러한 것처럼 보였다고 할 수 있었습니다. 여성인 척을 하는 가짜 프로필이 남성인 척을 하는 계정보다 더 많은 참여, 시선 및 영향력을 얻었습니다.
리우는 "여성인 척 하는 것이 신뢰성을 얻는 가장 쉬운 방법이다"라고 말했습니다.
중국이나 러시아의 프로파간다 기관, 온라인 사기꾼 또는 AI 챗봇이든, 여성이 되는 것이 유리합니다. 기술이 더욱 정교해질수록 인간의 두뇌는 가상 세계로 이주한 오랜 성별 편견 덕분에 놀랍게 쉽게 해킹당할 수 있습니다.
사람들은 오랫동안 선박과 같은 무생물 객체에 성별과 같은 인간적 특징을 부여해왔기 때문에 인간과 유사한 특징이 가짜 소셜 미디어 프로필이나 챗봇을 더 매력적으로 만들 수 있다고 생각됩니다. 그러나 이러한 기술이 성별 편견을 어떻게 반영하고 강화할 수 있는지에 대한 질문들이 점점 주목받고 있으며, 음성 어시스턴트와 AI 기능이 탑재된 챗봇들이 시장에 진입함에 따라 인간(남성과 여성)과 기계 사이의 경계가 더욱 흐릿해지고 있습니다.
\"감정과 따뜻함을 주입하고 싶다면, 여성 얼굴과 목소리를 선택하는 것이 매우 쉬운 방법입니다,\"라고 밝힌 프랑스 툴루즈의 마케팅 교수이자 온라인 연구자 실비 보로는 \"여성\" 봇을 선호하고 더 인간적으로 여기는 인터넷 사용자들을 발견했습니다.
대부분의 사람들은 남성보다 여성을 더 따뜻하고 위협적이지 않으며 더 협조적으로 여기는 경향이 있다고 보로는 AP에 전했습니다. 한편 남성은 종종 능력 있는 것으로 인식되지만 동시에 위협적이거나 적대적으로 행동할 가능성이 더 높다고 합니다. 이러한 이유로 많은 사람들은 의도적으로든 무의식적으로든 여성으로 가장 하는 가짜 계정과 더 쉽게 관여할 수 있습니다.
OpenAI CEO 샘 알트만이 ChatGPT AI 프로그램을 위한 새로운 목소리를 찾을 때 \"그는 대조적으로 밀고서 삼상에게 그녀의 목소리를 발견할 것이라고 말했다 - 영화 '그녀'에서 대세 목소리 어시스턴트로 활약한 스칼렛 요한슨에게 접근했습니다. 요한슨은 알트만이 사용자들이 그녀의 목소리를 '안심스럽다'고 생각할 것이라고 전했으나 요한슨은 알트만의 요청을 거절하고 '무서울 정도로 유사한' 목소리를 사용할 때 회사에 소송을 제기할 것을 약혼했습니다. OpenAI는 새로운 목소리를 사용 중단시켰다.
여성 프로필 사진, 특히 완벽한 피부, 두꺼운 입술 및 치마 안에 눈이 큰 여성들을 보여주는 것은 많은 남성에게 다른 온라인 루어이 될 수 있습니다.
사용자들은 인식된 성별에 따라 봇을 다르게 다룹니다. 보로의 연구에 따르면 '여성' 챗봇이 '남성' 챗봇보다 성적 괴롭힘과 협박을 훨씬 더 많이 받았다고 합니다.
평균적으로 여성 소셜 미디어 프로필은 남성 프로필보다 3배 이상의 조회수를 받았다고 이스라엘의 테크 기업인 Cyabra가 AP에 대해 수행한 4만 개가 넘는 프로필 분석에서 밝혔습니다. 나이가 어린 것으로 주장하는 여성 프로필이 가장 많은 조회수를 얻었다고 Cyabra가 밝혔습니다.
Cyabra의 보고서에 따르면 '여성'으로 가장 하는 가짜 계정은 '남성'으로 가장 하는 것보다 더 많은 사람에게 도달하는 데 도움이 될 것입니다.
중국과 러시아와 같은 국가들이 과거부터 프로파간다와 가짜 정보를 퍼뜨리기 위해 가짜 여성을 사용해왔습니다. 이러한 캠페인들은 여성에 대한 사람들의 시선을 악용하기도 합니다. 일부는 지혜로운, 기운 주는 할머니로 나타나 홈스펀 지혜를 제공하는 반면, 다른 사람들은 나이든 남성들과 정치에 대해 이야기하고 싶어하는 젊고 전형적으로 매력적인 여성들을 흉내냅니다.
지난 달, NewsGuard의 연구원들은 수백 개의 가짜 계정을 발견했으며, 그 중 일부는 대통령 조 바이든을 비판하기 위해 사용되었습니다. 트럼프 지지자들이 조 바이든에 '투표하지 않을 것이라'는 개인 사진을 게시하기 시작한 후 발생했습니다.
게시물 중 많은 것들은 진짜였지만, 700개 이상은 가짜 계정에서 온 것이었습니다. 대부분의 프로필은 일리노이스나 플로리다 주에 거주하는 젊은 여성이라고 주장했으며, 그 중 하나는 PatriotGal480이란 이름이었습니다. 그러나 많은 계정이 거의 동일한 언어를 사용했으며, 다른 사용자로부터 훔쳐온 AI 생성 프로필 사진이었습니다. 그리고 가짜 계정을 운영한 사람을 확신할 수는 없었지만, 러시아와 중국을 포함한 여러 국가와 링크된 수십 개를 찾아냈습니다.
NewsGuard가 플랫폼에 연락한 후 X는 계정을 제거했습니다.
UN의 보고서는 '가짜 계정과 챗봇이 여성인 이유'에 대한 더 명확한 이유가 있습니다: 남성이 만들었습니다. '로봇이 성차별적인가?'라는 제목의 보고서는 프로그래밍 및 AI 개발에서의 성별 격차를 살펴보고 그들의 제품에 임베드된 성차별적인 편견을 줄일 수 있다는 결론을 내렸습니다.
가장 사람철학적인 챗봇을 만들고 싶어하는 프로그래머들에게 이것은 딜레마를 발생시킨다고 보로는 말했습니다: 여성 페르소나를 선택하면 현실 세계의 여성에 대한 성별 편견을 증폭하는 것인가?
\"이것은 악한 순환\"이라고 보로는 말했습니다. \"AI를 인간화하는 것은 여성을 비인간화할 수도 있다.\"
