새로운 연구에 따르면 AI 챗봇과 대화하면 사람들이 투표를 변경하도록 설득할 수 있으며 향후 선거 결과에 영향을 미칠 수 있다고 합니다.
1,530명의 캐나다인이 포함된 이 설문 조사에서는 챗봇이 미국인보다 캐나다인이 투표를 변경하도록 설득하는 데 더 성공적이라는 사실도 발견했습니다.
캐나다 코넬 대학교 교수이자 연구원인 고든 페니쿡(Gordon Pennycook)은 이번 연구가 AI가 정치에 어떤 영향을 미칠 수 있는지를 보여줬다고 말했습니다.
이번 연구의 저자 중 한 명인 페니쿡은 “대답은 마케팅 등과 같은 전통적인 정치 방식보다 더 설득력 있고 설득력이 있다”고 말했다.
네이처(Nature) 저널에 발표된 이 연구에 따르면 2024년 선거에 참여한 미국 응답자 21명 중 1명은 카말라 해리스에 대한 투표를 변경하기 위해 AI 챗봇에 접속한 후 만족했으며, 35명 중 1명은 도널드 트럼프에 대한 투표를 변경하기로 결정했습니다.
지난 4월 연방선거 마지막 주에 실시된 캐나다 부분 설문조사에서 참가자들은 17가지 이슈 중 선거에서 누구에게 투표할지 결정하는 데 가장 중요한 이슈가 무엇인지 질문을 받았습니다. 모든 인터뷰는 영어로 진행되었으며 캐나다 참가자에 대한 설명은 없었습니다.
연구에 따르면 챗봇과의 상호작용을 통해 일부 참가자는 투표 의사를 바꾸게 되었습니다.
페니쿡은 “캐나다의 친카니 환경에서 그는 변화한 9명 중 한 명이었고 이는 대다수였다”고 말했다. “친 포일리에브르로서 AI가 사람들이 포일리에브르에게 투표하도록 설득했을 때 그는 변한 13명 중 한 명이었습니다.
“마음을 바꾸는 사람들이 많습니다. 다른 주나 지역의 상황을 살펴보면 결정을 바꿀 수 있습니다.”
투자자들이 인공지능에 수십억 달러를 투자하면서 인공지능 버블이 임박했다는 경고가 커지고 있습니다. Andrew Chang은 패닉을 일으키는 원인을 설명하고 발병을 폭발시킬 수 있는 주요 요인을 분석합니다. 사진 제공: The Canadian Press, Reuters 및 Getty Images
페니쿡은 AI 챗봇이 정치에서 유용할 수 있는 이유 중 하나가 각 응답자에게 메시지를 적용한다는 점이라고 말했습니다.
이 연구는 또한 사실을 사용하여 투표를 변경하도록 허용된 경우 챗봇이 사람들이 투표를 변경하도록 설득하는 데 더 효과적이라는 것을 발견했습니다.
저자들은 “캐나다 연방 선거에서 설득 효과는 미국 실험에서 나타난 효과보다 거의 3배 컸지만, AI가 사실과 증거를 사용하지 못하게 막으면 효과가 절반으로 줄었다”고 썼다.
페니쿡은 또한 연구 참가자들이 광고를 보는 속도가 더 빠른 것에 비해 AI 챗봇에 연결하는 데 6~8분이 걸렸다고 보고했습니다.
페니쿡은 미국과 캐나다의 차이가 미국의 정치 캠페인과 연관될 수 있다고 말했다.
그는 “미국 국민은 끊임없이 선택의 폭을 넓혀가고 있다”고 말했다. “그래서 사람들의 마음을 바꾸는 것은 매우 어렵습니다.”
성명서에서 이 연구는 AI 챗봇과 대화하는 것이 “유권자의 태도에 영향을 미칠 수 있다”는 사실을 발견했지만, 정치인들이 이 기술을 사용할 때 얼마나 효과적인지는 아직 지켜봐야 한다고 말했습니다.
저자들은 “AI 설득 기술이 향후 선거에서 중요한 역할을 할 것으로 보이며 잠재적으로 상당한 민주적 결과를 가져올 것 같다”고 썼습니다.
캐나다의 실험은 연방 선거 중에 이루어졌고 다른 상승은 근소한 차이로 승리했지만 Pennycook은 그것이 결과에 어떤 영향을 미쳤을지 의심합니다.
그는 “실질적으로 알 수 있는 방법은 없지만 1000명을 대상으로 한 이번 조사가 결정을 바꿀 가능성은 없을 것 같다”고 참가자들이 캐나다에서 왔다는 점을 지적했다.
AI를 사용하여 채팅을 시작하는 어린이용 장난감이 시장에 출시되고 있지만 전문가들은 성 정보와 결혼 정보를 제공하는 장난감을 발견했으며 더 많은 규제를 요구하고 있다고 말합니다.
캐나다는 선거 중 유권자에게 영향을 미치기 위한 광고 및 기타 도구 사용에 관한 엄격한 지침을 갖고 있지만, 캐나다 선거관리청은 선거 중 AI 사용에 관한 규정이 거의 없다고 말합니다. 그러나 AI를 사용하여 선거 공무원을 사칭하거나 선거 공무원, 정당 또는 선거 대리인이 보낸 것처럼 보이는 콘텐츠를 보내는 사람은 법을 위반할 수 있습니다.
최고 선거 책임자인 스테판 페로(Stéphane Perrault)는 AI를 사용하여 실시되거나 수정된 선거에 대한 메시지에 공개 기록을 포함하고 AI 챗봇 또는 검색 서비스가 답변에 사용자가 공식 또는 공식 정보를 찾을 수 있는 위치를 표시해야 한다는 요구 사항 등 AI의 새로운 위협에 대처하기 위해 선거법 개정을 제안했습니다.
불만사항을 조사하는 캐나다 선거관리위원회 사무국은 지난 선거에서 AI 사용에 대한 불만사항을 접수했다고 밝혔습니다. 그러나 Caroline Simard 국장은 지난 6월 성명에서 AI의 사용이 결과에 영향을 미쳤다는 증거가 없다고 말했습니다.
몬트리올 콩코르디아 대학교 커뮤니케이션학 부교수이자 이 대학교 AI 연구소 소장인 펜윅 맥켈비(Fenwick McKelvey)는 이 연구가 인공 지능이 투표 의도에 어떻게 영향을 미칠 수 있는지를 보여준다고 칭찬했습니다.
“우리는 이런 종류의 일이 매우 유혹적일 수 있다는 것을 알고 있습니다”라고 그는 말했습니다.
McKelvey는 멕시코와 같은 다른 국가의 정당이 이미 영향력을 행사하는 방법 중 하나로 챗봇을 사용하기 시작했다고 말했습니다.
McKelvey는 AI 챗봇 기술이 캐나다 유권자에 대해 정당이 만든 데이터베이스(캐나다 개인 정보 보호법의 적용을 받지 않는 데이터베이스)와 결합될 수 있는지 여부가 한 가지 우려가 될 것이라고 말했습니다.
“그들의 데이터와 콘텐츠에 대한 통제력이 부족하면 누구도 동의하지 않은 방식으로 사용될 수 있습니다.”라고 그는 말했습니다.
McKelvey는 정당은 캐나다 개인 정보 보호법의 적용을 받아야 하며 정부는 광고에서 AI로 인한 피해를 제한하기 위한 조치를 취해야 한다고 말했습니다.
