12월 14일 저녁, 하누카의 첫날 밤을 축하하기 위해 호주 본다이 해변에 수많은 사람들이 모여들었고, 대신 두 사람처럼 폭력을 만났다. 그룹은 테러리스트에 의해 총에 맞았습니다. 오늘 기준으로 15명이 사망했습니다.
공격자 중 한 명은 구경꾼 아메드 알 아흐메드(Ahmed Al Ahmed)에 의해 체포되었으며, 총잡이를 진압하고 무기를 탈취하려는 그의 용감한 결정은 비디오로 포착되어 소셜 미디어에 널리 공유되었습니다. 에 의해 소개됨 전염병 총기 폭력 많은 구경꾼들을 영웅으로 만든 이 영화는 흰 셔츠를 입은 남자가 많은 생명을 구할 수 있다는 것을 카메라에 명백히 보여줍니다. 검은 옷을 입은 남자에게서 긴 줄의 소총을 낚아채자 그 남자는 몸을 구르며 도망가는 모습이 선명하게 보입니다.
하지만 엑스Elon Musk의 AI 벤처 xAI가 개발한 AI 챗봇인 Grok의 그 사람은 그렇게 보지 않았어.
다음날 아침 사용자가 우연히 Ahmed의 충격적인 영상을 발견하고 챗봇에게 설명을 요청했을 때 Grok입니다. 그는 설명했다 “주차장에서 야자나무를 자르려는 남자의 오래된 곤충 영상.” X 사용자가 봇의 답변에 진실을 추가했습니다. 또 다른 응답에서 Grok은 해당 영상을 10월 7일 하마스의 영상으로 잘못 표시하여 다른 영상에 열대 사이클론 알프레드에 넣었다고 Gizmodo는 말했습니다.
X는 아직 이 결함이 발생한 이유나 Grok이 Bondi Beach 문제를 넘어서 유사한 변경을 수행한 이유를 아직 설명하지 않았습니다.
매쉬 가능한 광속
하지만 개들은 그 이유를 알고 있고 그것은 쉽습니다. 챗봇은 뉴스에 관한 나쁜 소식. 우익 평론가 Charlie Kirk가 살해된 후 Grok은 범인과 Kirk의 경호원에 대한 음모 이론을 개발하여 다른 사용자에게 Kirk의 죽음을 보여주겠다고 주장하는 비디오는 단지 밈일 뿐이라고 말했습니다. Google AI 개요를 포함한 다른 AI 기반 검색에서도 Kirk가 사망한 직후 오탐지가 반환되었습니다.
“답변을 거부하는 대신 이제 샘플은 낮은 수준의 웹사이트, 소셜 네트워크, 나쁜 행위자가 심은 AI가 만든 필드 등 특정 시점에 인터넷에서 사용할 수 있는 모든 정보를 기반으로 합니다. 결과적으로 챗봇은 가장 위험한 상황에서 허위 진술을 반복하고 확인하며 이러한 상황은 빠르게 발생합니다”라고 Masha 당시 NewsGuard 연구원인 McKenzible Sadeghi는 Masha에게 말했습니다.
소셜 미디어는 또한 전반적으로 인간의 조사를 감소시켰으며, 챗봇은 실시간 뉴스 응답의 정확성보다 빈도를 우선시할 수 있습니다.
AI 회사는 이것이 자사 봇의 큰 차이점이라는 것을 알고 있습니다. 이것이 바로 마케팅을 개선하기 위해 미디어를 점점 더 큰 라이센스로 판매하는 이유입니다. 이달 초 Meta가 서명했습니다. 여러 AI 무역 협정 CNN, Fox News 및 국제 언론 매체를 포함한 뉴스 출판사 르 몽드, Reuters와의 기존 파트너십 외에도 구글은 파일럿 프로그램을 실행하다 뉴스 게시자는 뉴스 요약을 포함한 AI 기능을 Google 뉴스에 추가하는 데 참여하고 있습니다.
비교와 정확성은 대규모 언어 모델과 많은 AI 챗봇의 주요 과제로 남아 있습니다. 자신있게 가짜뉴스를 전달하다 사용자를 위해.
