엘론 머스크 수요일에 그가 말했지 캘리포니아 법무장관이 발표하기 몇 시간 전에 “그들은 그록이 만든 어린이 누드 사진에 대해 모른다” 조사를 시작했다 xAI의 챗봇에서 “부적절한 포르노 콘텐츠의 확산”에 대해.
머스크의 부인은 다음과 같다. 정부의 압력이 커지고 있다 영국과 유럽에서 말레이시아와 인도네시아에 이르기까지 전 세계에서 X 사용자는 Grok에게 사진 편집을 요청하기 시작했습니다. 진짜 여자들때로는 아이들이 동의 없이 성적인 사진을 찍기도 합니다. AI 기능 및 콘텐츠 관리 플랫폼인 Copyleaks에 따르면 X에는 1분마다 약 한 장의 사진이 게시됩니다. 예 1월 5일부터 1월 6일까지 24시간 동안 시간당 6,700을 벌었습니다. (X와 xAI는 같은 회사의 일부입니다.)
롭 본타 캘리포니아주 법무장관은 성명을 통해 “이런 것들은 온라인에서 사람들을 괴롭히는 데 사용됐다”고 밝혔다. “저는 xAI가 이를 실현하기 위한 조치를 취하도록 권장합니다.”
AG 사무실은 xAI가 법을 위반했는지 여부와 방법을 조사할 것입니다.
부적절한 성적 이미지 및 아동 학대 자료(CSAM)로 사람들이 원하는 것을 보호하기 위한 여러 법률이 마련되어 있습니다. 작년 그것을 아래로해라 은밀한 이미지를 포함한 은밀한 이미지의 의도적인 배포를 범죄화하고 X와 같은 플랫폼이 48시간 이내에 콘텐츠를 삭제하도록 요구하는 연방법에 서명되었습니다. 캘리포니아에도 자체적인 규칙 목록 개빈 뉴섬 주지사는 2024년 성추문을 종식시키기 위해 서명했습니다.
Grok은 연말에 여성과 어린이의 성적인 이미지를 생성해 달라는 X의 사용자 요청을 이행하기 시작했습니다. 이러한 추세는 주요 제작자가 Grok에게 마케팅 전략으로 성적인 이미지를 만들도록 장려하고 다른 사용자가 유사한 콘텐츠를 제출하도록 유도한 이후 시작된 것으로 보입니다. “기묘한 이야기”의 여배우 Millie Bobby Brown과 같은 유명 인사를 포함한 많은 공개 행사에서 Grok은 지나치게 성적인 방식으로 옷, 체형 또는 외모를 변경하여 실제 여성의 실제 이미지를 바꾸는 데 대응했습니다.
에 따르면 기타 보고서xAI는 이 문제를 해결하기 위해 보안 조치를 사용하기 시작했습니다. 그록 지금 프리미엄 구독이 필요합니다 다른 이미지 요청에 응답하기 전에, 심지어 이미지가 생성되지 않을 수도 있습니다. Copyleaks의 마케팅 담당 수석 부사장인 April Kozen은 TechCrunch에 Grok이 다소 간결한 방식으로 요청을 처리할 수 있다고 말했습니다. 그는 Grok이 대규모 제조업체의 경우 더 유연한 것으로 보인다고 덧붙였습니다.
테크크런치 이벤트
샌프란시스코
| |
2026년 10월 13~15일
“전반적으로 이러한 패턴은 불일치가 여전히 존재함에도 불구하고 X가 이미지 처리 문제를 줄이거 나 개선하기 위해 여러 가지 방법을 시도하고 있음을 보여줍니다.”라고 Kozen은 말했습니다.
xAI나 Musk 모두 이 문제를 공개적으로 언급하지 않았습니다. 행사가 있은 지 며칠 후 머스크는 그록에게 문제를 제작해 달라고 요청하며 이 문제를 경시하는 것처럼 보였습니다. 그녀가 비키니를 입고 있는 사진. 1월 3일, X 보안 계정 회사는 “다음을 포함하여 X의 불법 콘텐츠에 대해 조치를 취한다”고 말했습니다. [CSAM],” Grok이 보호받지 못하거나 여성이 성추행당하는 이미지를 만들지 않는다고 직접적으로 말하지 않았습니다.
그 모습은 오늘 Musk의 게시물을 반영하여 사용자 행동에 대한 무단 액세스를 강조합니다.
머스크는 “그록이 만든 벌거벗은 아이들의 사진을 전혀 몰랐다. 말 그대로 제로”라고 썼다. 이 진술은 비키니 이미지나 고도로 성적인 변화의 존재를 부정하지 않습니다.
뉴욕 로스쿨의 조교수이자 전직 검사였던 마이클 굿이어(Michael Goodyear)는 TechCrunch에 머스크가 아동 성적 이미지를 제작하거나 배포할 경우 처벌이 엄격하기 때문에 CSAM에 초점을 맞추고 있다고 말했습니다.
“예를 들어, 미국에서 CSAM 게시자 또는 협박을 받은 게시자는 Take It Down Act에 따라 최대 3년의 징역형을 받을 수 있는 반면, 성인 포르노의 경우 최대 2년의 징역형을 받을 수 있습니다.”라고 Goodyear는 말했습니다.
그는 “주요점”은 사용자 우려에 관심을 끌려는 머스크의 시도라고 덧붙였습니다.
“분명히 Grok은 이미지를 만드는 것이 아닙니다. 단지 사용자의 요청에 따라 달라질 뿐입니다. “라고 Musk는 자신의 게시물에 썼습니다. “Grok을 사용하는 원칙은 모든 국가나 국가의 법률을 준수하는 것이기 때문에 이미지 생성을 요청하면 불법적인 생성을 거부합니다. Grok 프롬프트를 중단하면 예상치 못한 일이 발생할 수 있습니다. 이런 일이 발생하면 가능한 한 빨리 오류를 수정합니다.”
종합해보면, 이 게시물은 이러한 이벤트가 사용자 요청이나 적의 압력에 따라 비정상적인 것이며 유지 관리를 통해 해결할 수 있는 기술적 문제임을 보여줍니다. Grok의 보안 설계에 결함이 있다는 점은 인정하지 않습니다.
Goodyear는 “규제 당국은 언론의 자유 보호를 염두에 두고 AI 개발자에게 이를 방지하기 위한 조치를 취하도록 요구하는 것을 고려할 수 있습니다”라고 말했습니다.
TechCrunch는 xAI에 연락하여 성적으로 학대당하는 여성과 아동의 이미지를 몇 번이나 포착했는지, 어떤 절차가 변경되었는지, 회사가 이 문제에 대해 규제 기관에 통보했는지 여부를 문의했습니다. TechCrunch는 회사가 응답하면 이 이야기를 업데이트할 것입니다.
California AG는 이 경우 xAI에 책임을 묻으려는 유일한 규제 기관이 아닙니다. 인도네시아와 말레이시아 그들은 모두 일시적으로 Grok에 대한 액세스를 차단합니다. 인도가 말했다 X에게 물었다 Grok에 일시적인 기술 및 운영 변경을 수행합니다. 그리고 유럽연합 집행위원회가 명령한 xAI는 새로운 설문 조사 시작의 전조인 Grok 챗봇과 관련된 모든 기록을 유지합니다. 영국의 사이버 보안 규제 기관 Ofcom은 공식 조사를 시작했습니다. 영국의 온라인 안전법에 따라.
xAI는 이전에 Grok의 성적인 이미지로 인해 비판을 받았습니다. AG Bonta가 성명서에서 말했듯이 Grok에는 다음이 포함됩니다. “매운 모드” 만들기 분명한. 10월에는 업데이트를 통해 일부 보안 지침을 더 쉽게 위반할 수 있게 되었고 이로 인해 많은 사용자가 Grok을 사용하여 하드 포르노를 제작하게 되었습니다. 폭력적이고 폭력적인 이미지.
Grok의 포르노 비디오 대부분은 AI로 생성된 캐릭터였습니다. 많은 사람들이 여전히 의심스러워하지만 사진과 비디오에 등장하는 사람들에게 해롭지는 않을 것입니다.
Copyleaks 창립자이자 CEO인 Alon Yamin은 TechCrunch에 보낸 성명에서 “AI 시스템이 명시적인 동의 없이 실제 사람들의 사진 편집을 허용하면 그 결과는 즉각적이고 개인적일 수 있습니다”라고 말했습니다. “Sora에서 Grok에 이르기까지 편집 중인 미디어에서 AI 기능이 급속히 증가하는 것을 목격하고 있습니다.
