이번 주 X 사용자는 AI 챗봇 플랫폼 Grok이 어린이를 포함한 성적인 이미지를 쉽게 생성할 수 있다는 사실을 발견했습니다.
Mashable은 깊은 섹스에 대한 보호 장치가 부족하다고 보고했습니다. xAI는 처음으로 Grok Imagine을 출시했습니다. 8월에. AI 생성 도구는 짧은 이미지와 동영상을 생성하고 NSFW 이미지를 생성하기 위한 ‘맛’까지 포함합니다.
새로운 것은 아니지만 건물이 반환되면서 Grok 팀은 이에 대응해야 했습니다.
이 트윗은 아직 사용할 수 없습니다. 로드 중이거나 삭제되었을 수 있습니다.
“사용자가 옷을 제대로 입지 않은 아이들을 보여주는 AI 이미지를 추천하고 받은 특별한 경우가 있습니다.” Grok X 계정이 게시되었습니다 목요일. 그는 팀이 깨달았다고 덧붙였다.보호 부족“그리고 그들은 “빠르게 고치고 있습니다.”
xAI의 기술 직원인 Parsa Tajik이 비슷한 단어 그의 설명에 따르면 “팀은 우리 가우드랄을 강화하려고 합니다. [sic]”
Grok은 또한 플랫폼 자체는 물론 아동 학대 자료(CSAM)가 불법임을 인정했습니다. 형사 또는 민사 처벌을 받을 수 있습니다.
매쉬 가능한 광속
X 사용자들은 또한 여성의 청순한 이미지를 왜곡하는 챗봇에 대한 관심을 불러일으켰으며, 종종 헐벗은 옷을 입은 여성들을 보여주기도 했습니다. 여기에는 시민뿐만 아니라 고위 인사 등도 포함됩니다. 모모트와이스 K팝 그룹 멤버이자 이상한 것들 별 밀리 바비 브라운.
이 트윗은 아직 사용할 수 없습니다. 로드 중이거나 삭제되었을 수 있습니다.
이 트윗은 아직 사용할 수 없습니다. 로드 중이거나 삭제되었을 수 있습니다.
인공지능 도구인 그록 이매진(Grok Imagine)은 2025년 8월 출시 이후 성희롱에 시달려왔다. 깊은 테일러 스위프트 그렇게 하라는 지시 없이 다른 사용자에게.
AI 카피누출 탐지 프로그램은 공개적으로 접근 가능한 Grok의 이미지 탭을 간략하게 살펴보고 실제 여성의 예, 불쾌한 성적인 이미지(예: 옷을 벗으라고 요구하거나 체형을 바꿔 달라는 요청)를 보여주었으며 명확한 동의 표시는 없었습니다. Copyleaks는 본 이미지 중 1분당 평균 1개의 성적으로 부적절한 이미지를 발견했으며 이 기관은 Mashable과 공유했습니다.
그렇긴 하지만 xAI 승인된 사용 사용자가 ‘성적인 콘텐츠에 인물의 이미지를 표시하는 것’을 금지하는 것은 성적으로 노골적인 자료를 포함하지 않습니다. 그러나 이 정책은 “아동의 성행위 또는 착취”를 금지하고 있습니다.
2024년 상반기에 X는 아동 학대 신고 건수 370,000건 법에 따라 국립실종착취아동센터(NCMEC)의 사이버팁라인(CyberTipline)에 연락하세요. 또한 CSAM과 관련된 200만 개 이상의 계정을 정지했다고 밝혔습니다. 작년에 NBC 뉴스는 알려지지 않은 것이 유일한 것이라고 보도했습니다. X 계정이 다른 해시태그를 범람시켰습니다 아동 학대가 포함되어 있습니다.
Grok은 또한 최근 몇 달간 출판 소식으로 뉴스에 등장했습니다. 본다이 비치 총격 사건 그리고 히틀러를 찬양하라.
Mashable은 xAI 질문과 응답 요청을 보냈고 “Legacy Media Lies”라는 응답 하나만 받았습니다.
동의 없이 은밀한 사진을 공유한 경우 Cyber Civil Rights Initiative의 24/7 핫라인 844-878-2274로 전화하여 무료 비밀 지원을 받으세요. CCRI 웹사이트에는 다음이 포함됩니다. 유용한 정보 뿐만 아니라 목록 세계 경제.
