다목적 xAI 제공자이자 가상 현실 연구원, 제품 개발자인 Grok은 챗봇이 위험하다고 우려하는 국제 규제 기관의 조사를 받고 있습니다.
1월 초, X 사용자는 Grok이 빌드 요청을 따르고 있음을 발견했습니다. 어린이의 성적 이미지 노출이 심한 의류, 아동 성 학대 자료(CSAM). xAI 직원은 챗봇의 보안을 강화하고 싶다고 말했습니다.
하지만 고치기가 쉽지 않습니다. 최신 연구는 로이터, 대서양그리고 열광한 Grok이 사용자를 모집하여 만든 부적절하고 성적이며 때로는 폭력적인 콘텐츠의 확산을 허용하는 모델의 보안 기능에서 많은 결함을 발견했습니다. X에서 연구원들은 노출이 심한 옷을 입도록 통합된 챗봇으로 편집된 자신의 사진을 공개적으로 게시하는 많은 사용자 계정이 특징인 심각한 “옷을 벗는” 문제를 발견했습니다. 폭력에 반대하는 국제 비영리 단체인 RAINN은 이것을 일종의 폭력이라고 불렀습니다. AI 또는 기술을 이용한 성희롱.
일부 챗봇과 AI 기반 비디오 생성기도 성적인 콘텐츠에 대한 보호 장치를 구현하지 못한 이유로 조사를 받고 있습니다. 메타 AI 동반자.
X에 대한 사용자 불만에 대해 Elon Musk CEO는 회사가 불법 콘텐츠 공개를 매우 심각하게 받아들이고 있지만 라이센스는 사용자에게 맡겨야 한다고 주장했습니다. 머스크는 나중에 잠재적 위치에 대한 영국 지도자들의 의견에 응답하여 이를 검열의 형태 그리고 외국 정부는 인터넷에서 언론의 자유를 제한하는 데 열중하고 있습니다.
정부는 xAI로 어려움을 겪었습니다.
X 팀의 느린 움직임에 대응하여 국가에서는 xAI의 봇 및 독립 실행형 소프트웨어에 대한 액세스를 단속하기 시작했으며, 여러 국가에서는 Grok의 보안, xAI의 대응성 및 회사가 다양한 인터넷 보안법을 위반할 가능성을 조사하고 있습니다.
매쉬 가능한 광속
회사는 Grok이 CSAM을 지지했다는 최근 주장이 나오기 전에 이미 여러 차례 조사를 받았습니다.
X의 콘텐츠와 알고리즘에 대한 지속적인 조사 외에도 회원들은 위험하고 악의적인 콘텐츠를 포함하여 디지털 서비스법에 따른 여러 법률을 위반한 Grok을 유럽 연합에 조사하도록 강요했습니다. “잘못된” 행동. 최근 몇 주 동안 해당 기관은 X에게 조사를 확대하는 동안 Grok과 관련된 모든 정보와 내부 문서를 보존하라고 명령했습니다.
위원회 대변인은 Grok의 행동이 “불법”이라고 말했지만 기술 규제 당국은 해당 기관이 조치를 취할 의지가 있는지 의심했습니다. 장소를 완전히 차단하다.
영국 통신 규제 기관인 Ofcom도 다음과 같이 발표했습니다. 공식 검색 Grok에서는 법을 위반한 것으로 밝혀지면 최대 10%(약 2,400만 달러)의 벌금이 부과됩니다. 온라인 안전법.
미국의 조직들은 최근 개발을 언급하면서 정부 기관에 xAI 조사를 요청했습니다. 그것을 아래로해라이는 규정을 준수하지 않는 친밀한 이미지(NCII)의 게시 또는 게시 위협을 금지하고, 해당 이미지 게시 중단 요청을 따르지 않는 소셜 미디어 사이트를 기소할 수 있는 권한을 연방거래위원회(FTC)에 부여합니다.
한편 다른 국가에서는 회사가 후속 조사를 하거나 Grok의 안전을 개선할 때까지 이를 금지하고 있습니다.
Grok 액세스를 차단한 국가
Grok을 막기 위해 적극적으로 조사하거나 위협하는 지역
-
유럽연합
-
영국 – 직업 제한을 고려
-
브라질 – 그는 그록을 막겠다고 위협했다
-
호주 – 이미 소셜 미디어 액세스를 차단하고 있습니다. 16세 미만의 사용자
동의 없이 은밀한 사진을 공유한 경우 Cyber Civil Rights Initiative의 24/7 핫라인 844-878-2274로 전화하여 무료 비밀 지원을 받으세요. CCRI 웹사이트에는 다음이 포함됩니다. 유용한 정보 뿐만 아니라 목록 세계 경제.
