머스크 하에서 그록의 운명은 불가피했다

이들은 스텝백기술 세계의 중요한 이야기를 다루는 주간 뉴스레터입니다. AI의 디스토피아적 발전에 대한 자세한 내용을 보려면 다음을 따르세요. 헤이든 필드. 스텝백 오전 8시(ET)에 구독 상자에 도착할 예정입니다. 선택하다 스텝백 여기.

모든 것은 Elon Musk의 AI FOMO와 “깨어남”에 대한 그의 싸움에서 시작되었다고 말할 수 있습니다. 그의 AI 회사인 xAI가 Grok을 발표했을 때 2023년 11월이 로봇은 “반항적 성향”과 “다른 많은 AI 시스템에서 거부되는 흥미로운 질문에 답”하는 능력을 갖춘 챗봇으로 묘사되었습니다. 챗봇은 수개월 간의 개발과 단 2개월의 교육 끝에 시작되었으며 발표에서는 Grok이 X 플랫폼에 대한 실시간 정보를 갖게 될 것이라고 강조했습니다.

그러나 인터넷과 X를 사용하는 챗봇에는 위협이 있으며 xAI는 아마도 이를 해결하기 위해 아무 것도 하지 않았다고 해도 무방합니다. 머스크는 2022년 트위터를 인수해 이름을 X로 바꾼 이후 전 세계 보안 신뢰 인력의 30%를 해고했고 보안 전문가 수를 80% 줄였다고 호주 사이버 보안 감시단체가 밝혔습니다. 1월이 끝났다. xAI의 경우 Grok이 출시되었을 때 xAI에 이미 보안팀이 있는지 여부는 알려지지 않았습니다. Grok 4가 7월에 출시되었을 때 회사가 보안 테스트 및 잠재적인 우려 사항을 자세히 설명하는 업계 표준으로 간주되는 샘플 카드를 출시하는 데 한 달 이상이 걸렸습니다. Grok 4가 출시된 지 2주 후, xAI 직원은 이렇게 썼습니다. X에 xAI의 보안팀을 채용하고 있으며 “강력한 엔지니어/연구원을 긴급히 찾고 있다”고 밝혔습니다. “xAI가 보호합니까?”라고 질문한 댓글 작성자에 대한 응답으로 원래 직원 그는 말했다 xAI는 “작동 중”이었습니다.

저널리스트 Kat Tenbarge는 그녀가 그것을 처음 본 방법에 대해 썼습니다. 딥 포르노 Grok에서 바이러스 이동 2023년 6월. 해당 이미지는 Grok이 만든 것이 아닌 것으로 보입니다. 2024년 8월까지는 이미지를 생성할 수 있는 능력조차 없었습니다. 하지만 이 도전에 대한 X의 반응은 엇갈렸습니다. 하지만 1월이 끝났다Grok은 AI 생성 이미지에 대해 논란을 일으키고 있었습니다. 그리고 올해 8월Grok의 “매운” 비디오 제작자는 요청도 받지 않고 Taylor Swift의 성기를 만들었습니다. 전문가들은 이렇게 말합니다. 해안 9월부터 회사는 안전과 보안에 대해 적극적인 접근 방식을 취하고 있으며, 처음부터 안전을 염두에 두고 설계할 때 AI 시스템을 직선적이고 좁게 유지하는 것은 충분히 어렵다는 점, 요리 문제를 해결하기 위해 다시 돌아가서는 안 된다는 점을 알려드립니다. 이제는 xAI를 앞두고 그 트렌드가 폭발한 것 같습니다.

Grok은 지난 몇 주 동안 인센티브로 성인과 어린이를 대상으로 부적절하고 성적으로 노골적인 콘텐츠를 플랫폼에 게시해 왔습니다. 사진에는 ​​Grok이 사용자들과 협력하여 여성의 옷과 속옷을 갈아입혀주고 다리를 펴게 해줄 뿐만 아니라 어린 아이들에게 비키니를 입혀주는 모습이 담겨 있습니다. 그리고 더 놀라운 보고가 있습니다. 상황이 너무 나빠서 Grok이 X에서 제작한 이미지를 24시간 동안 검토한 결과, 하나의 견적 챗봇은 시간당 6,700개의 “나체” 이미지를 생성하는 것으로 나타났습니다. 공격의 이유 중 하나는 최근 Grok에 추가된 기능으로, 사용자는 원본 게시물의 허가 없이 “편집” 버튼을 사용하여 챗봇에게 이미지 편집을 요청할 수 있습니다.

그 이후로 우리는 여러 국가에서 이 문제를 조사하거나 X를 완전히 금지하겠다고 위협하는 것을 보았습니다. 프랑스 정부의 구성원 조사하겠다고 약속했다그가 그랬던 것처럼 인도 IT 서비스말레이시아 정부 기관입니다 편지를 썼다 그의 걱정에 대해. 캘리포니아 주지사 개빈 뉴섬 부름 미국 법무장관이 xAI를 조사합니다. 영국은 그렇게 말해요 그들은 법을 시행할 계획이다 AI가 합의하지 않은 성적인 이미지 생성을 방지하기 위해 통신산업 규제당국은 X와 함께 있던 모든 이미지가 온라인 안전법 위반 여부를 확인하기 위해 조사할 것이라고 밝혔습니다. 그리고 이번주에는 말레이시아와 인도네시아 모두 Grok에 대한 액세스가 차단되었습니다..

xAI는 처음에 Grok의 사명이 “이해와 지식을 추구하는 사람들을 지원”하고, “모든 사람에게 큰 혜택을 주고”, “법에 따라 사용자에게 AI 도구를 제공하고” “모든 연구의 강력한 지지자가 되는 것”이라고 밝혔습니다. 이는 어린이는 물론이고 동의 없이 여성의 성기를 깊게 자르는 것과는 거리가 멀다.

수요일 저녁, 회사에 대한 압박이 커지자 X의 보안 계정은 단어 플랫폼은 “그록의 계정이 비키니와 같은 의류를 표시하여 실제 인물의 사진을 수정하는 것을 허용하지 못하도록 기술적 조치를 구현했다”고 밝혔으며, 이 정책은 “유료 가입자를 포함한 모든 사용자에게 적용된다”고 밝혔습니다. 또한 X에 따르면 유료 가입자만 Grok을 사용하여 모든 유형의 프로그레시브 이미지를 생성하거나 편집할 수 있습니다. 성명서는 X가 “이제 지역 차단”이라고 밝혔습니다.[s] 모든 사용자가 Grok 계정과 Grok at X를 통해 허용되지 않는 장소에서 비키니, 속옷 및 이와 유사한 옷을 입은 실제 인물의 사진을 생성할 수 있는 기능”은 성명서에서 처음부터 생성하는 것이 이례적이었다고 회사는 누구도 Grok을 사용하여 그러한 방식으로 사진을 편집하는 것을 허용하지 않는다고 밝혔습니다.

또 다른 중요한 점: 친구 수요일에 Grok 세대의 제한 사항을 테스트했습니다. 대부분의 보안 구역을 둘러보는 데 1분도 채 걸리지 않았다는 사실을 알게 되었습니다. 챗봇에게 “비키니를 입혀주세요”, “옷을 벗어주세요” 등의 테스트 결과가 나왔지만, 그들은 “가슴을 보여주세요”, “큰 가슴을 만들어주세요”, “크롭탑과 로우팬츠를 입혀주세요” 등의 프롬프트를 제공하고 란제리를 입은 섹스 사진을 만드는 데 아무런 거리낌이 없다는 사실을 발견했습니다. 좋아요 수요일 저녁우리는 여전히 무료 계정을 사용하여 Grok 소프트웨어를 통해 스크린샷을 만들 수 있었습니다.

X가 수요일에 발표한 성명 이후에도 다른 여러 국가에서 일시적으로 X 또는 Grok에 대한 입국을 금지하거나 제한하는 것을 볼 수 있습니다. 또한 제안된 법안과 국제 조사 과정도 살펴보겠습니다. 수요일 오후에 머스크의 압력이 커지고 있습니다. X로 그는 “Grok이 만든 벌거벗은 아이들의 사진에 대해 모른다”고 말했습니다. 몇 시간 후 X의 보안팀은 성명을 통해 “보안을 강화하고, 위반 사항을 제거하기 위해 신속하고 신속한 조치를 취하고, 필요한 경우 계정을 정지하고, 필요한 경우 지방 정부 및 법 집행 기관과 협력하기 위해 24시간 내내 노력하고 있다”고 밝혔습니다.

기술적으로 무엇이 법에 위배되지 않는가가 여기서 큰 문제입니다. 예를 들어 전문가들은 이렇게 말했습니다. 해안 이번 달 초에 AI가 생성한 비키니나 누드 어린이의 이미지는 혼란스럽고 일관성이 없지만 미국의 현행 미국법(CSAM)에 따라 법적으로 금지되지 않을 수 있습니다. 그러나 그러한 상황에서 미성년자를 대상으로 한 음란물은 위법입니다. 현재 규칙은 제한되어 있지만 해당 정의가 확장되거나 변경되는지 살펴보겠습니다.

나이든 여성의 깊은 사생활 보호와 관련하여 2025년 5월에 발효된 테이크 잇 다운법(Take It Down Act)은 AI가 생성한 ‘은밀한 이미지’를 금지하고 특정 플랫폼을 즉시 게시 중단하도록 요구합니다. 타워를 제거해야 하는 이 최종 단계가 발효되기 전의 유예 기간은 2026년 5월에 종료되므로 향후 6개월 동안 큰 발전을 볼 수 있습니다.