대행사는 X에게 ‘외설적이고 성적인 콘텐츠’를 삭제하라고 명령하며 Grok AI의 오용을 보여줍니다.

전자정보기술부(MeitY)는 X(이전 트위터)에 인공지능 도구인 Grok의 오용으로 인해 정보기술법 및 IT 규정에 따른 심각한 법률 위반이 있음을 나타내는 법적 고지를 발행했습니다.

MeitY는 성명을 통해 Grok이 특히 여성과 어린이를 대상으로 외설적이고 성적이며 공격적인 콘텐츠를 제작하고 유포하는 데 오용되고 있음을 발견했다고 밝혔습니다. 외교부는 이번 학대가 존엄성, 사생활, 디지털 보안에 대한 심각한 침해라고 설명하고, 즉각적인 시정 조치가 취해지지 않을 경우 플랫폼에 엄격한 조치를 취할 것을 경고했습니다. 기관은 정보 기술법 2000 및 IT 규칙 2021의 조항을 인용하여 Grok과 같은 AI 기반 도구의 오용으로 생성된 “외설, 누드, 음란 및 성적인 콘텐츠”를 즉시 제거하고 삭제하도록 X에 명령했습니다.

MeitY는 플랫폼의 최고 회계 책임자인 Elon Musk에게 보낸 서한에서 Grok에 대한 즉각적이고 포괄적인 검토와 모든 불법 콘텐츠에 대한 액세스를 제거 또는 차단하도록 명령했습니다.
“귀하가 개발하고 X 플랫폼에 통합되어 제공되는 ‘Grok AI’라는 서비스가 사용자들에게 모욕을 주기 위해 모멸적이고 저속한 방식으로 여성의 사진이나 비디오를 수신, 표시, 게시 또는 공유하는 가짜 계정을 만드는 데 오용되고 있음이 특별히 지적되었습니다.”라고 국방부는 서한에서 밝혔습니다.

“이러한 행위는 플랫폼의 보안 조치와 운영에 심각한 실패가 있음을 보여주는 것이며 관련 법률을 위반하는 인공지능 기술의 과도한 오용에 해당합니다.”

정부는 X에게 그록(Grok)의 기술 계획과 관리 계획을 긴급 검토하고, 모든 불법 콘텐츠를 제거하고, 불쾌감을 주는 사용자에 대한 조치를 취하고, 72시간 이내에 보고서를 제출하라고 명령했습니다. MeitY는 계속해서 규정을 준수하지 않을 경우 IT법에 따른 세이프 하버 보호가 해제되고 여러 사이버, 형법 및 형법에 따른 조치가 취해질 수 있다고 경고했습니다. 어린이들.

이번 통지는 Shiv Sena(UBT) Rajya Sabha MP Priyanka Chaturvedi가 전자 정보 기술 연합 장관 Ashwini Vaishnaw에게 긴급 개입을 요청하는 서한을 보낸 불만 사항을 제기한 데 따른 것입니다.

Chaturvedi는 편지에서 X의 “새로운 트렌드”를 표시하면서 남성이 Grok AI 기능을 악용하여 여성의 사진을 조작하고 있다고 주장했습니다. 그는 여성의 사진을 업로드하고 AI 봇에게 옷을 벗기고 성적 대상화를 제안하기 위해 가짜 계정이 생성되고 있다고 말했습니다.
그는 “이것은 용납될 수 없으며 AI 작업의 극단적인 형태로 남용되지도 않습니다. 더 나쁜 것은 Grok이 그러한 요청을 고수함으로써 이러한 행동을 가능하게 한다는 것입니다”라고 썼습니다.

차투르베디는 이 행위가 여성의 사생활 보호권을 침해하고 자신의 사진을 무단으로 사용하는 것과 같아서 부도덕할 뿐만 아니라 범죄라고 말했습니다. 그는 정보통신기술에 관한 의회 상임위원회 위원으로서 자신의 자격으로 정부가 이 문제를 심각하게 받아들이고 AI 시스템에 강력한 보안이 구축되도록 할 것을 촉구했습니다. 그는 “창의성과 혁신 때문에” 여성의 존엄성이 공개적으로, 디지털 방식으로 침해당할 때 인도가 방관자로 남을 수 없다고 덧붙였습니다.