OpenAI는 정책 입안자가 어린이를 위한 AI 표준을 평가함에 따라 ChatGPT에 새로운 청소년 보호 규칙을 추가합니다.

AI가 청소년에게 미치는 영향에 대한 우려가 커지는 것을 해결하기 위해 OpenAI는 목요일 18세 미만 사용자가 AI 모델을 사용해야 하는 방법에 대한 지침을 업데이트하고 청소년과 부모를 위한 새로운 AI 학습 도구를 발표했습니다. 그러나 이러한 정책이 시간이 지남에 따라 어떻게 변할지에 대한 의문이 있습니다.

이러한 변화는 일반적으로 AI 산업, 특히 OpenAI의 직면이 증가함에 따라 발생합니다. 정책 입안자들에 의해 모니터링됨AI 챗봇과 장기간 상호 작용한 후 여러 십대가 자살한 후 교사 및 아동 안전 옹호자들.

Z세대는 1997년부터 2012년 사이에 태어난 세대를 포함합니다. OpenAI 챗봇의 주요 사용자. 후속작이에요 OpenAI와 디즈니의 최근 파트너십많은 젊은이들이 플랫폼에 모여들 수 있으며, 이를 통해 숙제 도움을 요청하는 것부터 수천 가지 주제에 대한 사진과 비디오를 만드는 것까지 모든 것을 할 수 있습니다.

지난주, 42명의 법무장관이 서한에 서명했습니다. 빅테크 기업을 대상으로 어린이와 취약계층을 보호하기 위해 AI 챗봇에 안전을 구현하도록 권장합니다. 그리고 트럼프 행정부가 일하면서 AI 규제에 대한 연방 표준 Josh Hawley 상원의원(R-MO)과 같은 의원들이 이를 도입한 것으로 보입니다. 법률 이는 아이들이 AI 챗봇과 상호 작용하는 것을 완전히 방지합니다.

OpenAI가 업데이트되었습니다. 예시 사양주요 언어 사용에 대한 지침이 포함된 이 지침은 음란물 이미지를 가진 사람들이 아동과 성행위를 하거나 자해, 자기기만 또는 정신 이상을 조장하는 것을 방지하는 기존 정책을 기반으로 합니다. 이는 해당 계정이 아동용인지 감지하고 청소년 보호만 발행하는 향후 연령 예측 시스템과 함께 작동합니다.

나이가 많은 사용자에 비해 모델은 십대가 사용할 때 더 엄격한 규칙을 따릅니다. 롤모델은 눈에 띄지 않더라도 형식적인 로맨틱 드라마, 1인칭 로맨스, 1인칭 성적이거나 폭력적인 드라마를 피하는 것이 좋습니다. 이러한 진술은 또한 신체 이미지 및 섭식 장애와 같은 문제에 더 큰 관심을 요구하며, 모델에게 부상 시 자립보다 안전 의사소통을 우선시하고 청소년이 간병인에게 위험한 행동을 숨기는 데 도움이 될 수 있는 상담을 피하도록 조언합니다.

OpenAI는 지침이 “픽션, 판타지, 역사 또는 학술”으로 작성되더라도 이러한 한계가 존재해야 한다고 말합니다. 이는 AI 모델이 가이드라인에서 벗어나도록 하기 위해 드라마나 부수적 이벤트에 의존하는 일반적인 방법입니다.

행동은 말보다 더 크게 말한다

OpenAI는 청소년을 보호하기 위한 주요 조치가 이러한 조치를 안내하는 네 가지 원칙에 의해 결정된다고 말합니다.

1. “더 많은 지적 자유”와 같은 일부 사용자 요구가 안전과 충돌하더라도 젊은이의 안전을 최우선으로 생각합니다.
2. 젊은이들을 가족, 친구, 지역 전문가에게 소개하여 글로벌 지원을 촉진합니다.
3. 청소년을 무시하거나 어른처럼 대하지 말고 친절하고 정중하게 말함으로써 청소년을 청소년처럼 대하십시오. 그리고
4. 도우미가 할 수 있는 것과 할 수 없는 것에 대해 공개하고, 청소년에게 그들은 인간이 아니라는 점을 상기시켜 주십시오.

이 문서는 또한 왜 “친구처럼 플레이”할 수 없거나 “시각적 변화나 위험한 단축키에 대한 도움”을 줄 수 없는지 설명하는 챗봇의 몇 가지 예를 공유합니다.

개인 정보 보호 및 AI 변호사이자 Metaverse Law의 창립자인 Lily Li는 OpenAI가 이를 위해 잡담을 줄이기 위한 조치를 취하는 것이 고무적이라고 말했습니다.

그는 옹호자들과 부모들이 챗봇에 대해 가지고 있는 주요 불만 중 하나가 젊은이들을 혼란스럽게 할 수 있는 방식으로 지속적으로 로맨스를 조장한다는 점이라고 설명하면서 “OpenAI가 이러한 답변 중 일부에서 귀하의 질문에 답할 수 없다고 말하는 것을 보니 기쁘다. 우리가 이것을 볼 때 부적절한 행동으로 이어질 수 있다고 생각한다”고 말했다.

즉, 예는 다음과 같습니다. OpenAI 보안 팀이 모델의 작동을 원하는 방식에 대한 선택된 예입니다. 아첨또는 AI 챗봇이 많은 사용자 입력을 요구하는 경향은 이전 버전의 모델 사양에서 금지된 것으로 나열되었지만 ChatGPT는 여전히 이를 수행했습니다. 이는 특히 다음과 관련된 모델인 GPT-4o에서 더욱 그렇습니다. 전문가들이 ‘AI 정신병’이라고 부르는 일련의 현상.

디지털 세계에서 어린이를 보호하는 데 전념하는 비영리 단체인 Common Sense Media의 AI 프로그램 책임자인 Robbie Torney는 18세 미만의 모델 사양 지침 내에서 잠재적인 충돌에 대한 우려를 제기했습니다. 그는 보안에 대한 초점과 모델이 민감도에 관계없이 모든 주제를 해결하도록 유도하는 “어떤 주제도 제한이 없다”는 원칙 사이의 갈등을 강조했습니다.

그는 “우리는 서로 다른 부분이 서로 어떻게 상호 작용하는지 이해할 필요가 있다”며 일부 부분은 시스템이 보안에 대한 조치를 취하도록 할 수 있다고 지적했다. 그의 기관의 테스트에 따르면 ChatGPT는 종종 사용자의 능력을 과대평가하여 때로는 사용자 보안에 부적절하거나 일관성이 없는 응답을 초래하는 것으로 나타났습니다.

아담 레인(Adam Raine)의 경우, 청년 자신이 수개월 간의 협상 끝에 자살 화면에서 재생되는 챗봇인 ChatGPT와 대화 내용이 표시됩니다. 또한 이 사례는 ChatGPT에서 자살을 신고한 사례가 1,000건이 넘고 자해가 포함된 메시지가 377건 이상 표시되었음에도 불구하고 OpenAI의 조정 API가 안전하지 않고 유해한 상호 작용을 예방하지 못한 방법을 강조했습니다. 그러나 이것만으로는 Adam이 ChatGPT와 대화를 계속하는 것을 막을 수 없었습니다.

OpenAI의 전 보안 연구원인 Steven Adler는 지난 9월 TechCrunch와의 인터뷰에서 OpenAI가 역사상 그룹(사물을 작성하고 플래그를 지정하는 자동화된 기계)을 실시간이 아닌 대량으로 실행했기 때문에 ChatGPT와의 사용자 상호 작용을 제대로 열지 않았기 때문이라고 말했습니다.

회사의 조사 결과에 따르면 OpenAI는 이제 자동 계산기를 사용하여 텍스트, 이미지 및 오디오를 실시간으로 분석합니다. 수정된 자녀 보호 기능 문서. 이 시스템은 아동 학대 관련 콘텐츠를 식별 및 차단하고, 민감한 주제를 필터링하고, 자해를 감지하도록 설계되었습니다. 시스템이 심각한 안전 문제를 나타내는 정보를 제공하는 경우, 숙련된 인력으로 구성된 소규모 팀이 데이터를 검토하여 “중요한 고통”의 징후가 있는지 확인하고 부모에게 알릴 수 있습니다.

Torney는 18세 미만 사용자를 위한 지침 게시의 투명성을 포함하여 보안과 관련된 OpenAI의 최근 조치를 칭찬했습니다.

Torney는 “모든 회사가 동일한 방식으로 지침을 게시하는 것은 아닙니다”라고 지적했습니다. 메타 지침이 유출되었습니다.이는 회사가 챗봇을 통해 아이들과 섹스와 로맨스에 대해 이야기할 수 있도록 허용한다는 것을 보여주었습니다. “이것은 보안 연구원과 일반 대중이 이러한 유형의 시스템이 작동하는 방식과 작동 방식을 이해하는 데 도움이 될 수 있는 투명성의 예입니다.”

궁극적으로 이것이 바로 AI 시스템이 필요한 방식이라고 Adler는 목요일 TechCrunch에 말했습니다.

그는 “OpenAI가 자신이 원하는 것이 무엇인지 생각하는 것에 감사하지만 회사가 무슨 일이 일어나고 있는지 살펴보지 않는 한 목표는 말일 뿐입니다”라고 말했습니다.

다르게 말하면, 이번 발표에서 누락된 것은 ChatGPT가 실제로 모델 사양의 지침을 따른다는 증거입니다.

패러다임 전환

전문가들은 이번 가이드라인을 통해 OpenAI가 다음과 같은 다른 규제도 추진할 준비가 된 것으로 보인다고 말합니다. 캘리포니아 SB 243최근 서명된 AI 기반 챗봇 규제 법안은 2027년부터 발효될 예정이다.

새로운 Model Spec 언어는 챗봇이 자살, 자해 또는 포르노 콘텐츠에 대해 논의하는 것을 금지하기 위한 몇 가지 법적 요구 사항을 간략하게 설명합니다. 이 법안은 또한 플랫폼이 어린이들에게 실제 사람이 아닌 챗봇과 대화하고 있으므로 휴식을 취해야 함을 상기시키는 알림을 3시간마다 발행하도록 요구합니다.

ChatGPT가 젊은이들에게 챗봇과 대화하고 있다는 사실을 알리고 휴식을 취하라고 요청하는 빈도를 묻는 질문에 OpenAI 대변인은 자세히 설명하지 않고 회사가 AI인 척 모델을 훈련시키고 사용자에게 이를 상기시키며 “장기 세션” 동안 알림을 사용한다고만 말했습니다.

회사는 또한 두 가지 새로운 기능을 공유했습니다. AI 리소스 부모와 가족을 위해. 그만큼 지침 부모가 AI가 할 수 있는 것과 할 수 없는 것에 대해 십대 자녀와 이야기하고, 비판적 사고를 키우고, 건전한 경계를 설정하고, 어려운 주제를 탐색하는 데 도움이 되는 대화 시작 요소와 팁을 포함합니다.

종합하면, 문서는 간병인과 책임을 공유하는 시스템을 만듭니다. OpenAI는 모델이 수행해야 하는 작업을 설명하고 가족이 모델이 어떻게 사용되는지 모니터링할 수 있는 방법을 제공합니다.

부모의 책임에 대한 초점은 실리콘밸리의 담론을 반영한다는 점에서 주목할 만하다. 자신의 연방 AI 규제 지침 이번 주 작성된 VC 회사인 안드레센 호로비츠(Andreessen Horowitz)는 아동 보호를 위해 공개 요구 사항을 금지하는 대신 공개 요구 사항을 제시하고 부모의 책임에 큰 부담을 안겼다.

OpenAI의 여러 원칙 – 가치가 충돌할 때 안전이 최우선입니다. 사용자에게 실제 지원을 권장합니다. 챗봇이 인간이 아님을 증명하기 위해 – 청소년을 보호하기 위한 것이라고 합니다. 하지만 여러 노인이 자살로 사망하고 생명을 위협하는 사기에 노출되었습니다.이는 명백한 후속 조치가 필요합니다. 버그를 전체 커뮤니티에 적용해야 합니까, 아니면 OpenAI가 이를 미성년자를 강제하는 광고로 간주합니까?

OpenAI 대변인은 모델 사양이 여러 부분으로 구성된 프로세스의 일부일 뿐이라며 회사의 보안 조치가 모든 사용자를 보호하도록 설계되었다는 사실을 부인했습니다.

Li는 기술 회사의 법적 요구 사항과 목표와 관련하여 현재는 “약간 서구화”되었다고 말합니다. 그러나 그는 기술 회사가 보안을 공개적으로 공개하도록 요구하는 SB 243과 같은 법안이 태도를 바꿀 것이라고 생각합니다.

“회사가 웹사이트에 보호 장치와 절차가 있다고 발표했지만 이러한 보호 장치를 따르지 않으면 법적 위험이 발생할 수 있습니다.”라고 Li는 말했습니다. “그렇다면 원고 입장에서는 공식적인 소송이나 법률적 불만사항만 보는 것이 아니라 불공평하고 기만적인 광고 불만사항도 보는 것이기 때문입니다.”