오픈AI 최근 몇 달 동안 발생한 우려 사항을 처리하기 위해 많은 어려움에 직면했습니다. 채팅GPT젊은이들에게는 위험합니다.
AI 챗봇이 핵심이다 억울한 죽음의 사례가 많다 젊은이들에게 자살을 가르치거나 그들의 자살 생각을 적절하게 다루지 못했다고 말했습니다. 에이 공익광고 최근에는 챗봇을 어린이에게 해를 끼치는 위험한 사람으로 상상하면서 이러한 변화 중 일부를 보여주었습니다. OpenAI는 이러한 주장을 부인했습니다. 동시에 – 그리고 16세 아담 레인(Adam Raine)이 스스로 목숨을 끊었습니다..
목요일 OpenAI는 보안 개발에 대한 블로그 게시물을 게시하고 “다른 목표와 충돌하더라도 젊은이의 안전을 최우선으로 생각한다”고 약속했습니다.
포스팅은 다음과 같이 시작되었습니다. 모델 사양 변경이는 AI 모델이 어떻게 작동해야 하는지를 결정합니다. 18세 미만 사용자를 위한 새로운 정책은 특히 극한 상황에서 모델이 어떻게 작동하는지 알려줄 것입니다.
OpenAI는 ChatGPT 업데이트가 예방, 감지 및 조기 개입을 우선시하여 13세에서 17세 사이의 사용자에게 “보다 안전하고 연령에 적합한 경험”을 제공해야 한다고 말했습니다.
“이는 대화가 고위험 영역으로 옮겨감에 따라 젊은이들이 안전 조치, 안전한 방법, 신뢰할 수 있는 온라인 도움을 찾을 수 있도록 격려해야 한다는 것을 의미합니다.”라고 포스트는 말했습니다. ChatGPT는 젊은이들이 임박한 위험에 대해 신호를 보내 응급 서비스나 재난 서비스에 연락하도록 장려하도록 설계되었습니다.
매쉬 가능한 광속
회사에 따르면 사용자가 18세 미만으로 로그인하는 경우 자해, 자살, 로맨틱 또는 성적인 드라마와 같은 주제를 논의하거나 위험한 행동을 기밀로 유지할 때 ChatGPT의 보안이 더욱 조심스러워져야 합니다.
게시물에 따르면 미국심리학회는 18세 미만 정책 초안에 대한 의견을 OpenAI에 제공했다고 합니다.
미국심리학회 CEO인 아서 C. 에반스 주니어(Arthur C. Evans Jr.) 박사는 게시물에서 “과학이 보여주는 사회적, 정서적, 행동적, 생물학적 발달에 중요하다는 인간 행동과 AI 도구가 호환된다면 어린이와 청소년은 AI 도구의 혜택을 누릴 수 있다”고 말했다.
OpenAI는 또한 두 명의 새로운 부모와 청소년을 제공합니다. AI 전문가의 훈련 팁. 회사는 ChatGPT 구독 계획을 가진 사용자를 위한 연령 예측 시스템을 출시하는 초기 단계에 있다고 말했습니다.
가까운 미래에 아동 안전 및 정신 건강 전문가가 AI 챗봇은 청소년 대화에 안전하지 않다고 선언 그들의 정신 건강에 대해. 지난주 OpenAI는 최신 버전인 ChatGPT-5.2를 발표했습니다. 정신건강에 ‘안전’.
자살 충동을 느끼거나 정신 질환을 앓고 있다면 누군가에게 이야기하십시오. 988번으로 전화하거나 문자를 보내거나 988 Suicide & Crisis Lifeline으로 채팅할 수 있습니다. 988lifeline.org. 877-565-8860번으로 전화하거나 866-488-7386번으로 Trevor Project에 전화하여 Trans Lifeline에 연락할 수 있습니다. 741-741번으로 위기 문자 라인에 “START”라는 문자를 보내세요. 월요일~금요일 오전 10시~오후 10시(ET) 또는 이메일로 NAMI 헬프라인에 1-800-950-NAMI로 문의하세요. [email protected]. 휴대전화가 마음에 들지 않으면 사용을 고려해 보세요. 988 자살 및 위기 생명선 채팅. 여기에는 글로벌 재고.
공개: Mashable의 모회사인 Ziff Davis는 지난 4월 OpenAI가 AI 시스템 교육 및 사용에 있어 Ziff Davis의 저작권을 침해했다고 주장하며 OpenAI를 고소했습니다.
