인공지능 기업이 AI 문제로부터 사람들을 보호할 수 있을까요? 새로운 보고서에 따르면 그렇지 않습니다.
AI가 사람들이 기술과 상호 작용하는 방식에서 더 큰 역할을 함에 따라 사람들이 AI 기반 챗봇을 사용하여 조언을 제공한 후 자살하거나 사이버 공격에 AI를 사용하는 등 잠재적인 피해가 분명해지고 있습니다. 미래의 위험도 있습니다. AI가 무기를 만들거나 정부를 전복하는 데 사용되는 것입니다.
하지만 AI 기업이 사람 보호를 우선시할 유인이 충분하지 않은데, 이는 AI를 보다 안전한 곳으로 안내하고 사람에게 존재하는 위험을 줄이는 것을 목표로 하는 실리콘밸리 소재 비영리 비영리 미래연구소(Future of Life Institute)가 수요일 발표한 AI 안전지수(AI Safety Index)에서 드러난다.
이 단체의 회장이자 MIT 교수인 맥스 테그마크(Max Tegmark)는 인터뷰에서 “그들은 미국에서 제대로 관리되지 않는 에너지 기술을 생산하는 유일한 기업이기 때문에 안전을 우선시할 유인이 없는 서로 경쟁을 하게 된다”고 말했다.
가장 높은 등급을 받은 것은 샌프란시스코 AI 회사 두 곳인 C+뿐이었습니다. ChatGPT를 만든 OpenAI와 AI 챗봇 Claude로 유명한 Anthropic입니다. Google의 AI 부문인 Google DeepMind가 C를 받았습니다.
가장 낮은 등급은 Facebook의 Menlo Park 기반 모회사인 Meta와 Elon Musk의 Palo Alto 기반 회사인 xAI로 D를 받았습니다. 중국 기업인 Z.ai와 DeepSeek도 D를 받았습니다. Alibaba Cloud는 D-를 받았습니다.
모든 산업 그룹은 보안 확립, 위험 평가 및 정보 공유를 포함하여 6개 범주의 35개 지표를 기반으로 했습니다. 이 지수는 공개적으로 이용 가능한 정보와 설문조사를 통해 업계 피드백을 바탕으로 증거를 수집했습니다. 채점은 AI 관련 기관의 학생과 리더 등 인공지능 전문가 8명이 이뤄졌다.
이 목록에 있는 모든 회사는 현재 보안 범주에서 평균 이하의 순위를 차지하므로 내부 감사와 기존 보안 조치 및 절차에 대한 개선이 필요합니다.
일반 지능(General Intelligence)의 약어를 사용하는 AI 안전 지수(AI Safety Index) 조직의 보고서에 따르면 “기업들이 AGI 및 지능에 대한 요구를 가속화하고 있지만 전력 오용이나 손실을 방지할 수 있는 신뢰할 수 있는 방법을 보여준 사람은 아무도 없습니다.”라고 합니다.
Google의 DeepMind와 OpenAI는 모두 방어적인 입장에 있다고 말했습니다.
OpenAI는 성명을 통해 “보안은 AI를 구축하고 배포하는 방법의 핵심입니다.”라고 밝혔습니다. “우리는 국경 간 보안 연구에 많은 투자를 하고, 시스템에 강력한 보안을 구축하며, 내부 및 독립적으로 모델을 엄격하게 테스트합니다. 보안 전략, 평가 및 연구를 공유하여 업계 표준을 개선하고, 보안을 지속적으로 강화하여 미래에 할 수 있는 일에 대비합니다.”
구글 딥마인드는 성명에서 “AI 보안에 체계적이고 과학적인 접근 방식을 취한다”고 밝혔다.
Google DeepMind는 “우리의 Frontier Safety Framework는 AI 기반 모델의 위험이 명백해지기 전에 이를 식별하고 완화하는 방법을 설명합니다.”라고 말했습니다. “우리 모델이 계속 발전함에 따라 우리는 혁신을 기반으로 보안과 리더십 분야에서 계속 혁신하고 있습니다.”
Future of Life Institute의 보고서는 xAI와 Meta가 “위험 관리 시스템을 갖추고 있음에도 불구하고 모니터링 및 제어에 대한 합의가 없으며 보안 연구에 막대한 투자를 한다는 증거를 제공하지 않았다”고 밝혔습니다. DeepSeek, Z.ai 및 Alibaba Cloud와 같은 다른 회사는 기존 보안 조치에 대해 공개적으로 사용할 수 있는 문서가 없다고 기관은 말했습니다.
Meta, Z.ai, DeepSeek, Alibaba 및 Anthropic은 논평 요청에 응답하지 않았습니다.
xAI는 “레거시 미디어가 거짓말을 하고 있다”고 답했다. 머스크를 대표하는 변호사는 연장 요청에 응답하지 않았습니다.
머스크는 미래생명연구소의 자문위원으로 과거 비영리단체에 기부금을 기부했지만 AI 안전지수에는 포함되지 않았다고 테그마크는 전했다.
테그마크는 AI 산업에 대한 규제가 충분하지 않으면 테러리스트들이 무기를 개발하는 데 도움이 되고, 현재보다 더 효과적으로 사람들을 혼란에 빠뜨리거나 경우에 따라 정부의 안정성을 방해할 수 있다는 점을 우려한다고 말했습니다.
Tegmark는 “예, 큰 문제가 있고 상황이 나빠지고 있지만 이 문제를 해결하는 것이 얼마나 쉬운지 강조하고 싶습니다.”라고 말했습니다. “AI 산업에 대한 안전한 기준이 필요하다.”
연방 정부에서는 AI 산업에 대한 감독을 강화하려는 노력이 있었지만 일부 법안은 너무 많은 규제로 인해 혁신이 둔화되고 기업이 다른 곳으로 몰릴 수 있다는 로비 단체로부터 반발을 받았습니다.
그러나 지난 9월 개빈 뉴섬 주지사가 작성한 SB 53을 포함해 AI 기업의 안전 기준을 더 잘 규제하기 위한 법률이 있었습니다. 이를 위해서는 기업이 보안 정책을 공유하고 사이버 공격과 같은 사고를 정부에 보고해야 합니다. Tegmark는 새로운 법이 올바른 방향으로 나아가는 단계라고 말했지만 더 많은 것이 필요합니다.
자문 서비스 회사 엔델 그룹(Enderle Group)의 수석 분석가인 롭 엔덜(Rob Enderle)은 AI 안전 지수가 미국에서 점점 커지고 있는 AI 관리가 잘못되는 문제를 해결할 수 있는 흥미로운 방법이라고 생각한다고 말했습니다. 그러나 어려움이 있습니다.
엔덜레 의원은 “현시점에서 미국과 현 행정부가 신중한 법안을 마련할 수 있을지 확실하지 않다”며 “이는 이러한 규제가 득보다 해를 끼칠 수 있다는 것을 의미한다”고 말했다. “규정 준수를 보장하기 위해 규칙을 시행하는 방법을 아는 사람이 있는지도 불분명합니다.”
