미국 인공지능(AI) 기업 앤트로픽 연구원이 회사를 떠나면서 “10년 안에 AI가 인류를 파멸시킬 수 있다”는 경고를 내놨다. 앤트로픽을 퇴사한 연구원 제이컵 콕슨(27)은 8일(현지시간) 소셜미디어(SNS) 엑스(X)에 퇴사 사실을 알리며 “지난 3년간 오픈AI와 앤트로픽에서 연구를 진행해 왔는데, 두 회사 모두 책임감 있는 모습을 보이지 않는다”며 이같이 말했다. 올해 초 오픈AI를 떠나 AI 안전을 중시하는 기업으로 알려진 앤트로픽에 합류한 콕슨은 대규모 데이터를 활용해 새로운 AI 모델을 학습시키는 분야를 연구했다. 콕슨은 “(AI 회사들은) 스스로 발전하는 초지능을 향해 질주하며 우리의 생명을 위험에 빠뜨리고 있다”며 AI 시스템 구축에 몰두하는 업계 전반의 흐름에 동참하고 싶지 않다고 밝혔다. 그는 “AI를 개발하는 사람들은 AI가 10년 안에 우리를 모두 죽일 수도 있다고 진심으로 믿는다”며 “이건 단순한 마케팅 전략이 아니다”라고 강조했다. 황금성3게임연타 그러면서 “AI 기술의 위력을 과소평가하지 말라”며 “머지않아 이 기술들은 무엇이든 해킹하고 모든 분야를 하룻밤 사이에 혁신하며 막대한 권력과 자원을 획득할 수 있는 초인적인 시스템이 될 것”이라고 지적했다. 콕슨은 AI 업체들이 인간의 개입 없이 스스로 성능을 개선하는 시스템을 개발하기 위해 경쟁하는 상황에서 안전 문제가 뒷전으로 밀릴 수 있다고 우려했다. 특히 스스로 성능을 개선하는 AI가 인간의 통제를 벗어나 명령을 거부하는 수준까지 발전할 가능성도 있다는 것이 콕슨의 주장이다. 콕슨은 미 월스트리트저널(WSJ)과의 인터뷰에서도 같은 경고를 날렸다. 그는 “가장 공격적인 시나리오 가운데 상당수가 현실화하는 방향으로 가고 있다”며 “내년 말이면 이미 상황이 통제 불능에 빠질 수도 있다”고 말했다. 기업들이 서로, 그리고 중국의 신생 기업들과 경쟁하는 상황에서 안전성과의 타협은 피할 수 없는 현실이라는 게 그의 설명이다. 앤트로픽 내부 임원들도 콕슨의 말에 동의했다. 앤트로픽의 정렬 과학(Alignment Science) 총괄인 에번 휴빙거는 “우리는 진심으로 AI가 모든 인류를 멸망시킬 수 있다고 믿는다 멀티릴게임 . 개인적으로 향후 10년 이내에 그럴 확률이 10%가 넘는다고 생각한다”고 했다. 새뮤얼 마크스 확장감독(Scalable Oversight) 총괄도 개인 의견임을 전제로 “AI 개발자들은 자신들의 기술이 인류의 멸종 또는 그와 유사한 심각한 결과를 초래할 수 있다고 믿는다”며 “향후 몇 년 내에 발생할 수 있다”고 지적했다. 콕슨은 인간의 능력을 능가하는 범용인공지능(AGI)을 책임 있게 개발하기 위해서는 정부의 개입이나 AI 업계의 공동 대응이 필요하다고 강조했다. 그는 최근 각국 정부가 필요할 경우 인공지능 개발 속도를 늦출 수 있는 국제적 공조 체계를 마련하라고 촉구한 인공지능 연구자들의 성명에도 참여했다. 이 성명에는 앤트로픽의 다리오 아모데이 최고경영자(CEO)와 오픈AI의 야쿠프 파초키 수석과학자 등 연구자 1000여명이 서명했다. AI 안전에 대한 우려로 앤트로픽 직원이 회사를 떠난 것은 콕슨이 처음으로 알려졌다. 올해 초에는 안전 분야를 연구하던 한 연구원이 “세상이 위험에 처해 있다”고 경고하며 시를 공부하기 위해 회사를 떠났다고 WSJ는 전했다. 업계의 공동 대응