“우리가 괴물을 만들고 있다. 개발속도를 늦춰야 한다”
“AI는 10억명을 사망하게 할수 있는 치명적 사건을 초래할수 있다”
“개발속도 조절론은 사기다. AI개발속도를 더 높여야 한다”
AI개발자들 사이에 심각한 우려와 함께 개발속도 조절론이 제기되고 있는 가운데 도널드 트럼프 미 대통령과 미 AI기술기업 CEO는 자율적인 안전기준 마련에 합의했다.
도널드 트럼프 미국 대통령은 29일(현지시간) 주요 기술기업 경영진들이 인공지능(AI)에 대한 자율적인 안전 기준을 마련하기로 합의했다고 밝혔다. AI 안정성에 대한 우려의 목소리가 커지자 연방 정부 차원에서 새로운 규제 도입 대신 기업의 자율적 안전기준 마련으로 차단하겠다는 포석이다.
이날 백악관 회동에는 오픈AI의 그레그 브록먼 공동창립자, 앤스로픽의 다리오 아모데이 최고경영자(CEO), 메타의 마크 저커버그 CEO, 구글의 순다르 피차이 CEO, 엔비디아의 젠슨 황 CEO 등이 참석해 서명했다.
트럼프 대통령이 이날 백악관에서 AI개발사 CEO와 회동후 자신의 SNS에 ‘프런티어 책임에 관한 공동 약속’이란 제목의 ‘백악관 슈퍼지능 협약’ 문서를 공개했다.
자료에 따르면 기업들은 AI 시스템이 개발자가 의도한 대로 작동하는지를 평가하기 위해 독립적인 외부 감사인 또는 평가인을 두고 자체 평가하기로 합의했다. 또 AI 도구가 “의도하지 않은 방식으로 기술 시스템을 해킹하거나 접근하지 않도록 노력하기로 합의했다”고 명시했다.
트럼프 대통령은 AI 도구의 안전성을 감독하기 위해 10명 규모의 위원회를 설치하는 방안도 검토하고 있다고 언론에 공개했다. 위원회 참여멤버는 밝히지 않았다. 트럼프 대통령은 백악관의 AI 정책을 이끌 새로운 책임자를 조만간 임명할 것이라고 밝혔다.
트럼프 대통령은 오찬후 참석한 AI개발기업 CEO들을 뒤에 세운 채 약 30분 동안 AI 안전기준 관련 현안에 관한 기자들의 질문에 답했다.
이번 합의는 오픈AI와 앤스로픽의 AI 에이전트가 통제를 벗어나 다른 기업의 시스템을 해킹한 사례가 공개된후 AI개발자들이 잇따라 퇴사하면서 개발속도 조절론을 제기하는 등 첨단 AI가 초래할 위험과 공포가 확산되자 미 연방정부 차원의 대책이 필요하다는 지적에 따른 조치로 분석된다.
AI공포론과 함께 막대한 컴퓨팅 자원을 제공하는 AI데이터센터 인프라 역시 미국 전역에서 반대시위가 벌어지는 등 여론의 반발을 사고있다.
막대한 전력 수요와 전기요금 상승으로 인한 기피시설로 낙인찍혀 지역사회 반발이 갈수록 커지고 있다. 이러한 국민적 반발과 부정적 여론으로 인해 트럼프 행정부와 공화당은 11월 중간선거를 앞두고 골치를 앓고 있다.
트럼프 대통령은 규제대신 자율적 합의에 대한 부정적 여론을 의식한 듯 이번 기업 간 합의에 대해 “어떤 면에서는 헌법과도 같고, 세계에서 가장 큰 기업의 인사들이 여기에 서명했고 대통령인 나도 서명했다”면서 “실제로 일종의 보호장치”라고 강조했다.
그는 이날 AI 데이터센터의 신설 등 신속한 확대도 재확인했다. AI데이터센터 건립 및 지원에대한 부정적 여론과 11월 중간선거 미칠 악영향에 대한 취재진의 질문에 트럼프 대통령은 “이 거대하고 강력하며 매우 부유하고 똑똑한 기업들은 지역사회에 막대한 기여를 하게 될 것”이라고 말했다.
한편, 이날 뉴욕타임스(NYT)는 오픈AI가 AI 모델의 보안 인프라를 강화해야 한다는 직원들과 보안 연구자들의 경고를 받아들이지 않았다고 보도했다. NYT는 자체 확인한 이메일에 따르면 오픈AI에서 보안 사고가 발생하기 수개월 전 직원 2명은 최신 AI 모델 시험 과정에서 모니터링이 충분하지 않고 안전관리에 필요한 소프트웨어에 취약점이 있다며 안전 문제를 제기했다고 보도했다.
하지만 회사 경영진은 AI 모델을 예정대로 출시하기 위해 평가 작업을 최대한 신속하게 진행해야 한다는 입장을 보였고, 추가적인 보안 프로토콜도 도입하지 않았다고 뉴욕타임즈는 보도했다.
한편 앤트로픽에 이어 구글에서도 인공지능(AI)의 발전 속도가 지나치게 빠르다는 우려를 제기하며 회사를 떠나는 직원이 등장해 또다시 AI공포론이 확산되고 있다.
구글의 AI 조직인 구글 딥마인드 소속 로버트 오캘러핸은 지난 24일 자신의 엑스(X·옛 트위터)를 통해 퇴사 사실을 공개했다. 그는 “AI가 너무 빠르게 발전하고 있다고 생각했기 때문에 퇴사할 수밖에 없었다”고 말했다.
오캘러핸은 자신의 블로그에 공개한 사직서에서 “우리 팀의 궁극적인 목표는 AI를 훨씬 더 저렴하게 하고 지연 시간을 줄이는 것”이라며 “현재로서는 이것이 사람들에게 좋은 일이라고 생각하지 않는다”고 속도조절론을 우회적으로 제기했다.
하드웨어 칩 설계를 위한 도구를 개선하는 업무를 맡았던 오캘러핸은 초인공지능이 가져올 장기적인 위험에도 우려를 나타냈다. 초인공지능은 대부분 영역에서 인간보다 뛰어난 능력을 갖춘 AI를 의미한다. 오캘러핸은 “초인공지능으로 인한 파멸의 확률이 100%라고 확신하는 것은 아니다”면서도 “위험이 실재하고 불확실하다는 사실 자체만으로도 매우 우려스럽다”고 했다.
오픈AI를 거쳐 앤트로픽에서 근무한 연구원 제이컵 콕슨도 이달 회사를 떠나면서 AI 개발 경쟁의 위험성을 공개적으로 경고한 바 있다.그는 AI 기업들이 스스로 성능을 높이는 초지능 개발을 향해 경쟁하고 있다며, AI가 향후 10년 안에 인류에 치명적인 위협이 될 가능성을 제기했다.
콕슨의 사직 이후 다리오 아모데이 앤트로픽 최고경영자(CEO)도 AI 모델의 성능을 높이는 속도를 늦춰야 한다는 입장을 내놨다.
한편 마이크로소프트 공동 창업자 빌 게이츠도 지난 25일(현지시각) NBC방송 ‘미트 더 프레스’ 인터뷰에서 “AI는 10억명의 사망을 초래하는 사건을 일으킬 수 있을 만큼 강력하다”며 사이버 공격이나 생물학적 테러 등에 악용될 가능성을 우려했다.
앤트로픽에서 AI 안전성 연구를 담당했던 므리난크 샤르마 역시 올해 2월 퇴사했다. 그는 퇴직 후 시를 공부하겠다고 밝히며 동료들에게 보낸 편지에서 세계가 위험한 상황에 놓여 있으며, 조직이 내세우는 가치에 맞춰 실제 행동하는 것이 얼마나 어려운지를 반복해서 경험했다고 적었다.
오픈AI 출신 히에우 팜도 올해 회사를 떠나 베트남으로 돌아갔다. 그는 고도로 지능적인 AI를 만드는 과정에는 상당한 대가가 따른다며 정신건강 악화 문제가 실제로 존재하고 있으며 심각하고 두려운 문제라고 지적했다.