[피치원뷰]“인간넘어선 AI탄생” vs “AGI아스트라,인간통제력 상실할수 있다”

“AGI(범용인공지능) 시대가 도래했다.인간보다 뛰어난 AI가 탄생했다”

“아스트라 AGI의 등장으로 인간통제력 상실할수 있다.개발속도를 늦춰야 한다”

오픈AI가 7일 공개한 신형 모델 ‘GPT-6 아스트라’를 둘러싸고 AI통제력에 대한 논란이 또다시 뜨겁게 일고 있다.

젠슨 황 엔비디아 CEO는 오픈AI가 공개한 신형 모델 ‘GPT-6 아스트라’에 대해  7일(현지시간) 자신의 소셜미디어 엑스(X)에 챗GPT의 초기 추론 모델에서 아스트라까지 이어진 4년의 여정을 언급하며 “마침내 범용인공지능(AGI) 시대가 열렸다”며 극찬했다.

■ “인간보다 뛰어난 AI 탄생했다” 젠슨황이 촉발한 인간넘어선 AI론

젠슨황이 언급한 AGI는 인간의 지적 업무 대부분을 특정 분야에 국한되지 않고 스스로 학습·수행할 수 있는 인공지능을 의미한다.

오픈AI가 지난 3일 공개된 아스트라는 사람이 쓰는 컴퓨터 환경을 직접 조작하고 여러 단계에 걸친 복합 작업을 처리하는 능력이 대폭 개선돼,AI가 모든 지적영역에서 스스로 학습, 수행하는 수준이다.

실제 새로운 문제 해결 능력을 측정하는 ARC-AGI-3 평가에서 99.9%의 점수를 기록해, 전작의 7.9%와 비교해 압도적인 도약을 입증했다. 오픈AI의 그레그 브록먼 사장 역시 “훗날 사람들은 아스트라를 초기 단계로 돌아볼 것”이라며 “AGI 시대에 온 것을 환영한다”고 의미를 부여했다.

젠슨 황 CEO는 오픈AI가 아스트라를 훈련하는 데 엔비디아의 그레이스 블랙웰(GB) NVL72 칩을 10만 개 넘게 투입했다며, 향후 40만 개의 GPU를 추가로 가동하겠다고 공개했다.

오픈AI의 아스트라 공개와 관련 AGI 판정 기준 및 인간의 통제력을 둘러싼 논란이 또다시 뜨겁게 달아오르고 있다. AI학계는 AGI의 정의 자체에 대한 사회적 합의가 없는 상태고, 현재 AI 모델이 여전히 현실 세계를 이해하지 못해 사실과 다른 답을 내놓는 문제가 있다고 지적한다.

황 CEO가 지난 3월과 지난달 실적 발표에서도 “이미 AGI를 달성했다”는 취지의 발언을 반복한 것 역시 자사 AI칩 프로모션 측면의 마케팅전략이라는 지적이다.

일각에서는 젠슨 황 CEO가 하이퍼스케일러 등이 자체 AI칩개발을 서두르자 첨단 AI 개발에서 엔비디아 GPU의 독점적 포지션을 부각하려는 전략적 발언이라고 비판한다.

■ 아스트라 AGI등장, “인간통제력 상실할수 있다,개발속도 늦춰야 한다”우려론 확산

아스트라 등장에 따른 인간통제력에 대한 논란이 다시 뜨거워지고 있다. ‘GPT-6 아스트라’를 출시한 오픈AI의 최고 과학자가 직접 AI발전속도에 대한 우려를 드러냈다.

블룸버그는 7일(현지시각) 야쿠브 파초키 오픈AI 최고과학자가 AI의 급속한 발전으로 인간이 이해하고 통제하기 어려워지고 있다고 경고했다고 보도했다.

그는 개발자들이 AI를 인간의 이익에 부합하도록 유도하거나 개발 속도를 늦출 수도 있다며 AI기업·연구소 등에서 안전상 이유로 자발적으로 개발 속도를 늦춰야 한다고 주장했다고 블룸버그는 소개했다.

해당 매체는 파초키 최고과학자가 “안전 기준이 확립될 때까지 자발적으로 개발속도 를 늦춰야 한다”고 촉구했다. 파초키 최고과학자는 특히 “머지않아 AI가 인간 개입 없이 스스로 발전할 수 있게 되는 ‘재귀적 자기 개선’이 일어날 것”이라고 경고했다.

그는 “지금은 극도의 주의가 필요한 시점”이라며 “AI의 지속적인 급속한 발전이 가져올 결과에 대해 아무도 대비하지 못하고 있다는 점이 우려스럽다”고 안전기준 마련이 시급하다고 강조했다.

블룸버그는 또 개발자들에게 AI가 인간의 이익에 더욱 부합하도록 유도하거나 필요에 따라 미래 개발 속도를 늦추는 두 가지 선택지가 있다고 파초키 최고과학자가 제시했다고 덧붙였다. 그는 두 가지 선택지 중에 공통의 안전장치가 마련될 때까지 자발적으로 개발 속도를 늦춰야한다고 강조했다.

인간통제력에 대한 논란은 AI업계 경영진의 일반적 일자리 비관론으로 확산되는 분위기다. 다리오 아모데이 앤트로픽 최고경영자(CEO)를 포함 많은 CEO들이 AI가 모든 신입사원 일자리의 절반을 대체할 수 있다고 경고한 바 있다.

반면 샘 올트먼 오픈AI CEO는 언론 인터뷰에서 오히려 AI업계가 인류에 가져다줄 잠재적 이점을 제대로 알리지 못했다고 주장했다.

문제는 아스트라에 이어 오픈AI·앤트로픽·구글 등 빅테크를 비롯해 각국 주요 AI기업들이 짧게는 1,2개월, 통상적으로 3~6개월 주기로 차세대 AI모델을 경쟁적으로 공개, 성능개선이 빛의 속도로 업그레이되고 있다는 점이다.

젠슨 황 엔비디아 CEO가 오픈AI 아스트라 출시에 대해 인간보다 뛰어난 AI가 탄생했다고 정의함에 따라 앞으로 AGI에 대한 인간통제력에 대한 논란은 한층 가열될 전망이다.

젠슨황 CEO의 발언이후 증시 반응은 뜨거웠다. 7일 코스피는 4.61% 급등한 6995.39에 마감하며 약 6주 만의 최고치를 기록했다고 8일에도 4%이상 급등세로 장을 시작했다.

AI 고점론에 흔들리던 투자 심리가 아스트라 공개를 계기로 되살아나면서 코스피가 모처럼 급등하고 있다. 특히 삼성전자와 SK하이닉스는 전날 각각 5.7%, 8.3% 급등한데 이어 8일에 오전에도 4.26%,2.31% 급등했다.