“AI로 보이스피싱 금융사기 판칠칠 것,영상·음성비번 다뚫려”오픈AI CEO의 경고

“인공지능이 당신의 아이나 부모 목소리를 흉내 내서 전화를 하는 몸값 사기,보이스피싱이 판칠 것입니다”

“곧 목소리뿐만 아니라 외모까지 가짜로 만들어서 화상통화로도 보이스피싱 등 금융 사기가 벌어질 것입니다”

챗GPT개발사 오픈AI 창업자인 샘 올트먼 CEO가 AI가 악용될 경우, 사람을 사칭한 보이스피싱 등 금융사기 행위가 급증할 수 있다고 경고했다.

샘 올트먼은 22일(현지 시간) 연방준비제도(Fed)에서 열린 ‘경제 및 사회적 AI 영향’ 관련 인터뷰에서 이같이 경고하고,인공지능이 너무 빨리 발전하면서, 사람들을 속여서 금융사기를 일으키는 일이 곧 벌어질 거라고 강조했다.

샘 올트먼은 “저는 인공지능 때문에 심각한 사기 위기가 닥칠까 봐 아주 걱정하고 있다”면서 “인공지능이 비밀번호만 빼면, 얼굴인식이나 성문 같은 대부분의 개인 인증방식을 완전히 무력화시킨 상태”라고 지적했다.

그는 “이런 방법을 악용하는 사람이 나올 것이고, 어떤 악당이 나타나서 기술을 퍼트릴 것”이라며 “어려운 일이 전혀 아니고 아주 아주 빠른 시일 내에 일어날 것”이라고 강하게 경고했다.

샘 올트먼은 우선 보이스피싱에 AI가 사용될 가능성을 언급했다. 그는 “인공지능이 곧 목소리뿐만 아니라 외모까지 가짜로 만들어서 화상통화로도 사기가 벌어질 것이라고 경고했다.

그는 “지금은 전화통화지만, 영상통화, 페이스타임까지 넘가면 현실과 구분이 불가능한 상황이 될 것”이라며 “AI는 이미 비밀번호를 제외한 대부분의 인증방식을 완전히 무력화했다”고 말했다. 그는 이런 일을 막기 위해서 인공지능 업계가 규제기관과 협력할 필요가 있다”고 주장했다.

샘 올트먼은 “금융기관 중 일부는 여전히 음성인식을 본인 인증 수단으로 사용해 큰 돈을 이체하거나 중요한 작업을 승인하고 있다”면서 “이는 매우 위험한 일”이라며 곧 AI를 악용한 금융사기 피해가 속출할 것이라고 지적했다.

AI가 사기 행위를 강화시킬 수 있다는 우려는 앞서 미 연방수사국(FBI)도 제기한 바 있다. FBI는 지난해 AI 음성·영상 클론 기술을 이용한 신종 사기 범죄를 경고했다. AI 음성 기술로 자녀가 위험에 처했다는 허위 메시지를 보내 부모를 속여 돈을 갈취한 사례도 보고됐다. 최근에는 마코 루비오 미 국무장관 목소리를 사칭해 외교관과 정치인에게 접근한 사건도 발생했다.

그는 또 악의적 행위자가 ‘초지능 AI’를 먼저 개발할 경우, 미국의 전력망을 공격하거나 생물무기를 제작하는 데 악용될 수 있다고 경고했다. 이는 최근 백악관과 미 의회 내에서 제기되는, ‘중국이 미국의 AI 기술을 앞지를 수 있다’는 우려와 맞물려 다양한 해석을 낳고 있다.

샘 올트먼은 초지능 AI가 통제력을 벗어나 지나치게 큰 의사결정 권한을 갖게 될 가능성에 대해서 강한 우려를 표시했다. 그는 2030년대에 인간 능력을 훨씬 뛰어넘는 AI가 등장할 것으로 전망했다.

그는 일자리 변화에 대한 질문에는 “일부 직업은 사라지고 새로운 일자리는 생겨날 것”이라며 “미래의 노동자들은 지금 우리가 생각하는 ‘진짜 직업’을 갖지 않을 수도 있다”고 예측했다. 그는 “시간을 보내거나 사회적 지위를 위해 ‘가짜 직업’을 만들어내게 될 가능성이 크다”고 경고했다.