미 펜타곤 인근에서 검은 연기가 피어오르고 있는 사진. AI가 만든 가짜 이미지로 판명된 해당 사진이 확산하면서 지난 22일(현지시간) 미 증시가 10분간 하락해 시총 약 1050억달러가 증발했다. [트위터 갈무리]

[헤럴드경제=손미정 기자]인공지능(AI)이 만든 ‘거짓’이 전 세계를 뒤흔들고 있다. AI가 생성한 허위 정보가 재앙적 결과를 초래할 것이란 경고가 현실화하고 있는 가운데, 일각에서는 당장 내년 미 대선판까지 뒤흔들 수 있다는 경고가 나오고 있다.

최근 가짜 ‘펜타곤(미 국방부 청사) 폭발’ 사진을 계기로 AI의 위험성을 둘러싼 불안감이 최고조에 달하고 있다.

지난 22일(현지시간) 사회관계망서비스(SNS)를 중심으로 펜타곤 옆에서 검은 연기가 피어오르는 사진이 급속도로 퍼졌고, 공포에 휩싸인 미 증시가 하락 반전하며 순식간에 시가총액 약 1050억달러가 증발했다. AI가 만든 이미지가 금융 시장에 영향을 미친 최초의 사례이자, AI를 둘러싼 각종 경고가 구체화한 대표적인 사례다.

앞서 16일 게리 겐슬러 미 증권거래위원회(SEC) 위원장은 “AI가 금융 취약성을 높일 수 있다”고 경고했고, 미 연방거래위원회(FTC) 역시 “AI발 가짜 이미지와 복제된 음성이 새로운 종류의 사기에 사용될 수 있다”고 강조한 바 있다.

뉴욕타임스(NYT)는 “가짜 사진으로 인한 대량 주식 매도는 AI가 큰 결과를 초래하는 사악한 목적에 이용될 수 있다는 두려움을 강조했다”면서 “AI가 잘못된 정보를 퍼트리는데 악용돼 공황을 부추길 수 있다는 정부의 우려가 현실화했다”고 진단했다.

AI가 생성한 가짜 이미지 속에 프란치스코 교황이 명품 브랜드 발렌시아가의 롱패딩을 입고 있다. [트위터 갈무리]

펜타곤 폭발 이미지는 즉각 AI가 만든 가짜 사진이라는 것이 밝혀지면서 증시는 10여분 만에 다시 회복했다. 하지만 시장은 AI 기술이 고도화돼 허위 사실 판별이 지연된다면, 증시에 더 큰 충격을 줄 수 있다는 불안감을 감추지 못하는 모습이다.

짐 리드 도이체방크 전략가는 “AI 기술이 점점 더 설득력 있는 이미지를 제공할 수 있다면, 앞으로 짧게는 몇 달, 길게는 몇년 내로 AI의 위협이 더욱 커질 것”이라고 경고했다.

이 밖에도 최근 SNS상에는 AI가 만드는 가짜 뉴스, 음모론, 가짜 사진 등이 급증하면서 사실과 허위 정보들이 혼란스럽게 뒤섞이고 있다. 감옥에 갇힌 블라디미르 푸틴 러시아 대통령과 명품 브랜드 패딩을 입은 프란치스코 교황, 그리고 도널드 트럼프 전 대통령이 경찰에 체포되는 이미지가 대표적이다.

내년 대선을 앞둔 미국은 이 같은 AI발 가짜 뉴스의 대량 유통을 더욱 경계하는 분위기다. AI가 선거 간섭의 도구로 악용될 가능성이 크기 때문이다. 일찍이 공화당 전국위원회는 조 바이든 미 대통령의 재선 출마 선언 직후 AI로 만든 비판 영상을 공개하며, AI가 대선에 새로운 변수가 될 수 있음을 암시하기도 했다.

도널드 트럼프 전 대통령이 체포당하고 있는 모습이 담긴 가짜 사진. [트위터 @Eliot Higgins 갈무리]

챗GPT를 개발한 샘 올트먼 오픈AI 최고경영자(CEO)는 지난 16일 미 의회 청문회에서 “AI의 선거 개입이 위험하다고 보고 있다”면서 “일대일 대화에서 챗GPT가 허위 정보를 쏟아내 개인을 조작할 수 있을지도 모르기 때문에 문제가 있다”고 말했다.

브루킹스연구소는 최근 ‘AI가 2024년 대선을 어떻게 바꿀 것인가’란 제목의 보고서를 통해 AI가 부동층을 직접 겨냥하는 선거 캠페인을 전개하는 데 활용될 수 있지만, 동시에 후보의 지지율을 끌어올리기 위한 허위 정보 생성 도구로 사용될 수 있다고 지적했다.

보고서는 “일반인도 정교한 AI 도구를 사용해 허위 정보를 만들 수 있다”면서 “누구나 정치 콘텐츠를 제작해 유권자나 언론을 흔들려고 할 수 있다”고 관측했다.