인공지능 AI의 스승들 격인 AI업계를 대표하는 연구자와 개발자, 경영자들 350명이 모여 AI로 인해 인간이 멸종할 수 있다는 경고의 메시지를 날렸다. 그들은 비영리단체인 인공지능안전센터를 통해 단 한 문장짜리 공동성명을 냈다.
"인공지능으로 인한 인류 절멸 위험을 완화하는 것은 다른 사회적 규모의 위험인 전염병이나 핵전쟁과 함께 세계적으로 우선순위에 둬야 할 문제"라고 밝혔다. 인공지능은 전염병이나 핵전쟁과 같은 위험도를 가지고 있으니 문제의 심각성을 가지고 조심스럽게 다뤄야 한다고 말한 것이다.
현 최고전문가들이 인류에게 보내는 경고
AI의 대부격인 토론토대 교수 제프리 힌턴과 챗GPT를 개발한 오픈AI의 샘 올트먼 최고경영자(CEO), 알파고를 만든 구글 딥마인드의 데미스 허사비스 최고경영자, 그리고 마이크로소프트(MS) 최고기술책임자(CTO) 케빈 스콧을 비롯한 350명이 이 공동성명서에 사인했다. 그리고 그들은 한 목소리로 AI가 인류를 멸종시킬만한 힘이 있다고 단 한 문장의 강력한 임팩트를 주며 인류에게 경고했다. 이들은 모두 인공지능의 개발에서부터 많은 기여를 한 사람들이고 대부분 현재 인공지능 업체나 연구 분야에서 일하고 있는 사람들이기에 이들이 보낸 메시지는 더욱 충격적이고 생각해 볼만한 문제이다. 특히 딥러닝을 처음 생각해 낸 제프리 힌턴은 최근에 인공지능의 위험을 경고하며 구글을 떠나서 화제가 됐다. 그는 인공지능이 실제 사람을 사냥하는 '킬러 로봇'이 될 수도 있다고 말하며 인공지능의 과도한 역기능을 우려하기도 했다.
자신이 발담근 업계의 치명적인 문제를 걱정할 뿐 아니라, 인공지능 업계에 비관적 입장을 공식적으로 커밍아웃한 결과가 어떻게 나타날 것인지 두고 볼 일이다. 이들의 공동성명은 그들끼리 머리를 맞대고 해결할 수 있는 범위의 문제가 아닌 것이다.
인간이 만든 기술이 인류를 위협할 때
아인슈타인은 그가 만든 양자역학 이론으로 핵폭발이 가능해졌고 많은 사람들이 핵으로 무참히 죽어나가는 것을 보면서 엄청난 충격을 받고 2차 세계대전 이후로 그는 모든 연구를 멈췄다고 한다. 과학자들이 인류 발전의 목적을 위해 연구를 진행하지만 그 결과가 뜻하지 않게 인류에 파괴적인 영향을 미칠 때 과학자들은 그들의 연구 방향과 목적을 상실할 수 있다. 그보다 더 무서운 것은 핵폭발이 실제 가능해졌고 핵전쟁이 현시대의 전쟁의 주요 양상이 된 것이다. AI에 관해서도 이와 같은 일들이 전문가들이 말한 대로 실제 일어날 수 있다고 생각한다.
AI가 실제 급속도로 발달 중인 미국과 영국에서는 당장 내년 선거에서 AI의 역할이 매우 중요할 것으로 보고 있다. 한 편으로는 AI를 활용한 유권자 맞춤형으로 전달되는 허위 정보 대규모 가짜 뉴스가 판 칠 것을 우려하고 있다. 설득과 조작을 통해 일대일 대화형 허위정보를 제공할 수 있다는 설명이다. 생성형 AI는 일방적으로 사람들에게 만들어진 정보를 대량 유통하는 방식이 아닌 실시간 상호작용을 통해 사람 한 명 한 명에게 설득력 있는 방식으로 침투할 수 있기에 이런 우려가 그냥 지나칠만한 가십은 아니다.
인공지능이 가져올 수 있는 기밀 정보 유출, 거짓 정보 확산, 대량 실업 유발 가능성 등의 파괴적인 잠재력을 이미 많은 전문가들이 경고해 왔지만, 이번 성명은 이 분야 최고경영자들과 주요 전문가들이 인류가 아예 사라지는 절멸의 시나리오까지도 가능하다고 경고했다는 점에서 의미심장하다. 실제 올트먼과 허사비스 등은 최근 조 바이든 대통령까지 만나서 인공지능의 이러한 측면에 관한 규제의 필요성을 논의했다고 한다.
AI가 흡수하는 모든 정보가 모여서 그들의 지능이 폭발적인 힘을 축적할 것이고 이렇게 똑똑한 AI가 인간의 통제를 벗어나면 과연 어떤 일이 벌어질지 상상만 해도 끔찍한 부분이다. 중요한 것은 그들에게 어떤 가치추구적인 면이 없다는 것이다. 인간이 그동안 소중히 여겼던 가치와 모순되는 목적을 무시하고 그들이 다시 정하는 가치와 목적에 따라 코드를 생성해서 실행에 옮기는 순간 우리 사회와 인류는 그야말로 아비규환의 시대를 맞이할 것이다. 심지어 생명을 죽이는 일까지 아무런 가치판단과 감정의 모순 없이 단행할 수 있는 것이다.
AI의 허점과 인류의 미래를 위해 우리가 해야할 일
AI개발의 초입 단계에 있는 지금 우리는 더욱 무게감을 가지고 이 문제를 다루고 준비해야 한다고 생각한다. 이미 코딩, 의학, 법률, 수학, 심리학 등 다양한 분야에서 AI의의 대답은 웬만한 전문가 집단을 뛰어넘는 수준이다. AI가 인간보다 모든 학문을 더 통달하고 미술과 음악 같은 예술 분야에서도 더 뛰어난 기량을 발휘한다면 우리는 어디에서 우리의 정체성과 존재의 의미를 찾아야 하는 것인지 모를 수 있다. 우리의 목숨은 우리 몸에 붙어있지만 우리의 뇌를 능가하는 심장 없는 인공지능에게 우리의 가진 모든 것을 내어 주고 그저 의미 없이 살고 있진 않을까 걱정된다.
이렇게 통제할 수 없는 AI라는 거대 생명체를 이미 만들었고 우리는 거기에 책임을 져야 할 것이다. 돈이 된다는 이유로 새로운 산업을 창출한다는 이유로 이루어지는 끝없는 개발 경쟁을 멈추고 우리가 가진 정신과 철학을 더욱 공고히 세우고 논의의 장으로 다 모여서 이 문제를 다루지 않는 이상 영화 속 끔찍한 일들이 실제 우리를 덮치는 일이 벌어질 수 있다.
전 세계가 주목하는 AI에 열광만 할 것이 아니라 다면적이고 다각적인 시선에서 이 문제를 바라봐야 할 것이다.
댓글