범용 인공지능(AGI:Artificial General Intelligence)의 가능성

실현까지의 여정과 규제 등 과제

챗 GPT는 2022년 11월 출시 이후 역대 가장 인상적이고 성공적인 컨슈머 소프트웨어 어플리케이션 중 하나로 관심을 받아왔다.

챗GPT의 등장으로 AI 개발 경쟁은 새로운 국면에 접어들었고 실리콘밸리의 거대 기업인 메타, 구글, 아마존은 당황하며 성급한 행동을 보이고 있다.

한편 챗 GPT나 다른 대규모 언어모델에 대한 과도한 보도가 잦아들면서 AI기업들은

현재의 경이로운 AI모델을 대체할 지적 에이전트, 즉 범용 인공지능(AGI) 개발을 정조준하고 있다.

범용 인공지능(AGI:Artificial General Intelligence)

AGI는 인간과 동일한 지적 성과를 달성할 수 있는 가설상의 지적 에이전트다.

추론, 전략 입안, 계획 책정, 판단과 상식의 사용, 불확실성이나 위험에 대한 대응과 검출 등의 능력이 있다.

이런 유형의 인공지능 능력은 스마트폰 카메라를 움직이는 AI나 자율주행차량을 가동하는 AI, 복잡한 작업을 완료하는 챗GPT의 능력을 크게 능가하고 있다.

AI와 AGI의 차이

SS&C Blue Prism의 유럽 중동 아프리카(EMEA) 담당 프로덕트 리더의 드류손든씨에

따르면 챗GPT나 구글 버드 같은 AI 챗봇은 특화형 AI(Nallow AI)로 간주되고 있다.

특화형 AI로 분류되는 AI는 알고리즘을 사용해 업무를 완료하나 해당 업무에서 무언가를 학습하지 않으며 지식을 다른 태스크에 응용하지도 않는다.

진정한 AGI는 대화를 주고받고, 상세한 계획과 활동 실행, 수학적 통찰력 제공, 참신한 예술 작품 창조 등 이론상 모든 작업을 맡을 수 있을 것이라고 손든씨는 말한다.

AGI는 세상을 바꾸고 사회를 진보시키며 인류가 직면한 복잡한 문제들을 해결할 수 있다. 인류가 알고 있지 못하는 문제를 알려 줄지도 모른다.

「최대의 과제를 고려해 도입하면, (AGI는) 의료분야에 있어서의 중요한 진보와 기후 변화 대응에의

개선 그리고 교육 분야에서 발전을 이루어 낼 가능성이 있다」고 Avande의 오픈 이노베이션 책임자 Chris Lloyd-Jones씨는 말했다.

기후변화 문제일 경우 AGI는 인터넷에 접속하여 기후변화에 대한 기존의 연구를 모두 파악할 수 있을 것이다. 

그 후, 생각할 수 있는 모든 결과를 평가하면서 해결책을 제시해 낼지도 모른다.

AGI는 인간보다 뛰어난 의식의 흐름을 유지하며 기능하지만 휴식이나 추가 정보를 학습하기 위한 시간은 전혀 필요로 하지 않는다.

하지만 AGI 실현은 아직 갈 길이 멀다. 당장 달성 가능한 목표는 아니다.

이는 전문가들 사이에 견해가 엇갈리고 있어 3년 만에 실현될 수 있다는 의견도 있는가 하면 인류가 AGI를 실현하기까지 수십 년이 걸릴 수 있다는 의견도 있다.

인공지능은 가슴 설레게 하는 이노베이션 분야로, 현재 실현되고 있는 상황은 도달하기까지 수 광년이 걸릴 것으로 생각하고 있었던 것이 사실이다.

AGI로의 여정은 챗GPT로 시작된 것은 아니다.

AGI의 개발 경쟁은 연구자, 엔지니어, 위대한 사상가, 정부가 연계하는 세계 규모의 포괄적인 추진사항이다.

AGI는 인류에 대한 위협인가?

인간과 동등하거나 한층 더 고도의 지능을 가지는 지적 존재는 SF 속에서만 그려져 있었으나 우리 사회에 혁신을 가져올 가능성이 있다.

그러나 어떤 혁신적인 기술에도 잠재적 폐해는 따른다.

AGI가 안고 있는 위험은 매우 커 AI의 진보로 인류에게 중대한 혼란이 생길 수 있다고 전문가들은 경고한다.

한편, AGI가 사회에 가져오는 리스크 정량화에 대해서는 전문가 사이에서 의견이 분분하다.

대다수 전문가들은 AGI만으로는 반드시 인류에 대한 위험이 되지 않지만

이 지적 존재를 누구의 손으로 조종하느냐에 따라 얼마나 유익한 기술이 될지, 얼마나 해로운 기술이 될지 결정된다는 의견이다.

Aimpoint Digital의 AI 책임자인 Aaron McClendon 씨는 AGI에 대한 접근을 분산하여 특정 그룹이나 국가가 AGI를 독점하지 않아야 한다고 강조했다.

"AGI로 인해 부와 생산성이 크게 증대된다면 그 이익은 널리 공유되어야 하며 일부 사람들에게 집중되어서는 안 된다"고 McClendon은 말한다.

Intelligent Voice의 창설자이자 최고기술책임자(CTO)를 맡고 있는 Nigel Cannings씨도 마찬가지로 느끼고 있다.

AGI는 도덕, 이성, 분별을 교사인 인간에게서 배울 것이다. 잘못된 방향으로 이끌 경우 심각한 결과가 발생할 수 있다.

“큰 힘을 가진 기계보다 그것을 움직이는 인간이 훨씬 우려스러운 존재이다.

일정 수준의 감각이나 지능을 획득한 기계가 사악해지는 것은 인간인 주인에 의해 그 방향으로 이끌리는 경우뿐일 것이다.

AGI를 자유롭게 한다면 인류에 대해 공평하며 편향되지 않도록 접근 할 가능성이 더 높다” 고 Cannings 씨는 말한다.

AGI 실현에 얼마나 가까워졌나?

조지아 공대 컴퓨팅 학부의 조교수인 Wei Xu씨에 의하면, AGI 실현 탐구 여행은 1950년대 컴퓨터 시스템의 출현으로까지 거슬러 올라갈 수 있다고 한다.

Xu 씨는 앨런 튜링이 1950년 개발한 튜링 테스트를 언급했다. 

이 테스트에서 인간과 기계가 텍스트 기반 대화를 나누는데 그 대화를 사람인 판정자가 평가한다.

인간과 기계의 구별을 판정자가 구별하지 못할 경우 그 기계는 튜링 테스트에 합격한 셈이다.

그는 두 컴퓨터 과학자가 1956년 개발한 컴퓨터 프로그램 General Problem Solver(GPS)도 언급했다.

이 두 사람은 기호를 사용해 주위의 세계와 연결되는 방법을 가르쳐 준 기계가 최종적으로 범용 지능에 도달한다고 생각하고 있었다.

튜링 테스트와 General Problem Solver는 모두 지적으로 행동하는 기계의 능력을 개발하고 테스트하는 초기의 시도였다.

이 테스트들이 현재 상황으로 이어지고 있다. 챗GPT나 GPT-4 같은 언어 모델의 성공은 그 연구의 집대성이자 인류가 이루어낸 혁신 정신의 증거다.

Xu 씨는 AGI를 컴퓨터 사이언스의 성배라고 부른다. 이는 AGI가 다수의 기술을 집약해 통일된 범용 지성을 만들어내 업무 완료와 문제 해결을 가능하게 하기 때문이다.

챗GPT나 'DALL·E' 같은 어플리케이션은 각각 텍스트 출력과 예술작품을 작성하는 기능이 있지만 AGI는 둘 다 가능한 능력이 있다.

"한 제품의 한 유져 인터페이스로 많은 것을 동시에 실행할 수 있어 효율적이고 편리하며 인상적이다"고 Xu씨는 말했다.

전문가들은 AGI가 실현될 시기에 대하여 밝히는 것에 대해 신중히 하고 있다.

그러나, 챗GPT는 인상적이고 혁신적인 언어모델이지만 새로운 아이디어를 만들어내지 못하는데 그것이 가능한 기술이 곧 등장할 조짐을 보이고 있다고 Lloyd-Jones씨는 말했다.

AI 모델은 훈련에 학습된 데이터 세트를 넘어서는 능력이 없어 예를 들어 새로운 예술 스타일이나 시를 만들어낼 수 없다.

이 목적에 완벽하게 맞는 데이터 세트는 아직 없어 개발 속도를 참고로 하면 5년 뒤 80% 단계까지 도달할 것으로 Lloyd-Jones씨는 보고 있다.

하지만 Cannings씨는 AGI의 실현은 아직 멀었고 그 정확한 시기는 알 수 없다고 말한다.

AI 챗봇이 엔지니어링 진보를 보이고 있지만 인간 지능에 필요한 특성이 현저히 결여된 것으로 알려졌다.

Cannings 씨는 감정 표현, 공감, 지각이 가능한 지적 존재를 만드는 어려움을 강조한다. 이것은 인간 체험의 기초를 이루는 능력이기 때문이다.

AGI 실현에는 엔지니어링에서의 기술뿐 아니라 지능을 철학이나 심리학의 관점에서 정의하는 것도 필요하다고 그는 생각한다.

AI의 진보는 눈부시고 진화가 계속되고 있지만 인간의 인지능력을 모두 갖춘 AGI의 실현은 기술과 철학 두 분야에서 큰 폭의 진보가 필요하기 때문이다.

AGI 규제 방식

많은 나라들이 AGI 실현을 위한 획기적인 성과를 내는 첫 번째 국가가 되고자 AI 연구에 투자를 하고 있다.

McClendon 씨는 미국과 중국이 앞장서고 있지만 캐나다 영국 프랑스 독일이 이 경쟁에 참여하고 있다고 말한다.

AGI의 실현은 과학과 기술의 중요한 이정표가 될 것이며, 개발된 곳에 그치지 않고 그 영향은 전 세계에 미칠 것이라는 점에 유의할 필요가 있다.

AI 연구 국가에 관한 중요성은 그 나라의 법률과 정부가 AGI의 힘을 활용하는 지정학적 이유에 있는데,

법률과 정부의 규제와 기술 혁신에 관한 철학은 그 기술이 보급되는 속도와 범위에 결정적인 영향을 미친다.

Tricentis의 고객 엔지니어링 담당 디렉터인 Bryan Cole에 의하면 OpenAI, Google, Microsoft 같은

기업은 AGI 연구와 개발에 관한 진척 상황을 발표할 가능성이 있지만, 정부나 국가들은 정보를 그다지 공개하지 않을 것이라고 말한다.

AGI 도달의 첫 승전보는 세계적 우위성과 영향력에 큰 비밀이 숨겨져 있다.

가장 먼저 실현한 기업이나 국가는 어디든 막강한 힘을 얻어 다음에 뒤따라오는 경쟁자에게 알리지 않을 것이다.

「중국이나 미국 등 강대국이 AGI에 막대한 자원을 투입하고 있는 것은, AGI 시스템을 최초로 손에 넣은 자가,

기술적인 지배(또는 제어)로 다른 AGI 시스템의 출현을 저지하는 능력을 얻을 가능성이 높기 때문이다」라고 Cole씨는 말한다.

하지만 국가가 AGI를 실현하기 전까지는 AI 기업, 연구자, 입법의원들이 연계해 국민을 위한 법적 보호조치를 마련할 필요가 있다.

EU 회원국들은 곧 EU AI 규제법에서 제시한 3가지 리스크 카테고리를 준수해야 한다.(https://artificialintelligenceact.eu/)

이 법은 AI를 자동화 시스템이 아닌 인간이 규제함으로써 유해한 결과가 발생할 가능성을 배제하기 위한 것이다.

중국의 규제에서는 AI 시스템이 중국의 정치적 가치관을 지지하고 그에 따른 것이어야 한다.

(https://carnegieendowment.org/2023/05/16/what-chinese-regulation-proposal-reveals-about-ai-and-democratic-values-pub-89766)

반면 미국에는 연방 차원에서 AI를 규제할 법적 틀이 아직 없다.

(https://www.americanbar.org/groups/journal/podcast/what-could-ai-regulation-in-the-us-look-like/)

서방 정부는 AI의 지극히 큰 중요성과 잠재적 위험성을 의도적으로 무시해서는 안 되며, 그렇게될 경우 경쟁에서 질 위험을 감수해야 한다.

이렇게 말한 이는, Nephos Technologies의 창설자이자 최고 경영 책임자(CEO)인 Michael Queenan씨다.

AI 기술이 규제 당국을 훨씬 웃도는 맹렬한 페이스로 진화하고 있기 때문에 신속한 행동이 요구된다고 주장한다.

AI 쓰나미가 다가오고 있는데 그에 대한 계획은 없다. 서방 국가들은 경쟁에서 뒤처질 위험이 있다.

AI의 용도와 사용 방법을 결정하는 데 있어서 규제는 매우 중요하다.

AI가 보다 고도화되고 우리 생활의 여러 측면에 다양한 영향을 미치면서 AI의 위험과 대처 방법을 명확히 정의한 법률을 제정하는 일이 한층 어려워지고 있다.

입법 의원들은 AI의 정확한 정의를 생각해 내는 데 시간적 여유가 없다.

AI 출력을 규제하는 노력에 집중해야 한다고 법률사무소인 헌튼 앤드루스 커스의 파트너 사라 피어스는 주장한다.

기술에 관한 법률의 제정을 시도할 때는 그 기술에 대해 지나치게 광범위한 정의를 정하려고 할 것이 아니라,

그 기술의 출력과 용도에 초점을 맞추는 것이 좋다고 생각한다. 왜냐하면 어떤 정의도 법이 발효될 때쯤이면 시대에 뒤떨어져 있을 가능성이 높기 때문이다.(Pearce)

AI 관련 정식 연방법을 정하지 않은 국가의 경우 정부와 AI 기업들은 사용자 데이터 보호에 주력해야 한다.

AI 기업은 대량의 데이터를 수집하고 그것을 AI 모델의 훈련에 사용한다.

과잉으로 데이터 수집활동을 하는 기업은 비난을 면치 못할 것이다. 또, 필요하다고 생각되는 기간을 넘어 데이터를 보유할 경우 그 이유에 대한 설명을 요구받게 될 것이다.

그 이유는 대부분 알고리즘의 개선과 추가 복제에 도움이 되기 때문이며 반드시 상업적 이익 확대를 위해 사용되기 때문만은 아니다.

AGI는 컴퓨터 여명기부터 꿈을 이루기 위해 노력해 온 기술로, Spike Johnze 감독의

「세계에서 하나뿐인 그녀」, John Favreau 감독의 「아이언맨」, Stanley Kubrick 감독의 「2001년 우주여행」 등의 영화에 등장하여

AI 연구의 활력원이 되어 왔다. 그 목표를 실현하기 위한 추진 활동을 누구도 저지할 수 없다.

AGI는 인기 영화 속에서 든든한 짝꿍, 애정 넘치는 친구, 인간을 자신들에 대한 위협으로 인식하고

인류를 없애기로 결의한 악역 등으로 묘사된다. 우리는 어떤 버전을 보고 있는 것일까.

AGI는 이제 체험할 수 있느냐 없느냐의 문제가 아니라 언제 체험하느냐의 문제다. 이에 대한 준비는 되어 있는 것일까.​