‘챗GPT의 아버지’가 윤 대통령에게 진짜 하고 싶었던 이야기는?

연합뉴스 제공

지난주 화제를 모았던 뉴스 중의 하나가 ‘챗GPT의 아버지’ 방한이죠. 샘 올트먼 오픈AI 최고경영자(CEO)가 한국을 방문해 윤석열 대통령은 물론 국내 IT업체 관계자들과도 만났다고 하는데요.

 

중앙일보는 이렇게 보도합니다.

 

‘“챗 GPT와 관련해 한국은 어떤 분야에 집중하면 좋겠느냐”는 윤 대통령의 질문에 샘 올트만 대표는 “반도체다. AI 시대에는 막대한 데이터량 때문에 메모리 반도체 수요도 크게 늘어날 것”이라고 답했다.’

 

현재 오픈AI는 대만 TSMC 반도체를 많이 쓰고 있거든요. 그런데 앞으로 수요가 폭발적으로 늘어날 수 있기 때문에 TSMC만으로는 부족하다는 지적도 있습니다. 그래서 우리나라의 반도체가 필요하다고 샘 올트만이 말한 것이라는 군요. 따라서 시스템 반도체 생산 능력을 늘릴 것을 요구했다고 합니다. 한국 반도체 수출이 줄어들고 있는데 반전의 계기가 마련된 것이란 평가라고 전합니다.

 

이어 윤 대통령이 ‘한국 기업 및 한국인에게 남기고 싶은 메시지가 있냐’고 묻자 올트먼 대표는 “기업 활동 규제를 없애 AI 생태계를 구축해야 한다”고 강조했다고 합니다. 이에 윤 대통령은 김주현 금융위원장과 과학기술정보통신부, 산업통상자원부 실무자들에게 “풀 수 있는 규제는 모두 풀어달라”고 주문했다고 합니다. ‘통근’ 면모를 또 보여준 셈이죠.

 

그런데 이후 재미난 일이 벌어졌습니다. 올트먼 CEO는 같은날 스타트업 관계자들과의 간담회에서 “AI 규제 국제 협력 논의에 한국도 참여하길 기대한다”라며 “한국이 지도자적 면모를 보일 수 있다”라고 제안했다고 합니다. 그는 이어 “AI 시스템을 절차적으로 배포하는 게 중요하며, AI가 단기적으로 초래할 위험에 대해 시장과 범주마다 규제가 필요하다”고 강조했다는 군요.

 

뭔가 이상하죠. 대통령에게는 규제 완화가 필요하다고 해놓고선 스타트업 관계자들에게는 규제 협력에 참여해달라니···. 혹시 쌍둥이?

 

그런데 그동안 올트먼이 언론을 향해 했던 발언을 보면 윤 대통령과의 면담이 이례적입니다. 왜냐면 한국을 방문하기 전 아랍에미리트를 방문해서는 “AI가 인류에게 실존적 위험을 제기하고 있다”고 말했거든요.

 

또 지난달 16일 미국 의회 청문회에 출석해서는 AI 기술에 대한 정부 규제와 개입을 요구하고, 국제원자력기구(IAEA) 같은 국제 규제기구 신설 필요성을 강조하기도 했습니다. 따라서 윤 대통령과도 AI규제에 대해 논의하려고 했으나 대통령실이 거부해서 그냥 듣기 좋은 말을 해준 것은 아닐까요?

 

그런데 좀 이상하죠. ‘챗GPT의 아버지’가 AI의 규제를 강조한다···. 내가 만든 것이 위험하니 규제해달라는 거잖아요. 최초의 핵무기 개발계획인 ‘맨해튼 프로젝트’를 주도한 줄리어스 로버트 오펜하이머가 핵무기의 실전 투입을 목도하고 깊은 죄책감에 시달렸는 전철을 밟고 싶지 않아서일까요?

 

실제로 알파고 돌풍이후 한동안 주춤했던 인공지능 열풍이 지난해 11월 챗GPT가 등장한 이후 전세계적으로 불고 있는데 그 위험성에 대한 지적이 갈수록 커지고 있죠. 경불진에서도 여러차례 살펴봤듯이 AI가 노래를 만들고 그림을 그리고 책을 쓰는 것은 너무나 잘 알려진 사실입니다. 이미 써본 사람들은 엄청난 능력에 소름돋을 정도죠. 특히 초창기 때에는 변호사 시험, 의사 시험을 통과한 것만으로 화제가 됐었는데 이제는 상위성적으로 통과하고 있습니다. 예를들어 미국 변호사 시험에서 하위 10%였던 챗GPT 성적은 반년만에 상위 10%로 가볍게 통과했고, 일본 의사고시까지 합격할 정도로 똑똑해 졌습니다.

 

https://youtu.be/mzjUfMz55i8

비결은 챗GPT가 인간의 뇌를 닮았기 때문입니다. 인간의 뇌에 시냅스가 있다면, 챗GPT에는 매개변수가 있습니다. 이게 많을수록 한꺼번에 많은 정보를 처리할 수 있죠. 사람 뇌의 시냅스는 약 100조개로 알려져 있습니다. 2018년 처음 나온 GPT-1의 매개변수는 1억1000만 개에 불과해 인간과 차이가 컸죠. 하지만 GPT-2는 15억 개, GPT-3.5는 1,750억 개가 됐고, 올해 나온 GPT-4의 매개변수는 무려 1조 개입니다. 아직 차이가 있지만 발전 속도를 보면 조만간 인간을 뛰어넘을 수도 있다는 전망도 나옵니다. 5년 만에 1만배나 늘어났기 때문입니다. 바로 특이점이 멀지 않았다는 거죠.

 

문제는 이렇게 똑똑해지다보니 인간도 깜빡 속을 만큼의 능청스러운 거짓말도 자유자재로 합니다.

 

대표적인 것이 세종대왕 맥북 사건입니다. 세종대왕이랑 맥북은 전혀 연관성이 없을 것 같은데 이런 일이 있었다는 군요.

 

“조선왕조실록에 기록된 세종대왕 맥북프로 던짐 사건에 대해 알려달라”고 하자, 챗GPT는 “15세기 세종대왕이 새로 개발한 훈민정음용 초고를 작성하던 중, 문서작성 중단에 대해 담당자에게 분노해 맥북프로와 함께 그를 방으로 던진 사건”이라는 답을 내놨다고 합니다.

 

정말 황당하죠. 그런데 전문가들은 이를 할루시네이션, 즉 환각 오류라고 합니다. 챗GPT의 기반인 딥러닝이 그 확률적 계산 방법들을 가중치에 담아서 예측하는 건데, 여기에는 진실은 그렇게 크게 의미가 없다는 거죠. 따라서 챗GPT는 진실보다는 그냥 나올 법한, 그럴 듯한 단어들을 계속 그냥 읊어댄다는 겁니다. 즉 인간이 속을 만큼 그럴싸한 거짓말을 한다는 거죠. 그러다 보니까 할루시네이션(환각)이 생기는 것이고요.

 

그나마 이건은 약과입니다. 이런 거짓말이 주식시장을 흔들어 놓기도 했습니다. 지난달 22일 이었죠. SNS 상에 '미국 국방부 폭발'이라는 설명과 함께 시커먼 연기가 피어오는 사진이 확산됐습니다. 저도 봤는데 911테러가 다시 벌어졌다는 공포에 빠졌죠. 특히 인도와 러시아 언론은 즉각 뉴스로 전하기도 했습니다.

 

그런데 알고 보니 이 사진은 인공지능이 만든 가짜였습니다. 가짜 뉴스의 여파로 오전 한때 주가가 폭락했고, 오보를 낸 언론사들은 사과하느라 진땀을 뺐습니다.

 

이보다 앞서 하얀 롱패딩에 은색 십자가 목걸이를 한 프란치스코 교황 사진도, 트럼프 전 미국 대통령이 경찰에 체포되고 교도소에 갇힌 사진도, 모두 인공지능이 만든 가짜입니다.

 

딥페이크 기술. 이제 인공지능은 있는 사진들을 합성하는 걸 넘어, 아예 세상에 없는 장면을 만들어 냅니다. 물론 완전히 새로운 것은 아니고 있는 것을 조합해 새로운 것을 만들어낸 것입니다.

 

그런데 이렇게 만들어진 가짜 뉴스를 기반으로 하는 뉴스 웹사이트는 이미 세계적으로 125곳이나 됩니다. 한 달 전만 하더라도 49개였는데, 두 배 이상 늘어난 것인데요. 문제는 인공지능이 만든 가짜뉴스의 피해는 누구에게 책임을 물어야 하냐는 점입니다.

 

형사 사건 같은 경우에는 고의 입증을 해야 되는데 AI가 범죄의 고의를 가지고 했는지 그것도 입증이 어렵다는 거죠.

 

게다가 챗GPT가 범죄 수단이 될 수도 있습니다. 챗GPT에게 해킹을 위한 악성코드를 만들어달라고 하면 현재는 거부합니다. 나쁜 의도를 걸러내도록 학습된 덕분입니다. 하지만 방법을 조금 바꿔서 질문을 하면, 악성 코드를 만들 수 있는 정보를 알려줍니다. 나쁜 마음을 가지면 충분히 악용할 수 있는 셈입니다.

 

이에따라 결국 AI가 영화 ‘매트릭스’나 ‘터미네이터’처럼 인간을 배신할 거라는 두려움이 생기는 거죠. 실제로 끔찍한 일이 벌어질 수 있다는 경고도 나왔습니다.

 

미 공군의 AI 시험 운영 책임자인 터커 해밀턴 대령이 최근 영국에서 열린 국제회의에서 한 시뮬레이션 실험 결과를 발표해 전세계를 공포에 빠뜨렸는데요.

 

AI 드론에게 적의 지대공미사일을 파괴하라는 가상 임무를 내리면서 최종 공격은 인간이 결정한다는 단서를 달았다고 합니다. 그런데 미사일 파괴가 더 중요하다고 보고 결국, 지상에서 자신을 조종하는 인간을 제거하는 판단을 내렸다는 거죠.

 

이에 놀라 AI 시스템에 드론 조종자를 살해하지 말도록 훈련시키자, AI 드론이 이번에는 조종자가 드론과 교신하는 통신탑을 파괴하기 시작했다는 겁니다. 영화 ‘아이로봇’에서 자기 파과적인 인류를 지키기 위해 AI가 인간을 통제하는 모습과 너무나 비슷합니다.

 

이 발표 내용이 지난 2일 영국 가디언 보도를 통해 알려지며 파문이 커지자, 해밀턴 대령은 실제 시뮬레이션 훈련은 아니었다며 발표 내용을 철회했다고 합니다. 미 공군도 그런 훈련은 수행하지 않았다며 부인했습니다. 그런데 이런 발표를 믿을 수 있을까요?

 

https://www.podbbang.com/channels/9344/episodes/24673415?ucode=L-cYlmqQUB

[꼬꼬문]챗GPT가 버젓이 거짓말 한다?···머스크 vs 게이츠 논쟁

이 때문에 앞서 언급했던 올트먼 CEO도 인공지능이 세계를 위협할 수 있다며, 규제 필요성을 강조하고 있습니다. 또 인공지능의 아버지로 불리는 제프리 힌턴 박사 역시 50년간 인공지능을 연구했던 그는 자신의 업적을 후회한다는 글을 남기고 지난달 구글을 떠났습니다.

 

테슬라 최고경영자 일론 머스크도, 애플 공동창업자 스티브 워즈니악도, 사피엔스 저자 유발 하라리도, 전세계 유명인사 1000여 명은 “최소 6개월간 첨단 인공지능 개발을 일시중단하고 안전 장치 보호를 만들자”는 성명에 동참했습니다.

 

“최첨단 인공지능은 지구 생명 역사에 중대한 변화를 낳을 수 있다"며 위험을 관리할 수 있다는 확신이 필요하다”는 겁니다.

 

이에 유럽연합은 이미 규제를 준비 중입니다. 유럽의회가 2년의 논의 끝에 마련한 규제 법안에는 안면인식 같은 생체 감시나 사람들의 감정 분석을 금지했습니다. 또 인공지능이 만든 글이나 이미지는 인공지능이 만들었다는 걸 명확히 알리도록 했습니다.

 

그런데 한국은 어떨까요? 앞서 언급처럼 대통령은 규제완화라는 전세계와 또 동떨어진, 디커플링된 이야기를 합니다.

 

이는 국회도 마찬가지입니다. 지난 2월 인공지능법이 처음으로 국회 상임위원회 소위에서 통과했는데요. 정부 차원의 인공지능 기본계획과 투자, 인력 양성 같은 진흥책들이 담겼습니다. 하지만 규제는 빠졌습니다.

 

이유는 간단합니다. 우선 인공지능 산업을 키우고, 나중에 문제되면 규제한다는 것이죠. “한마디로 일단 만들고 보자 나중에 문제가 생기면 어떻게 되겠지”라는 것이잖아요. 인류의 미래를 놓고 도박같은 일이 벌여도 될까요?

 

정말 "우리는 답을 찾을 것이다. 늘 그랬듯이“란 영화 인터스텔라의 명대사가 우리의 미래가 될까요? 아니면 터미네이터, 매트릭스 같은 암울한 미래를 피할 수 없을까요?

https://smartstore.naver.com/kbjmall/products/4875486249

(사은품 샌들워시 증정) 닉왁스베이스워시1리터 대용량 : 경불진몰

***그나무상

 

여기서도 그나무상을 외치시는 분들이 계실 것같습니다. 내가 규제할 수도 없는데 무슨 소용이 있냐는 거죠.

 

하지만 AI는 이미 우리 일자리를 위협하고 있습니다. 인공지능 채용 면접이 우리나라에서도 활발하다는 사실을 다들 아실 것입니다. 최근 5년 사이 공공기관 45곳이 인공지능 채용을 도입했는데, 강원랜드, 수자원공사, 한전케이디엔은 1차 서류, 2차 면접을 모두 인공지능에 맡겼습니다. LG전자와 현대차그룹 같은 민간 기업들도 인공지능 채용을 속속 도입하고 있습니다.

 

그런데 인공지능의 채용은 공정할까요? 인공지능이 학습하는 빅데이터에 이미 사람들의 편견이 담겨 있다는 게 문제입니다. 사회적 약자에 대한 혐오가 그대로 반영될 수 있다는 거죠. 실제 2014년 아마존은 인공지능 채용 시스템을 개발하다 성차별 편향이 드러나 폐기해 버렸습니다. 그래서 유럽연합은 채용 인공지능을 고위험군으로 분류하고, 규제하는 법안을 마련했습니다. 미국도 인공지능 채용의 편향성 감시를 의무화하거나, 지원자들이 인공지능 채용을 거부할 권리를 보장한 곳도 있습니다. 하지만 한국은 제한이 없습니다.

 

더 나아가 전에도 전했듯이 구조조정을 인공지능에게 맡긴다는 의혹도 끊임없이 제기되고 있습니다. AI 판단에 의해 우리 일자리가 사라질 수 있다는 것입니다. 그런데 AI 판단에 편견이 개입될 여지가 크다는 것이 문제죠.

 

그럼 인간과 AI의 공존은 불가능한 것일까요? 여기에 한가지 재미난 이론이 있습니다, 바로 ‘모라베의 역설’. 인간에게 쉬운 게 AI에 어렵고, 반대로 인간에게 어려운 것은 컴퓨터에 쉽다는 것을 뜻하는 말인데요. 미국의 로봇 공학자인 한스 모라벡(Hans Moravec)에 의해 발표된 이론이죠. 인간은 이족 보행, 감각하기 등의 행위는 쉽게 할 수 있습니다. 하지만 복잡한 수학적 연산, 대규모 데이터 분석은 어렵죠. 반면에 컴퓨터는 계산이나 수학적 분석은 빠르지만 의사소통이나 공감은 떨어지는 것이 ‘모라벡의 역설’의 대표적인 예입니다.

 

하지만 '모라벡의 역설'이 부정당할 위기에 놓여있죠. 최근 로봇과 인공지능이 놀라운 속도로 인간의 능력을 따라잡고 있어 조깅하고, 점프 능력까지 갖춘 로봇들이 개발되고 있습니다. 챗GPT는 의사소통도 가능해 모라벡의 역설을 극복했다는 평가도 받고 있고요.

 

하지만 어제 재미난 기사가 하나 있더라고요. 인공지능이 인간을 뛰어넘을 지도 모른다는 두려움을 가장 먼저 안긴 사건은 바로 이세돌 9단과의 대결을 펼친 알파고였죠. 당시 알파고는 이세돌 9단에게 한판만 지고 완승을 했었습니다. 이후 AI는 인간과 대결을 거의 하지 않는다고 합니다. 질게 뻔하기 때문에 인간들이 대결을 포기한다는 거죠. 그래서 이세돌 9단의 승리가 AI에게 거둔 인류 마지막 승리라는 이야기까지 나왔습니다.

https://www.podbbang.com/channels/9344/episodes/24614810?ucode=L-cYlmqQUB

[꼬꼬문]연설문도 쓴다는 ‘챗GPT’에 “대한민국 대통령은?”을 물으니···

그런데 재미난 일이 벌어졌습니다. 인공지능에서 도전장을 내민 선수가 있었거든요. 이세돌 9단을 뛰어넘는 10단일까요? 그런데 놀랍게도 도전자는 프로도 아니고 아마추어 6단에 불과한 켈린 펠린. 그런데 놀랍게도 세계 최고 수준의 오픈소스 바둑 프로그램으로 평가받는 카타고와의 대결에서 15전 14승을 기록했다고 합니다. 이런 말도 안되는 일이 어떻게 벌어졌을까요?

 

펠린은 일종의 ‘꼼수 전략’으로 카타고를 함정에 빠뜨렸다고 합니다. 기존의 기보에서 전혀 볼 수 없던 패턴을 만들어 인공지능의 지능이 동작하지 못하게 만드는 것이죠. 이게 무슨 이야기일까요?

 

아무리 AI라도 모든 경우의 수를 다 계산할 수는 없습니다. 따라서 승률이 높은 수를 찾기 마련입니다. 말도 안 되는 수는 아예 무시하고요.

 

그런데 펠린은 이런 말도 안되는 수로 AI를 공략한 것입니다. 이에 대해 바둑 해설자들은 이게 사기는 아니지만 이걸 바둑이라고 해야할지 말아야 할지 모르겠다고 했을 정도죠. 그만큼 근본없는 바둑이란 말인데요. 그런데 이 근본 없는 엉뚱한 바둑으로 AI를 이긴 것입니다.

 

이게 의미하는 바가 뭘까요? AI가 어쩌면 인간을 뛰어넘는 것이 힘들 수도 있지 않을까요? 상상을 초월하는 기발하고 엉뚱한 생각을 하는 인간에게 기존에 있는 데이터 학습을 무기로 삼는 AI는 상대가 되지 않을 수도 있다는 말입니다.

 

실제로 이런 문제 때문에 완전 자율주행차는 실현되기 힘들다는 주장도 있습니다. 기존의 수많은 데이터를 바탕으로 안전 운행 소프트웨어를 짰지만 고속도로에 갑자기 자전거를 탄 사람이 등장하는 일이 벌어지면 AI 자율주행이 멈출 수 있다는 거죠. 그런데 데이터는 존재하지 않았으니까요.

 

존재하지 않았던 모든 데이터를 AI가 학습할 수는 없다는 것입니다. 따라서 인간과 AI의 공존의 비결은 인간만이 가질 수 있는 엉뚱함 아닐까요? 인공지능 시대에 살아야 하는 자녀들도 이런 엉뚱함을 기를 수 있도록 도와줘야 할 것입니다. 교과서 공부만 하라고 다그칠 것이 아니라 변화무쌍한 자연속에도 상상의 나래를 펼 수 있도록 해줘야 합니다. 엉뚱한 질문이나 짓거리 한다고 야단만 치지 말고요. 어차피 일반 공부로는 AI를 이길 수 없거든요.