금요일 저녁에 퇴근길에 Chat-GPT를 주제로 월요일 조찬 모임에 강의를 해달라는 부탁을 받았다. 내친 김에 정리 좀 해보자는 생각에 하겠다고 했다. (아래는 강의 내용을 요약한 것이다. 이 글을 쓰는 과정에서 Chat-GPT의 도움을 받았다. 강의 자료를 만들면서 과학 기술이 기후 변화를 멈추는 데 도움이 될 수 있느냐는 질문을 던져 놓고 전율하기도 했다.)
그날 저녁 컴퓨터를 켜서 Chat-GPT에 물어봤다.
“언론사 경영자들을 대상으로 인공지능 기반의 자동 생성 뉴스가 불러올 충격에 대한 1시간짜리 강의를 할 건데 강의 목차를 만들어 봐.”
그랬더니 이런 게 튀어 나왔다. 뻔한 내용이지만 대략 구색을 갖췄다. (영어로 질문하는 게 좀 더 정확한 답변을 얻을 수 있다. 아래 답변은 번역 어플리케이션을 돌린 것.)
강의를 시작하면서, “이게 우리가 오늘 할 이야기인데요. (3초 침묵.) 사실 이건 Chat-GPT가 만들어준 겁니다”라고 말했더니 다들 뒤집어졌다. “여러분, 이게 현실입니다. 제가 말을 하지 않았다면 여러분은 몰랐겠죠. 저는 약간의 고민을 덜었고 무난한 목차를 얻었습니다.”
하지만 이 순서대로 강의를 진행하지는 않았다. 너무 뻔하고 심심했기 때문이다. 이 이야기는 여기에서 출발한다.
Chat-GPT가 갑자기 난리법석인 것 같지만 GPT-3는 이미 2020년 7월에 공개된 기술이다. 지금은 벌써 GPT-4가 언제 나오느냐를 이야기하는 상황이고. 다만 대화형 인터페이스가 등장하면서 뭔가 훅 들어오는 느낌을 준다. 아직은 뭔가 사람과 비슷하게 말한다는 것만으로도 신기해 하는 단계다.
모두가 알고 있는 이야기를 압축적으로 요약하면 GPT-3는 이미 미국에서 변호사 시험과 의사 시험을 통과했다. MBA도 통과할 수 있다고 한다. 질문을 던지면 맥락을 조합해서 논리적으로 답변하는 능력이 이미 웬만한 교육을 받은 인간의 수준을 넘어선다는 이야기다. 100만 가입자를 달성하는데 넷플릭스가 42개월, 트위터가 24개월, 페이스북이 10개월, 인스타그램이 2.5개월 걸렸는데, Chat-GPT는 5일 걸렸다. 내친 김에 1000만 가입자를 확보하기까지 40일 밖에 안 걸렸다. 2021년까지 데이터를 학습했기 때문에 최근 이슈를 물어보면 엉뚱한 대답을 하는 경우가 많다. 심지어 한국의 대통령이 누구냐는 질문에도 제대로 답을 하지 못한다. 간단한 사칙연산을 틀린다는 사례도 많이 공유됐다. 애초에 대화형 모델이라 잘 모르는 것도 아는 것처럼 답변하도록 설계돼 있기 때문이다. (아무 말이나 늘어놓을지언정, “잘 모르겠습니다. 죄송합니다.”라고 말하지 않는다.) ‘인생의 12법칙’을 쓴 조던 피터슨은 Chat-GPT에 13번째 법칙을 도덕경과 성경을 섞어서 써달라고 했다가 충격을 받았고 유발 하라리도 ‘사피엔스’ 10주년 기념판 서문을 부탁했다가 “놀라서 입을 다물지 못했다”고 밝힌 바 있다.
정보기술 전문 신문 씨넷이 AI를 활용해 기사를 내보낸 사실이 들통 나서 논란이 된 적 있다. 사람이 작성한 기사가 아니라는 사실을 숨겼고 뒤늦게 AI 어시스트를 실험하고 있다고 해명했다. 더 큰 문제는 팩트 오류가 많았는데 편집자가 이를 잡아내지 못했다는 데 있다. 복리 이자에 대한 기본적인 개념을 틀렸고 기사의 상당 부분이 멀쩡해 보이는 ‘아무 말’에 가까웠다. 인간 기자를 대체하려는 게 아니라 인간 기자를 지원하는 게 목표라고 해명했지만, 언론 윤리와 투명성에 대한 질문을 남겼다.
버즈피드가 이 떡밥을 잽싸게 물었다. 자동생성 뉴스에 투자하겠다고 밝혔고 주가가 150%나 급등했다.
퓨처리즘의 분석에 따르면 지금까지 드러난 문제는 다음과 같다. 첫째, 편향되고 잘못된 메시지를 그럴 듯하게 전달할 위험이 있다. 멀쩡한데 개소리. 둘째, 한 번 노출되면 바로 잡을 수 없고 자칫 검색 결과를 왜곡할 수도 있다. 문장 구조를 갖추고 그럭저럭 논리적인 글처럼 보이기 때문에 의심하지 않는다는 게 문제. 셋째, 스팸이나 피싱 이메일에 악용될 수도 있다. 맞춤형 반응형 챗봇이 등장하면 이 업계도 지각 변동이 있을 것 같다.
인간 기자라면 기자와 데스크 사이에 기본적인 신뢰가 있을 거고, 어느 수준 이상의 데스킹을 보면 된다는 기준이 있겠지만(적어도 경제 기사를 쓰는 기자라면 복리 이자가 뭔지는 알고 있을 테니까) 그런데 AI 기사에서는 도대체 어느 부분에 구멍이 있는지 알 수 없기 때문에 데스킹의 범위가 넓어진다. 처음부터 모든 걸 확인하고 검증해야 한다.
AI로 그린 그림이 경진대회에서 상금을 받았을 때 “마라톤 대회에 람보르기니를 타고 나타났다”거나 “인공지능을 활용한 표절”이라는 비판이 쏟아졌다. 그런데 누구나 미드저니에서 이런 그림을 만들 수 있느냐 하면 그건 또 아니다. 정확하게 어떤 프롬프트를 집어 넣어서 이런 그림을 뽑았는지 밝히지 않았기 때문에 이 그림은 재현할 수 없다. 상금을 받은 사람은 “이 작품 하나를 만드는 데 프롬프트를 900번 이상 미세 조정했다”면서 “80시간 넘게 걸렸다”고 말했다. 이 프롬프트를 하나의 창작물이라고 볼 수도 있을 것이다.
Chat-GPT와 미드저니를 이용해 72시간 만에 그림책을 만들었다는 사람은 표절 논란과 함께 비난이 쏟아지자 이렇게 말했다. “아티스트들의 우려를 존중하지만 그들의 분노에 동의하지 않는다.” 단순히 프롬프트를 고쳐가면서 최적의 결과를 얻은 것 뿐이지만 그 과정을 창작으로 봐야 한다는 이야기다. 문제는 AI가 학습한 이미지가 현실 세계의 누군가의 작품을 조금씩 베낀 것일 가능성이 크다는 것이지만 미드저니의 설립자 데이빗 홀츠는 인터넷의 이미지를 긁어들인 것 뿐이고 대부분은 사진이라고 해명했다. 어차피 인간의 창작이란 것도 어디선가 조금씩 얻은 아이디어가 쌓여서 반짝 하고 튀어나오는 것 뿐일 수도 있다.
저작권 논란과 별개로 이제 AI를 포토샵이나 엑셀처럼 활용하는 시대가 올 것이다. 포토샵이든 엑셀이든 모르거나 쓰지 않는 사람들도 있겠지만 생산성의 차이가 확연하게 나타날 것이다.
Chat-GPT도 마찬가지지만 어떤 질문을 던지느냐에 따라 답변의 수준이 달라진다. Chat-GPT가 잘 할 수 있는 질문이 있고 그렇지 못한 질문이 있다. “인공지능이 인류를 지배할 수 있다고 보느냐” 같은 뻔한 질문에는 뻔한 답변이 나오지만 “인공지능이 인간의 지능을 넘어설 때 인간의 직업에 어떤 변화가 있을 것 같은지 보고서 형식으로 정리해 달라”고 하면 좀 더 구조화된 답변을 얻을 수 있다. “인공지능이 인간의 직업 80%를 대체한 세상을 가정해서 웹 소설을 쓴다고 치고 30가지 챕터의 제목을 뽑아달라”고 해보자. 역시나 뻔한 답변일 수 있지만 3초 만에 몇 가지 힌트를 얻을 수 있다. 그 가운데 몇 가지는 당신의 상상력을 뛰어넘는 것일 수도 있다. 어쨌거나 1750억 개의 패러미터를 활용하는 최고 성능의 인공지능 엔진을 누구나 무료로 이용할 수 있는 시대다. 여전히 인간 보다 부족한 부분이 많지만 정보의 구조화와 맥락의 조합에는 탁월한 능력을 보인다.
가까운 미래에 Chat-GPT를 켜놓고 칼럼을 쓰는 언론인들이 등장할 것이다. 누군가는 그걸 치팅이라고 부를 수도 있고 표절과의 경계도 모호하지만 아이디어를 얻는 정도라면 그걸 막을 방법도 가려낼 방법도 없다. 다시 주문할 때마다 다른 답변이 나오기 때문에 골라 쓰거나 적당히 합쳐서 새로운 문장을 구성할 수도 있다. 20여 년 전에는 인터넷 검색으로 기사를 쓰는 기자들을 취재하지 않는 기자로 평가하기도 했지만 시대가 바뀌었다. 여전히 인간 기자가 잘 할 수 있는 영역과 잘 해야 할 역할이 분명하지만 Chat-GPT의 등장은 맥락의 이해와 분석, 사고의 확장에 인공지능의 도움이 효과적일 수 있다는 새로운 발상의 전환을 요구한다. 불쾌하거나 두렵고 짜증나는 상황이지만 바둑의 몰락처럼 피할 수 없는 과정이라고 봐야 할 것이다. 인간이 더 잘 할 수 있는 일을 찾아야 한다.
며칠 전에는 Chat-GPT로 블로그를 자동 생성하는 유튜브가 화제가 되기도 했다. (이게 엄청난 기술이 필요한 게 아니라 우후죽순으로 생겨날 듯.) Chat-GPT에게 잘 팔리는 이슈를 추천 받은 다음 적당한 이슈를 골라 블로그 제목을 추천 받고 관련 제목 100개를 추천 받는다. 관련 제목으로 글을 써달라고 하고 태그와 피처 이미지, 요약문 등을 만들어 달라고 한다. 이 같은 내용을 자동화해서 API와 연동해 발행한다. 코드 한 줄 없이 5분 만에 블로그 하나를 만들 수 있고 마음만 먹으면 하루 1만 개씩 포스트를 쏟아낼 수도 있다. 여기에 애드센스를 붙여 돈을 벌 수도 있을 거고, 이런 콘텐츠가 완전히 거짓이 아닌 이상 누군가에게 도움이 될 수도 있겠지만 대부분 그럴 듯한 헛소리 뭉치에 가깝다는 게 비극이다. (다만 이 유튜버도 이걸로 돈을 벌어보자는 컨셉 보다는 새로운 가능성을 보여주는 차원에서 영상을 제작한 듯.) (명령을 내려놓고 계속 해달라고 요청하는 것만으로도 책 한 권 분량의 콘텐츠를 뽑아낼 수 있다.)
레이 커즈와일이 말했던 인공지능의 특이점(singularity)은 GPT-4가 등장하는 시점이 될 가능성이 크다. GPT-3의 패러미터가 1750억 개인데 GPT-4는 100조 개가 될 거라고 한다.
우리가 궁금한 것은 앞으로 어떤 세상이 될 것이고 무엇을 해야 하는가다. (아래 다섯 가지는 역시 Chat-GPT가 뽑아준 AI 생성 뉴스 시대의 변화를 정리한 것이다.)
몇 가지 정리해 보면 다음과 같다.
GPT-3는 충분히 놀랍지만 아직 완벽하지는 않다. 인간의 지능을 뛰어넘는 인공지능이 등장하면 우리의 지식 기반 노동에 근본적인 변화가 불가피할 것이다. 인공지능 기반의 언어 모델과 검색 엔진이 결합하면 어떤 일이 벌어질까. 지금은 학습된 데이터에 근거해서 말을 만드는 단계지만 실시간으로 데이터를 업데이트하고 그 데이터를 검증하는 능력까지 확보한다면 대부분의 영역에서 인간과의 경쟁을 아득하게 뛰어넘는 상황에 이르게 될 것이다.
‘Space Oprea Theatre’라는 그림을 만들기까지 수천 장의 패러미터를 던져야 했던 것처럼 어떻게 인공지능에게 일을 잘 시키느냐가 실력이 될 것이다. 수천 권의 책을 읽고 쌓은 통찰 보다 수십억 권의 책을 학습한 인공지능에게 통찰을 끌어내는 게 더 압도적인 결과를 만들어 낼 수도 있다.
가장 먼저 발을 담근 버즈피드의 전략을 살펴보면 앞으로의 방향에 몇 가지 아이디어를 얻을 수 있다. 일단 버즈피드는 당장 자동으로 뉴스를 생성하지는 않을 거라고 밝혔다. 당연히 지금 수준으로는 너무 위험할뿐더러 퀄리티도 담보되지 않는다. 다만 창의성을 극대화하는 (maximize the creativity) 도구로 활용한다는 계획이고 장기적으로 AI가 핵심 비즈니스가 될 것이라고 밝혔다. 아직 구체적인 그림은 드러나지 않았지만 한동안은 로봇이 인간을 완전히 대체하기 보다는 보조 근육이나 인공 관절처럼 인간 에디터의 일을 보조하는 역할을 하게 될 가능성이 크다. 극단적으로 오마이뉴스 기자들이 시민기자들의 글을 데스킹하는 것처럼 로봇 기자들이 뽑아낸 아이템을 골라서 검증하고 내보내는 협업 시스템으로 가게 될 수도 있다. AI에게 질문을 잘 던지는 것도 노하우와 경쟁력이 될 것이다. 기자의 역할이 질문을 잘 던지는 것으로 바뀔 수도 있다. 그 대상이 AI라는 게 다를 뿐.
인공지능을 판별하는 인공지능이 가능할 거라고는 하지만 쉽지 않을 것 같다. 최종 결과물이 문제가 아니라 애초에 콘텐츠의 제작 방식이 송두리째 바뀔 것이기 때문이다.
AI로 AI가 작성한 콘텐츠를 판별할 수 있을까. 셀리 팔머에 따르면 OpenAI의 공식 답변은 확률이 26% 밖에 안 된다고 한다. 만약 이게 불가능하다면 네 가지 문제가 발생한다.
첫째, 허위조작 정보의 문제 : 멀쩡하게 보이는 헛소리를 구분하기 어렵게 된다. (아직 AI 콘텐츠에 오류가 많은데 이걸 사람이 쓴 것으로 오해하고 믿게 된다는 의미.) (아직은 사람이 쓴 콘텐츠가 더 신뢰가 있기 때문에 하는 말이지만, AI가 사실 확인과 검증, 완결성 측면에서도 인간을 앞서게 되지 않을까.)
둘째, 혼란과 불신 : 사람이 쓴 것인지 아닌지 의심부터 하고 봐야 한다. (학교 리포트, 디지털 아트, 동영상, 심지어 신문 기사까지도. 이 글 역시 챗GPT로 돌린 거 아니냐고 의심하는 사람이 있을 수 있다.) 구분이 의미가 없는 단계에 이를 수도 있고 애초에 인간의 창작물이 훨씬 더 수준이 낮은 단계에 이를 수도 있다. (자동 번역을 생각해 보면 지금이야 번역기 돌렸네 하겠지만 누가 봐도 깔끔한 번역이 가능한 시점이 되면 번역기 만도 못하다는 이야기가 나올 것이다. 번역기 돌려서 초벌 번역을 하는 것 자체는 문제 삼을 수 없겠지만.)
셋째, 저작권과 오리지널리티의 문제 : AI로 긁어서 만든 콘텐츠로 돈을 번다면? 그 저작권은 누구에게 있을까. 만약 AI가 여기저기서 잘게 쪼개서 적당히 베껴서 만든 콘텐츠라면? AI가 만든 그림에 어떤 창작자의 아이디어가 묻어 있다면? 누가 봐도 베낀 것 같거나 느낌이 비슷하다면? AI 콘텐츠를 표절이라고 비난할 수 있을까? 근본적으로 AI로 만들어 놓고 자기가 만든 거라고 우긴다면?
넷째, 윤리적인 문제 : AI가 인간 세상의 차별과 편견, 고정 관념을 학습해서 확대 강화할 가능성도 있다. AI의 도움을 받아놓고 그걸 자기 생각처럼 말하는 사람이 늘어날수록 우리 모두가 AI의 사고 체계에 갇히게 될 수도 있다. 자동 생성 블로그로 광고 수입을 얻는다거나 단순 자동화로 다른 사람들의 노력을 긁어간다거나 검색 엔진을 어뷰징한다거나 등의 여러가지 윤리적 문제가 발생할 수 있다.
인공지능이 인간 기자의 일자리를 뺏게 될 거라는 전망이 그동안에 없었던 것은 아니지만 이제는 정말 몇 년 남지 않았다는 생각이 든다. 단순 사실 전달과 논평은 상품 가치를 잃게 될 것이다. 사건은 발생과 동시에 기록될 것이고 뉴스룸의 상당수 인력은 오퍼레이터 역할을 맡게 될 것이다. 저널리즘의 영역에서는 해석과 의미 부여, 전망, 의제 설정의 역할이 더욱 중요하게 될 것이다. 컴퓨터 활용 취재(CAR)라는 개념이 등장한 게 2000년대 초반이라면 이제 인공지능 활용 취재(AAR)가 일상화될 수도 있다.
기자회견이나 토론회에서 열심히 받아치기를 하는 기자들을 떠올려 보자. 가까운 미래에는 행사장에서 바로 스크립트가 뜨고 워딩을 분석해서 요약이 뜨고 의미 분석까지 리얼 타임으로 생성될 것이다. 마치 지진 기사를 자동 생성하는 것처럼 새로고침을 누를 때마다 기사를 만들어 낼 수 있게 될 것이다.
하지만 비관에 빠질 필요는 없다고 생각하는 건 여전히 인간 기자가 잘 할 수 있는 일이 있다고 생각하기 때문이다. 대면 인터뷰와 누군가를 불편하게 만드는 질문, 드러난 현상 이면의 맥락과 구조, 익숙한 관행을 뒤집는 새로운 문제제기. 무엇을 빠뜨리고 있는가에 대한 계속되는 숙고와 성찰 등등.
학문과 예술의 영역은 좀 더 오래 갈 것 같지만 언론인들은 지금 내가 하는 일을 10년 뒤에도 할 수 있을까 하고 질문해 볼 필요가 있다. 알파고가 인간의 사고를 가로지르는 수를 툭툭 던진 것처럼 가까운 미래에 질문을 던지고 해법을 찾는 역할까지 AI에게 넘어갈 수도 있다. “안녕, 인간, 오늘은 이런 게 궁금할 것 같아서 준비해 봤어.” “이런 이야기를 해야 할 때인 것 같아. 이 뉴스와 이 뉴스가 사실은 이렇게 연결돼 있거든.”
|
leejeonghwan.com audio
 |
