요즘 어딜 가나 '생성형 AI', 'LLM(거대 언어 모델)' 이야기뿐입니다. 마치 이 기술 하나면 인류의 모든 문제가 해결될 것처럼 뜨거운 기대가 쏟아지고 있습니다. 하지만 AI 분야에 오랫동안 몸담아 온 한 전문가의 시각은 사뭇 다릅니다. 1990년대 후반 '인공신경망'의 부흥과 암흑기를 직접 겪고, 현재 AI 전문 기업을 이끌고 있는 그는 지금의 열풍 역시 '거품'이며, 곧 한계에 부딪힐 것이라고 경고합니다.

이것은 기술에 대한 비관론이 아닙니다. 오히려 AI 기술 발전의 거대한 역사적 흐름을 꿰뚫어 보는 깊은 통찰입니다. 오늘, 우리는 그가 말하는 AI 기술의 반복적인 사이클과 현재 LLM 만능주의의 명확한 한계를 통해, 이 거대한 파도 속에서 우리가 중심을 잡는 법을 이야기해보고자 합니다.

AI 기술, 기대와 실망의 롤러코스터

AI 기술의 역사는 거대한 기대감으로 시작했다가, 처참한 실망감으로 암흑기에 빠지고, 다시 새로운 계기로 부활하는 사이클의 연속이었습니다.

지금의 40~50대 엔지니어들은 현재의 열풍을 보며 "과거에도 똑같은 일이 있었지"라고 말하곤 합니다. 1990년대 중반, '인공신경망(Neural Network)'으로 세상의 모든 문제를 풀 수 있다는 첫 번째 만능주의가 있었습니다.

하지만 2000년대 초반, 기술적 한계가 명확해졌습니다. 인공신경망의 계층(Layer)이 조금만 깊어져도 성능이 급격히 떨어지는 문제가 해결되지 않았기 때문입니다. 결국 2000년대 중반, 인공신경망은 '사실상 죽은 기술'로 평가받았습니다. 당시 이 분야의 논문을 쓴다고 하면 편집자들이 걸러내거나 '정신 나간' 사람 취급을 받을 정도였습니다.

컴퓨터 공학자들은 돈이 안 된다며 이 기술을 떠났지만, 일부 물리학자들을 포함한 연구자들은 핵융합 장치 제어 등 이 기술 없이는 풀 수 없는 문제들이 있었기에 끈질기게 붙들고 있었습니다. 그렇게 약 10년의 기나긴 암흑기가 이어졌습니다.

이 암흑을 깬 것이 2016년 '알파고'였습니다. 사실 알파고는 과거의 인공신경망 기술을 활용한 것이지만, 대중의 부정적 인식을 피하기 위해 '딥러닝(Deep Learning)'이라는 멋진 이름으로 다시 태어났습니다. 이것이 두 번째 만능주의, 딥러닝 시대의 시작이었습니다.

그리고 2022년 ChatGPT가 등장하며, 지금 우리는 세 번째 만능주의, 'LLM 만능주의' 시대의 한복판에 서 있습니다. 전문가는 이 LLM 만능주의 역시 머지않아 그 한계와 문제점을 드러내며 주춤하게 될 것이라고 예측합니다. 대중의 기대는 롤러코스터를 타지만, 기술 자체는 그 바닥에서 꾸준히 발전해왔다는 것이 핵심입니다.

무엇이 10년의 AI 겨울을 끝냈는가?

그렇다면 '죽은 기술'이라 불렸던 인공신경망은 어떻게 '딥러닝'이라는 이름으로 화려하게 부활할 수 있었을까요?

AI 기술의 발전 과정은 흥미롭게도 '창과 방패의 싸움'과 같았습니다. 먼저 수학자들이 "AI로는 이 문제를 푸는 것이 불가능하다"고 수학적으로 증명하며 암흑기가 시작됩니다. 하지만 AI 개발자들은 "그래도 우린 이걸로 먹고살아야 한다"며, 소위 '라면 수프를 때려붓는' 심정으로 주먹구구식이라도 방법을 찾아내 성능을 끌어올립니다. 그러면 그제야 통계학자들이 "개발자들이 해낸 것이 통계적으로 이런 의미였다"고 설명하는 논문을 쓰며 기술을 뒷받침합니다.

이런 과정을 거쳐 10년의 암흑기를 깬 결정적인 동력은 두 가지였습니다. 바로 빅데이터 생태계와 압도적인 컴퓨팅 인프라입니다.

AI와 빅데이터는 햄버거와 콜라 같은 '세트 메뉴'입니다. AI를 훈련시킬 '연료'가 바로 빅데이터이기 때문입니다. 2000년대 중반에는 AI를 훈련시킬 만한 양질의 빅데이터 생태계가 없었습니다. 하지만 지금은 인터넷과 클라우드 환경이 폭발적으로 발전하며 연료가 충분해졌습니다.

또한, 과거에는 상상도 못 할 성능의 컴퓨터를 이제는 '대량으로 쏟아부을' 수 있게 되었습니다. 즉, 막대한 자본을 투입해 엄청난 컴퓨팅 파워로 과거의 기술적 한계를 찍어 누른 것입니다.

'딥러닝'이라는 이름이 붙은 이유도 여기에 있습니다. 과거에는 6~7개의 계층만 쌓아도 성능이 죽어버렸지만, 이제는 이미지 인식(CNN) 등에 100~150개의 계층을 쌓아도(Deep) 성능이 버텨내기 때문입니다. 이는 수학적 한계가 틀렸다는 것이 아니라, 압도적인 데이터와 컴퓨팅 파워로 그 한계를 돌파해냈다는 의미입니다.

LLM 만능주의, 그 빛과 명백한 그림자

현재의 LLM 열풍은 2017년 구글이 발표한 '트랜스포머(Transformer)'라는 딥러닝 방식에서 시작되었습니다. 이 모델을 기반으로 GPT(디코더) 계열의 ChatGPT가 탄생한 것입니다.

LLM 기반의 AI가 '생성형 AI'라 불리는 이유는 단순히 답을 찾는 것을 넘어 글을 쓰고, 요약을 하고, 작곡을 하는 등 새로운 것을 '생성'해내기 때문입니다. LLM은 인류의 모든 지식이 '언어'로 표현되어 있다는 점에 착안합니다. 그래서 언어뿐만 아니라 영상 제작, 수학 문제 풀이 등 언어가 아닌 문제조차 '언어 문제'로 치환하여 해결한 뒤 다시 원래대로 돌려놓는 방식으로 막강한 성능을 보여줍니다.

하지만 전문가는 이것이 LLM의 가장 강력한 무기이자, 동시에 근본적인 한계라고 지적합니다.

LLM은 물리학이나 수학을 이해하는 것이 아닙니다. 그저 현재 세상에 존재하는 방대한 데이터를 최대한 학습한 뒤, '다수결의 원칙'에 따라 가장 확률이 높은 패턴대로 답을 생성할 뿐입니다.

여기 아주 중요한 비유가 있습니다. 만약 우리가 갈릴레오 시대의 문서만 모아서 LLM을 학습시킨 뒤 "태양이 도는가, 지구가 도는가?"라고 묻는다면, LLM은 무엇이라고 답할까요? 당시 데이터의 '다수결'은 '천동설(지구가 중심)'이었습니다. LLM은 1초의 망설임도 없이 "태양이 지구 주위를 돕니다"라고 확신에 차서 대답할 것입니다.

LLM은 '진실'을 찾는 것이 아니라, 데이터 속 '가장 우세한 확률'을 따릅니다. 수학 문제를 풀 때도 마찬가지입니다. 수학 자체를 하는 것이 아니라, 확률적으로 가장 정답에 가까워 보이는 풀이 과정을 따라가는 것입니다.

이 '다수를 따라가는' 속성이 LLM의 명백한 한계이며, 현재의 만능주의 열풍이 곧 부딪히게 될 '벽'이라는 것이 전문가의 진단입니다. 이 한계가 드러난 후 기술 발전은 잠시 사그라들었다가, 또 다른 혁신을 통해 다시 기대감을 키우는 과정을 반복할 것입니다.

거품 속에서 '나만의 중심'을 잡는 법

그렇다면 이 거대한 기술의 파도와 거품 속에서 우리는 어떤 자세를 가져야 할까요?

이 전문가는 생성형 AI에 관한 책을 집필할 때 "절대로 생성형 AI를 사용하지 않았다"고 말합니다. 만약 AI의 도움을 받아 목차를 잡고 초안을 썼다면, 결국 지금 시장에 이미 존재하는 '평균적인' 내용들을 답습하는 결과물밖에 나오지 않았을 것이기 때문입니다.

그는 여행 계획을 비유로 듭니다. 만약 우리가 AI에게 처음부터 "대만 여행 어떻게 하면 좋아?"라고 물어본다면, AI는 최근 대만을 다녀온 수많은 사람의 경험(유명 맛집, 인기 관광지)을 종합해 가장 '평균적이고 무난한' 계획을 내놓을 것입니다. 결코 나만의 특별한 여행이 될 수 없습니다.

하지만 내가 먼저 "나는 조용하고 역사적인 컨셉으로 대만 여행을 가고 싶어. 현지인들이 가는 숨겨진 장소 위주로 추천해줘"라고 주도적으로 방향을 잡고 AI에게 도움을 받는다면, AI는 매우 충실하고 가치 있는 조력자가 될 수 있습니다.

핵심은 '주도적인 사고'입니다. 지금의 LLM 만능주의에 휩쓸려 내 생각과 판단을 AI에 맡기는 것이 아니라, 나만의 컨셉과 방향성을 먼저 확립해야 합니다. 그런 다음 AI를 '도구'로서 활용할 때, 우리는 이 기술의 거품이 아닌 진정한 가치를 누릴 수 있습니다.