* 일본어 원문을 번역한 글이므로 다소 부자연스러운 표현이 있을 수 있습니다.

1. LLM과 요동(흔들림)

대규모 언어 모델(LLM)의 급속한 진화는 사회의 '지식' 생산 구조에 돌이킬 수 없는 변화를 가져오고 있습니다. 그 변화의 본질을 파악하는 데 있어 중요한 개념이 바로 답변의 '요동의 수렴과 확산'입니다.

LLM이 고성능화됨에 따라, 정형화된 질문(예를 들어 '1+1=2'와 같은 사실 확인이나 기초적인 논리 전개)에 대해서는 답변의 요동이 급속히 수렴하여 항상 동일한 최적해를 출력하게 됩니다. 반면, 창의성이나 복잡한 맥락에 대한 깊은 이해가 요구되는 질문에 대해서는 다양하고 각양각색의 답변을 만들어내고 있습니다.

이 현상은 현재 LLM이 가진 '확률 계산에 의한 최적화' 과정을 직관적으로 보여주는 것으로, 오늘날 AI의 동작이나 프롬프트 엔지니어링을 이해하는 데 중요한 전제가 됩니다. 본고에서는 AI의 진화로 인해 '결과(출력)'를 만들어내는 비용이 제로에 가까워지는 사회에서, 그동안 간과되어 왔던 인간 노동 가치의 본질이 어디에 있는지, 그 실무적인 행방을 고찰해 보고자 합니다.

2. 출력 지상주의와 병량 공격(고사 작전)

많은 비즈니스인들은 경영 전략이나 프로그래밍과 같은 고도화된 전문 업무에는 '정답이 없고 다양한 의견(요동)이 존재한다'고 인식하고 있습니다. 그러나 AI의 진화는 이러한 전제를 근본적으로 뒤엎고 있습니다. 인간이 복잡하고 정답이 없다고 느꼈던 업무의 상당수는, 단순히 인간의 인지 능력이나 처리 능력의 한계(또는 일정한 속도로 그것들을 출력하기 어려움)로 인해 '국소적 최적해'가 난립했던 것에 불과합니다.

초고성능 AI는 무수히 많은 변수를 순식간에 계산하여 이를 '단순한 계산 문제'로 처리합니다. 그 결과, 단 하나의 '최적해(완벽한 일반론)'를 발견하고 그곳으로 답변이 수렴해 갑니다. 이 법칙은 언어 공간에 국한되지 않고 물리적 공간에도 적용됩니다. 자율주행이나 로봇에 의한 고도의 물리적 작업 역시, 현실 세계의 노이즈에 대한 요동이 계산에 의해 수렴됨으로써 궁극적인 최적화 태스크로 완수되는 것입니다.

여기서 중요한 점은, AI가 완벽한 정답을 도출하는 과정은 인간이 가진 '의미에 대한 이해'나 '논리적 추론'과는 전혀 다르다는 것입니다. 그것은 철저히 '과거 데이터에 기반한 확률 계산'일 뿐입니다. 이러한 전제에 설 때, AI가 인간과 동등하거나 그 이상의 의식을 갖춘 초지능에 도달한다는 SF적·철학적 비약을 냉정하게 분리해 낼 수 있습니다.

그러나 과정이 전혀 다르다 할지라도, 현실 사회에서는 '출력(결과)이 완벽하다면 실무는 대체된다'는 냉혹한 사실이 앞을 가로막습니다. 지금까지 사회는 출력의 질을 기준으로 타인을 신뢰하고 평가해 왔습니다. 하지만 AI로 인해 '완벽하고 깔끔한 출력'을 생성하는 비용이 제로(범용화)가 된 현재, 이 시스템은 기능 부전에 빠지고 있습니다. 특수 사기의 고도화, 채용 및 교육에서의 평가 공동화, 겉보기에만 그럴싸한 전문성으로 인한 시장의 혼란 등은 '출력 지상주의'가 낳은 시스템 버그의 전형적인 사례입니다.

세간에서 말하는 'AI 시대에 살아남는 직업'과 같은 안일한 라벨링은 위험한 함정입니다. 이는 AI의 고성능화 잠재력을 충분히 반영하지 못했다는 우려를 지울 수 없습니다. 그러한 역할조차 불필요해지거나 극소수만 남게 될 것이라는 의미입니다. 어떤 직종이든 아름다운 그림이나 글을 '출력'하는 것을 목적으로 하는 노동자는, 자동적으로 의자가 줄어드는 의자 뺏기 게임에 참여하게 되는 셈입니다. AI라는 존재에 대한 근본적인 이해나 깊은 고찰을 하지 않는다면, 그야말로 '병량 공격(고사 작전)'에 빠지게 될 것입니다.

3. 유용성과 파급

고도의 전문직이 AI의 고성능화가 이끄는 '요동의 수렴'으로 인해 대체될 위기에 처한 반면, 공장, 배송, 창구 업무와 같은 단순 현장 노동은 더욱 강력하게 AI로 대체될 대표적인 일자리로 꼽히고 있습니다. 여기서는 감히 후자에 초점을 맞춰보겠습니다. 이러한 작업들은 정말로 아무런 의미가 없는 단순 작업일까요?

여기서도 중요해지는 것이 '출력(결과)'이라는 개념입니다. AI의 연산과 마찬가지로, '최종적인 출력의 효율성'에만 초점을 맞추어 노동을 평가한다면, 이들은 말 그대로 기계로 대체되어야 할 불필요한 일이라 할 수 있습니다. 그러나 '출력 지상주의'의 관점에서 벗어나, 그 업무 과정이 현실 사회에서 어떤 역할을 하고 있는지 깊이 이해하려 할 때, 그곳에는 확실하게 발휘되고 또 축적되어 가는 '유용성'이 존재합니다.

하지만 여기서 말하는 '유용성'이란, 그 성질상 객관적인 지표로서 실시간으로 보여주기 어려운 것입니다. 일상적인 업무 과정 속이나 혹은 해당 당사자 내면에 무의식적인 수준으로 녹아들어 있으며, 그 진정한 가치가 객관적으로 파악되는 것은 항상 나중에 '안정적인 출력이 확정된 후'에 불과합니다. 역설적이지만, '출력(결과)'에만 의존하는 최적화 사고방식으로는 이 근원적인 유용성을 영원히 얻을 수 없다고 할 수 있습니다.

이러한 맥락에서 여기서 얻을 수 있는 유용성으로, 인정이나 도덕, 혹은 '인간 특유의 따뜻함' 같은 것을 떠올리는 사람도 많을 것입니다. 하지만 반드시 그런 것만은 아닙니다. 여기서는 조직이나 사회 시스템 전체를 원활하게 구동시키기 위한 '실무적인 가치'를 의식하고 있습니다. 그리고 그 대표적인 것이 주변으로 연쇄되어 가는 '파급 효과(경제적 외부효과)'입니다.

예를 들어, '분위기가 나쁜 매장(A)'이 있다고 가정해 봅시다. 그곳을 방문한 고객은 냉담한 응대나 방치된 실수로 인해 '불만의 불씨(스트레스)'를 떠안게 됩니다. 그 고객은 매장을 나선 후, 가정이나 직장에서 그 불만의 불씨를 타인에게 표출하고, 이번에는 그것을 맞은 사람이 새로운 불만을 품게 됩니다. 이는 얼핏 보면 단순한 인간적·감정적 순환처럼 보이지만, 실무적인 거시적 관점에서 보면 '한 현장에서 발생한 오류(노이즈)가 사회 전체로 연쇄되어 곳곳의 생산성이나 관계성을 파괴해 가는 과정'에 다름 아닙니다.

반대로, 사회 어딘가에서 '불만의 불씨'를 안게 된 사람이 수치뿐만 아니라 '분위기가 좋은 매장(B)'을 방문했다고 가정해 보겠습니다. 이 매장의 직원은 매뉴얼(1+1=2)에 들어맞지 않는 고객의 불쾌함이나 이레귤러한 요구라는 '노이즈'를 그 자리에서 유연하게 흡수하여 매끄러운 대응을 보여줍니다. 결과적으로 고객이 안고 있던 불만의 불씨는 그 자리에서 진화되고, 평온한 상태로 다음 목적지(가정이나 직장)로 향하게 됩니다.

이 두 가지 패턴을 보고 결국 그런 류의 이야기인가 하고 생각하실지도 모릅니다. 하지만, 예를 들어 A의 주변 구역/B의 주변 구역, A와 같은 조직이 많은 구역/B와 같은 조직이 많은 구역이라는 식으로 스케일 업하여 생각했을 때 그 인상은 달라집니다. 오가는 사람의 양이나 분위기, 그에 수반되는 치안의 좋고 나쁨, 그것을 데이터로 파악한 비즈니스의 진출/철수, 이러한 연쇄로 일어나는 지가나 부동산 평가의 변동, 이것들은 바로 파급 그 자체입니다.

국소적인 '출력(수치·처리 속도)'의 최적화밖에 계산할 수 없는 AI에게는, 이처럼 광범위하고 추상적인 파급 효과를 계산하는 것이 불가능합니다. 출력을 내는 것에만 특화된 AI의 최적화를 밀어붙여, 이 '노이즈 흡수와 파급의 진원지'인 인간의 과정을 현장에서 무턱대고 배제하는 것은 본말이 전도된 결과를 초래할 수 있습니다.

'공장, 배송, 창구 업무와 같은 단순 현장 노동은 더욱 강력하게 AI로 대체될 대표적인 일자리로 꼽히고 있습니다. 이러한 작업들은 정말로 아무런 의미가 없는 단순 작업일까요?'라는 당초의 질문에 대한 답은 명확합니다. 거시적인 관점에서 보면, 그것은 사회의 마찰을 줄이고 눈에 보이지 않는 파급 효과를 창출하는 불가결한 과정입니다. 또한 미시적인 관점(노동자 개인의 관점)에 서더라도, 'AI는 이해할 수 없는 전체 프로세스'의 한 축을 담당한다는 것 자체가 당사자의 의식에 따라 스스로의 기초 체력을 기르는 귀중한 시사점이 될 수 있습니다. 반대로 출력에 지나치게 집착한다면, 이는 스스로 'AI가 100% 이해하고 대체할 수 있는 영역'으로 걸어 들어가는 것을 의미합니다.

4. AI 도입의 역설

현장에서 인간의 '과정'이 갖는 중요성을 확인한 위에서, 현재 AI가 도입된 선진적인 직장에서 실제로 무슨 일이 일어나고 있을까요?. 'AI를 도입함으로써 직장의 추상적인 요소(분위기나 인간관계)가 향상되고 있다'고 추측할 수 있습니다.

하지만 이는 AI가 자율적으로 긍정적인 분위기를 만들어내고 있는 것은 아닙니다. 그 진정한 이유는 '추상적인 휴먼 에러(감정적 마찰이나 마이너스 요인)'를 AI가 감정 없는 필터로서 흡수하고 차단하고 있기 때문입니다.

AI가 '1+1=2'의 정형 작업이나 감정적 마찰을 수반하는 정보 전달의 허브를 도맡음으로써, 인간의 인지 부하는 대폭 감소합니다. 그 결과 인간에게는 '여백'이 생겨, 문제에 대한 허용이나 인내, 인식력, 판단력을 높일 수 있게 됩니다. 특히 일본과 같이 문화적 배경에 기인하는 보이지 않는 비용이 높은 사회에서, AI는 이로 인해 발생하는 문제들을 대폭 완화하는 고도화된 도구로 기능하고 있습니다. 이것이 '수평적인' 환경 조성에 지대한 공헌을 하고 있는 것은 아닐까 생각합니다.

현재는 그야말로 AI가 완벽한 '출력'을 담당하고, 인간은 그 여백을 사용하여 '이상 탐지'에 전념할 수 있는 이상적이고도 최강의 하이브리드 상태(과도기)에 있다고 할 수 있습니다.

그러나 이 대성공 페이즈야말로 최대의 함정을 품고 있습니다. '수치(출력)도 분위기(과정)도 극적으로 향상되었다'는 강렬한 성공 체험은, 이윽고 경영진이나 사회 전체에 'AI가 극히 우수하므로 모든 문제가 해결되었다. 더 이상 노이즈가 많은 현장의 인간은 불필요하다'라는 치명적인 착각을 일으킵니다.

이러한 착각은 '출력 지상주의에 대한 과신'을 증폭시켜, 조직을 지탱하던 보이지 않는 인프라를 잘라내려는 결단으로 경영자를 몰아갑니다. AI의 출력만을 평가하고 그 이면에서 노이즈를 흡수하던 과정을 경시한 결과, 최종적으로는 조직 전체가 멈춰버리는 '병량 공격'의 도화선이 되는 것입니다. 출력이 완벽해지면 완벽해질수록, 그 출력을 지탱하고 있는 '인간의 과정'이 갖는 존재 의의를 올바르게 평가해야 한다는 역설에 직면해 있는 것입니다.

5. AI 시대의 통제성

'출력'이 완벽하게 수렴해 가는 AI 사회에서 인간이 수행해야 할 진정한 역할은 무엇일까요?. 세간에서는 '센스 있는 프롬프트(지시문)를 입력하여 AI로부터 깔끔한 출력을 끌어내는 것'을 AI를 다루는 기술이라며 치켜세우고 있습니다. 하지만 출력 그 자체가 범용화(무가치화)되는 미래에서, 그러한 얄팍한 기술은 아무런 우위도 가지지 못합니다.

진정한 의미에서 'AI를 다룬다'는 것은 출력자에서 '책임자/편집자'로의 전환을 의미합니다. 이는 AI가 확률 계산을 통해 튕겨낸 무수한 국소적 최적해나 완벽하게 정돈된 일반론을 '단순한 출발선'으로 취급하고, 인간의 감각적 재량을 최대한 발휘하여 시행착오를 겪어 나가는 것입니다. 출력된 결과물이 직접적인 목표지점이 아니라는 뜻입니다. 창조적인 태스크에서 AI가 무수히 흩뿌려 놓은 아이디어의 바다에서, 어떤 조합이 진정으로 새로운 가치를 창출할 것인지를 인간의 감정과 맥락을 통해 골라내는(큐레이션 하는) 고도의 통제성이 요구되는 것입니다.

눈앞에 100개의 계산 문제가 있다고 해보겠습니다. 만약 그 목적이 '내일 경영 회의에서 보고하기 위한 정확한 결과(출력)'를 얻는 것이라면, 망설임 없이 AI에게 맡기는 것이 정답입니다. 하지만 만약 그 목적이 '자녀 교육'이나 '자신의 트레이닝'이라면, 효율성을 무시하고서라도 스스로 종이와 펜을 들고 시행착오를 거치며 문제를 풀어야 합니다. 왜냐하면 그곳에는 '마찰을 동반하는 과정' 그 자체에 가치가 있기 때문입니다.

이러한 '출력이 필요한 것인지, 과정이 필요한 것인지'를 꿰뚫어 보는 메타 인지 능력과, 효율화의 유혹을 뿌리치고 '굳이 AI를 쓰지 않고 의도적으로 불편한 과정을 선택하는' 고도의 의사결정을 할 수 있는 인간만이 출력 지상주의로 인한 고사 작전을 회피할 수 있습니다.

과정을 계속해서 포기한 인간은 훗날 AI가 초고도화된 경영 전략이나 기획을 출력해 냈을 때, 그 수치나 논리가 타당한지, 혹은 치명적인 환각 현상(할루시네이션, 그럴싸한 거짓말)이나 시코팬시(과잉 동조)를 포함하고 있지는 않은지를 피부로 느끼며 이상 탐지를 할 수 없게 됩니다. 과정을 중시하는 것은 AI의 출력을 통제하기 위한 '기본적인 직관(기초 체력)'을 기르는 불가결한 행위인 것입니다.

AI의 완벽한 출력(일반론의 극치)을 목격하면 인간은 종종 'AI는 고도의 과정을 거쳐 의미를 이해하고 있다(초지능에 도달했다)'라고 의인화하여 착각하게 됩니다. 하지만 이러한 SF적·철학적 해석으로 도피하는 것은 위험합니다. 눈앞에 다가온 '출력에만 의존하는 인간의 수요 감소'라는 위기에서 눈을 돌려, 스스로를 과정과 책임을 지는 쪽으로 이행시키는 행동을 가로막아 버리기 때문입니다.

6. 사회 구현의 장벽

지금까지 출력 지상주의의 붕괴와 인간의 '과정'이 지닌 가치에 대해 논해 왔습니다만, 이를 현실의 사회 시스템에 구현하는 데에는 몇 가지 객관적인 장벽(과제)이 존재합니다.

첫 번째 장벽은 '과도기(타임 래그)의 투박하고 고된 과정'입니다. 논리적으로 '출력의 가치가 제로가 되는 것'은 피할 수 없는 미래지만, 현실 사회에는 복잡한 법 규제, 기존의 상거래 관행, 그리고 구시대적인 평가 기준을 가진 조직 체제가 뿌리 깊게 남아 있습니다. 이 이론과 현실의 갭이 메워지기까지는 10년~20년 단위의 타임 래그가 발생할 가능성이 있습니다. 이 '오래된 체제와 새로운 AI 인프라가 혼재하는 진흙투성이의 이행기'를 어떻게 살아남을 것인가 하는 관점은 극히 실무적인 과제가 됩니다.

두 번째 장벽은 'AI의 "완벽한 출력" 자체가 가진 붕괴 위험'입니다. 본고에서는 AI의 출력이 완벽한 인프라가 될 것을 전제로 하였으나, 현재의 AI 연구에서는 AI가 생성한 데이터를 AI 자신이 계속해서 학습함으로써 모델이 열화되는 '모델 붕괴(Model Collapse)'라는 현상이 우려되고 있습니다. 인프라가 되어야 할 AI 자체가 오염되었을 경우, 이에 어떻게 대처할 것인가 하는 리스크 헷지도 차세대 책임자에게는 요구됩니다.

세 번째 장벽, 그리고 가장 큰 과제가 ' "과정"을 평가하는 새로운 사회 지표의 부재'입니다. 현대의 자본주의 사회는 매출, 팔로워 수, 시험 점수와 같은 '출력'을 측정하는 정량적 시스템에 의해 최적화되어 있습니다. AI 시대에 있어서 '인간의 과정(길러지는 유용성이나 이상 탐지 능력)'이 중요하다고 해도, 그것을 어떻게 정량 평가하여 급여라는 대가로 변환할 것인가. '평가 시스템의 디자인'이야말로 다음으로 해결해야 할 가장 어려운 테마입니다.