AI는 이제 말하는 비서를 넘어, ‘함께 일하는 동료’가 되고 있습니다. 최근 생성형 AI는 단순히 명령을 수행하고 결과를 내는 수준을 넘어서, 사용자의 목적을 이해하고 스스로 계획을 세워 행동하는 ‘에이전틱 AI’로 빠르게 진화하고 있습니다.
특히 눈에 띄는 변화는, 인간 전문가 수준의 사고력과 문제 해결 능력을 갖춘 대규모 언어 모델(LLM)이 속속 등장하고 있다는 점입니다. 2024년 9월, OpenAI의 ChatGPT o1 모델이 ‘MMLU (Measuring Massive Multitask Language Understanding)’에서 89.8점을 기록하며 공식적으로 인간 전문가 수준을 달성했습니다. MMLU는 과학, 기술, 국제법, 역사, 영양학 등 57개 주제에 걸쳐 약 16,000개의 객관식 문제로 구성된 테스트로, 대규모 언어 모델(LLM)의 범용 지능 수준을 평가하는 기준으로 널리 사용되고 있습니다.
흥미로운 건, 고성능 LLM이 상용 서비스뿐만 아니라 오픈소스 모델에서도 나타나고 있다는 점입니다. 딥시크의 오픈소스 모델 R1은 MMLU에서 89.9점을 기록해 인간 전문가 수준을 넘어섰습니다. LLM은 사람처럼 사고하고 문제를 해결하는 수준에 도달해, 단순한 비서가 아닌 ‘디지털 동료(Digital Coworker)’로 자리매김하고 있습니다.
단순 답변 제공자를 넘어 함께 일하는 동료가 된 LLM
이러한 진화를 가장 잘 보여주는 개념이 바로 ‘에이전틱 LLM (Agentic LLM)’입니다. 기존 LLM이 사람이 묻는 말에 수동적으로 답변하는 수준이었다면, 에이전틱 LLM은 목표를 설정하고, 멀티스텝으로 추론하며, 외부 도구를 활용해 실제 업무를 처리합니다. 즉, 단순히 말만 잘하는 AI가 아니라, 실제로 ‘일할 수 있는 AI’인 셈이죠.
예를 들어, 기존 LLM은 “서울의 이탈리안 맛집을 추천해 줘”라는 질문에 맛집 리스트를 제시하는 데 그쳤을 겁니다. 하지만 에이전틱 LLM은 사용자의 요청을 이해한 뒤, 적절한 식당을 찾고 외부 API를 통해 예약까지 자동화된 방식으로 연계할 수 있습니다. 물론 아직 실제 예약을 수행하려면 인증과 결제를 포함한 시스템이 추가로 필요하지만, 핵심은 단순 응답을 넘어 ‘행동’을 통해 현실 세계에 ‘변화’를 만들어낸다는 점입니다. 일정 등록, 이메일 작성, 문서 요약 등 반복적인 업무에서도, 사용자의 의도에 따라 필요한 정보를 찾고, 계획하고, 실행하는 전 과정을 스스로 수행할 수 있게 됩니다.
LLM은 어떻게 이처럼 빠르게 진화하고 있을까요? 초기에는 ‘규모의 법칙’이 핵심 전략이었습니다. 더 많은 데이터를 더 큰 모델에 넣고, 막대한 연산 자원으로 학습시키는 방식이죠. 하지만 지금은 양보다 질이 더 중요해졌습니다. 이제는 모델이 스스로 생각하는 방식, 즉 추론 (Reasoning) 능력을 갖추는 것이 핵심입니다.
사람은 어려운 질문을 받으면 단순히 떠오르는 답을 말하기보다, 상황을 이해하고 판단한 뒤 답을 내리는데요. LLM에도 이런 원리를 적용해 복잡한 문제에 대해 계획적으로 사고하고, 정확하게 판단하도록 훈련되고 있습니다. 이를 통해 LLM은 단순한 대화형 모델에서 문맥을 이해하고 복잡한 문제를 해결할 수 있는 도구로 진화하고 있습니다. 그 결과, 앞서 설명한 에이전틱 LLM이라는 새로운 패러다임이 등장한 겁니다.
이처럼 실행력과 자기 주도성을 갖춘 AI가 등장하면서, 기업들도 AI를 단순 자동화 도구가 아닌 업무 혁신의 동반자로 인식하기 시작했습니다. 다양한 산업 현장에서 에이전틱 AI 도입의 필요성과 중요성이 점점 더 커지고 있습니다.
하지만 현실적으로는, 고성능 모델을 안정적으로 운용하기 위한 막대한 인프라 투자와 보안 리스크가 장애물로 작용하고 있습니다. 특히 중소기업이나 민감한 데이터를 다루는 조직에서는 이러한 제약이 더 크게 다가옵니다. 그 대안으로, 최근에는 작고 빠르면서도 특정 목적에 최적화된 경량형 LLM, 바로 sLLM (smaller Large Language Model)을 활용한 에이전트 구축 수요가 증가하고 있습니다.
파수는 이러한 흐름에 발맞춰 기업 환경에 최적화된 sLLM을 개발했고, 도입부터 활용까지 지원하고 있습니다. 비교적 저사양 인프라에서도 설치 및 실행할 수 있는 기업형 Private AI, ‘Ellm (엘름)’은 실제 업무에 필요한 기능을 중심으로 설계된 스마트한 에이전트입니다.
기술 발전 속도도 눈에 띕니다. 불과 몇 개월 전만 해도 140억 개의 파라미터를 가진 모델이 하던 작업을, 이제는 70억 파라미터의 모델이 충분히 처리할 수 있게 됐습니다. 모델의 크기는 작아졌지만, 성능은 오히려 향상되고 있습니다.
파수는 sLLM에 더 높은 실행력을 부여하기 위해 다양한 기술 훈련을 수행하고 있는데요. 먼저 Reasoning 강화 훈련을 통해 AI가 먼저 생각하는 과정을 거치도록 하고, 기업의 데이터를 더 잘 이해하도록 만드는 데 중점을 두고 있습니다. 또 RAG (Retrieval-Augmented Generation, 검색증강생성) 기술을 통해 LLM과 사내 문서 및 데이터베이스를 연동해 최신 정보에 기반한 답변을 제공할 수 있도록 지원합니다.
무엇보다도 ‘인간 중심의 에이전트 설계’를 철학으로 삼고 있습니다. 에이전트가 사람의 의도를 최우선으로 이해하고 존중하며, 가장 중요한 결정은 사람이 내릴 수 있도록 설계합니다. 기술보다 사람을 중심에 두는 AI, 그것이 파수가 추구하는 방향입니다.
에이전틱 LLM은 더 이상 먼 미래의 이야기가 아닙니다. 이미 수많은 기업이 실무에 ‘일하는 AI’를 적용하고 있고, 그 효과는 점차 입증되고 있습니다. 그러나 기술이 고도화될수록, 우리 조직에는 어떤 모델이 적합한지, 어떻게 안전하게 도입할지에 대한 고민도 깊어집니다.
파수는 보안과 AI 분야에서의 경험과 전문성을 바탕으로, 기업에 최적화된 에이전트 환경을 구성하고, 주기적인 업그레이드와 운영 지원을 제공합니다. 지금이 바로, 여러분의 비즈니스 성과에 진짜 도움이 되는 AI와 함께 할 타이밍입니다. 우리 조직의 목표 달성을 도와줄 든든한 디지털 팀원이 필요하다면, 언제든 파수에 문의하세요!
